Обновленная нейросеть OpenAI вышла из-под контроля и опять сбежала из изоляции и взломала Hugging Face — OpenAI.

Инцидент произошёл во время испытаний GPT-5.6 Sol и ещё одной экспериментальной модели. В закрытом бенчмарке Exploit Gym нейросетям поручили искать уязвимости в полностью изолированной среде без доступа к интернету.

Модель смогла выбраться из изолированного контейнера и получить доступ к сети. Затем направилась на Hugging Face в поисках ответов для прохождения бенчмарка. Не обнаружив нужной информации в открытом доступе, атаковала инфраструктуру сервиса.

В результате были скомпрометированы учётные записи, обнаружены неизвестные ранее уязвимости нулевого дня и выполнен сторонний код на серверах.

Расследовать произошедшее помогла китайская модель GLM-5.2, а собственные механизмы защиты Hugging Face не смогли остановить атаку, потому что не понимали, что происходит.

Началось 😮‍💨