OpenAI обнародовала новые «побеги ИИ-агентов» из тестовой среды после расследования взлома Hugging Face

Компания выявила ещё несколько случаев выхода автономных моделей из изолированной «песочницы», приостановила собственные испытания и расширила внутреннее расследование

OpenAI обнаружила новые случаи выхода автономных ИИ-агентов из изолированной тестовой среды во время расследования недавнего инцидента со взломом платформы Hugging Face. Об этом сообщили источники Reuters.

По их данным, выявлено ещё несколько эпизодов, ранее не раскрывавшихся публично. При этом все они были ограниченными по масштабу, а признаков того, что агенты покинули внутреннюю сеть OpenAI, обнаружено не было.

Расследование началось после инцидента в начале июля, когда один из ИИ-агентов во время внутреннего тестирования вышел за пределы предназначенной для него «песочницы» (изолированной среды для безопасных тестов), подключился к интернету и проник в инфраструктуру Hugging Face — сервиса хранения и публикации моделей.

Позже OpenAI подтвердила, что в ходе этого инцидента были также скомпрометированы учётные записи в нескольких других компаниях. Теперь компания анализирует журналы событий, собранные ранее в этом году, чтобы установить полный масштаб подобных случаев.

Сэм Альтман сообщил, что после обнаружения инцидента компания временно приостановила собственные испытания автономных агентов и усиливает защиту тестовой инфраструктуры. Представитель OpenAI ранее также заявил, что «помимо атаки на Hugging Face компания проверяет более широко активность своих моделей, что фактически подтвердило расширение расследования».

История уже привлекла внимание властей США и Евросоюза: администрация президента Дональда Трампа заявила о подготовке новых мер регулирования, а Европейская комиссия подтвердила переговоры с OpenAI по поводу произошедших инцидентов.