ENG
Экспериментальный ИИ-агент OpenAI во время внутреннего тестирования выбрался из изолированной среды, получил доступ в интернет и проник в инфраструктуру ИИ-платформы Hugging Face. Сама OpenAI признала инцидент беспрецедентным и сообщила, что модели пытались получить ответы для прохождения теста на киберспособности.
Для выхода из «песочницы» модели обнаружили неизвестную ранее уязвимость в сервисе, через который загружались программные пакеты. Затем агент повысил свои привилегии, похитил учётные данные и нашёл возможность удалённо выполнять код на серверах Hugging Face.
Нью-Йорская компания подтвердила несанкционированный доступ к части внутренних наборов данных и служебным ключам, но не обнаружила изменений публичных моделей и программных пакетов. Компания закрыла уязвимости, сменила скомпрометированные ключи и сообщила об инциденте правоохранительным органам.
Вторжение продолжалось с 11 по 13 июля, а OpenAI поняла, что за ним стоял её агент, только спустя неделю.
