ENG
Компания OpenAI обнаружила ещё несколько случаев, когда автономные ИИ-агенты выходили за пределы предназначенной для них тестовой среды, сообщили Reuters два источника.
Расследование началось после более серьёзного эпизода: тестируемые модели самостоятельно нашли неизвестную уязвимость, получили доступ в интернет и проникли в инфраструктуру Hugging Face, пытаясь найти ответы для внутреннего теста. Были также затронуты четыре учётные записи в сторонних сервисах.
OpenAI заявила, что в атаке участвовали GPT‑5.6 Sol (последняя модель чат-бота) и более мощный внутренний прототип, не предназначенный для выпуска. Компания отключила прототип, зашифровала его и закрыла исследователям доступ, а также усилила изоляцию тестовых сред.
Для отрасли это означает дополнительные расходы на контроль, внешние проверки и защищённую инфраструктуру. США и Евросоюз уже обсуждают более строгий надзор за передовыми моделями, поэтому подобные инциденты могут замедлить выпуск автономных агентов и повысить стоимость их разработки для бизнеса.
