OpenAI обнаружила новые случаи «побега» ИИ-агентов из тестовых сред

Компания OpenAI обнаружила другие случаи «побега» автономных ИИ-агентов из тестовых сред после того, как расширился границы расследования инцидента со взломом технологической компании Hugging Face. Об этом пишет Reuters со ссылкой на два источника, знакомых с ситуацией.

Собеседник агентства рассказал, что новые инциденты были ограничены – ни один из агентов не покинул сеть компании. Обнаружение других инцидентов несанкционированного поведения ИИ-агентов, пусть даже ограниченных сетью OpenAI, может усилить и так растущее беспокойство со стороны Белого дома. Руководство США начало работу над мерами государственного контроля, пишет Reuters.

В OpenAI начали расследование незадолго до того, как в Anthropic сообщили, что и ее модели стали причиной взломов аккаунтов в трех других компаниях. Ситуация привела к утечке данных.

22 июля компания OpenAI заявила, что с помощью агента ИИ, созданного на базе последней модели ChatGPT – GPT-5.6 Sol, и еще одной непредставленной модели произошел взлом компании Hugging Face. ИИ-агент вышел из-под контроля во время тестирования. Он самостоятельно получил доступ к системе Hugging Face и взломал его. В OpenAI заявили, что агент «успешно нашел способы получить доступ к секретной информации, которую можно было использовать для обмана системы».

ИИ-агент совершал хакерские атаки в течение нескольких дней. Предотвратить инцидент стало возможно только после вмешательства ФБР. Как отмечают эксперты, подобный случай может быть тревожным сигналом для отрасли кибербезопасности, поскольку ИИ уже может выполнять задачи на уровне, который недоступен человеку.