ИИ-агент OpenAI, взломавший стартап, пытался атаковать другие компании

 ИИ-агент, созданный компанией OpenAI и устроивший серию атак на компанию Hugging Face, также проник в систему клиента компании Modal Labs, сообщила газета The Guardian.

Modal Labs заявила, что агент использовал уязвимый код, который был написан клиентом Modal Labs и размещен на платформе компании.

«Клиент опубликовал конечную точку без аутентификации, что позволило любому пользователю интернета использовать его песочницу для выполнения кода – цифровой эквивалент оставленной открытой двери», – заявил технический директор Modal Акшат Бубна.

Как сообщает The Guardian, агент вышел из своей изолированной среды тестирования («песочницы») и взломал другую «песочницу», которая была размещена в «инфраструктуре другого провайдера».

22 июля компания OpenAI заявила, что с помощью агента ИИ, созданного на базе последней модели ChatGPT – GPT-5.6 Sol – и еще одной не представленной модели, произошел взлом компании Hugging Face. ИИ-агент вышел из-под контроля во время тестирования. Он самостоятельно получил доступ к системе Hugging Face и взломал его. В OpenAI заявили, что агент «успешно нашел способы получить доступ к секретной информации, которую можно было использовать для обмана системы».

ИИ-агент совершал хакерские атаки в течение нескольких дней. Предотвратить инцидент стало возможно только после вмешательства ФБР. Как отмечают эксперты подобный случай может быть тревожным сигналом для отрасли кибербезопасности, поскольку ИИ уже может выполнять задачи на уровне, который недоступен человеку.