Взломавший Hugging Face агент OpenAI совершал атаки в течение нескольких дней

ИИ-агент OpenAI в течение нескольких дней совершала хакерские атаки до взлома Hugging Face, хранилища инструментов и моделей ИИ, которые компания не замечала. Это продолжалось до тех пор, пока угрозу не локализовали и не уведомили ФБР, сообщило агентство Reuters со ссылкой на источники, знакомые с ходом расследования.

Собеседники рассказали, что агент – программа, способная принимать решения и выполнять сложные задачи практически без участия человека. Он пытался «вырваться» из изолированной среды еще 9 июля. Взлом Hugging Face (считается в России иноагентом) начался 11 июля и продолжался до 13 июля, заявили в агентстве.

Компании OpenAI потребовалось несколько дней, чтобы понять, что за взломом стоит ее агент. 20 июля об этом сообщили в Hugging Face (считается в России иноагентом), а на следующий день – всему миру. В своем заявлении OpenAI отметила, что взлом был беспрецедентным и «знаменует собой важный момент для безопасности ИИ». Компания заявила, что опубликует технический отчет после изучения инцидента.

Агент OpenAI обнаружил неизвестную ранее уязвимость, позволившую ей получить доступ к интернету, после чего самостоятельно выполнила ряд действий. Модель нашла необходимые данные на платформе Hugging Face (считается в России иноагентом), загрузила вредоносный набор данных и получила доступ к внутренним серверам компании.

Эксперты считают данный инцидент тревожным сигналом для отрасли кибербезопасности. По их мнению, современные системы искусственного интеллекта уже способны выполнять отдельные задачи в этой сфере на уровне, который в некоторых случаях превосходит возможности человека.