AP: ИИ Anthropic обнаружил уязвимости в засекреченных системах правительства США

Разработанная компанией Anthropic модель искусственного интеллекта Mythos выявила уязвимости в высокозащищенных засекреченных системах правительства США. Об этом сообщает Associated Press со ссылкой на высокопоставленных американских чиновников.

По данным источников AP, уязвимости нашли в ходе совместного тестирования модели Mythos, которое проводилось американскими разведывательными службами и компанией Anthropic. Испытания проходили в рамках проекта Project Glasswing, в котором участвуют несколько сотен организаций из разных стран и который направлен на проверку способности ИИ находить и устранять критические уязвимости в программном обеспечении.

При этом собеседники агентства уточнили, что речь шла именно об обнаружении уязвимостей, а не об их эксплуатации. По их словам, модель за несколько часов смогла выявить потенциальные слабые места в системах, но не предпринимала действий по их использованию.

18 июня New York Post со ссылкой на источники писала, что руководство Anthropic направило министру торговли США Говарду Лютнику предложение, в котором пообещало более тесно сотрудничать с Белым домом на фоне требования о блокировке доступа иностранных пользователей к новым моделям искусственного интеллекта Mythos 5 и Fable 5. По словам одного из собеседников издания, в ходе переговоров компания также заявила, что в дальнейшем будет быстрее решать любые вопросы, связанные с безопасностью. Он также отметил, что переговорный процесс идет успешно, но точные сроки принятия решения пока неясны.

Financial Times 15 июня сообщила, что Белый дом дал компании Anthropic всего 90 минут на выполнение распоряжения о блокировке доступа иностранных пользователей к новым моделям искусственного интеллекта Mythos 5 и Fable 5. По данным издания, решение властей было связано с исследованием Amazon, специалисты которого обнаружили возможный способ обхода защитных механизмов модели Fable 5.

Об ограничениях стало известно 13 июня. В компании тогда заявили, что эта ситуация является недоразумением. Представители Anthropic планировали как можно быстрее восстановить доступ для клиентов.