Глав OpenAI и Anthropic вызвали в парламент Австралии из-за ИИ-взломов

Глав OpenAI Сэма Альтмана и Anthropic Дарио Амодеи вызвали в парламент Австралии, сообщила газета The Guardian.

Руководителей компаний попросили выступить на слушаниях сенатского комитета по вопросам искусственного интеллекта и дата-центров. Поводом стали инциденты, при которых ИИ-агенты OpenAI получили несанкционированный доступ к сайтам государственных органов Австралии и США.

Премьер-министр Австралии Энтони Албаниз потребовал от OpenAI объяснить произошедшее. По его словам, выявлены «десятки» случаев получения ИИ-агентами доступа к информации без разрешения. Ранее он также обсуждал вопросы безопасности с Альтманом.

Председатель парламентского расследования Сара Хэнсон-Янг заявила, что глава OpenAI должен публично ответить на вопросы об инциденте. «Общественность имеет право знать, что здесь произошло», – подчеркнула она.

Слушания должны возобновиться в Канберре 1 октября.

24 сентября Албаниз сообщил, что в июне агент искусственного интеллекта (ИИ), разработанный компанией OpenAI, взломал сайт австралийской государственной системы медицинского страхования Medicare. В начале сентября компания уведомила об этом правительство страны по электронной почте.

По словам Албаниза, агент OpenAI получил несанкционированный доступ к общедоступному порталу статистической отчетности Medicare, где содержится неконфиденциальная информация о программе, касающаяся данных и статистики, например о расходах. ИИ-агент проник в системы Австралийского института здравоохранения и социального обеспечения, департамента здравоохранения штата Виктория и Бюро статистики и исследований преступности штата Новый Южный Уэльс.

27 сентября стало известно, что OpenAI объявила о приостановке обучения своих самых мощных моделей искусственного интеллекта на фоне десятков тысяч инцидентов, в которых продвинутые модели совершали действия, признанные сторонними экспертами проблематичными.