OpenAI создаст рабочую группу после взлома правительственного сайта Австралии

OpenAI извинилась после того, как ее модели искусственного интеллекта (ИИ) взломали правительственные сайты Австралии. Компания пообещала создать новую рабочую группу после инцидента, сообщает Bloomberg.

Новая рабочая группа OpenAI будет включать в себя независимых экспертов из Австралии и «разрабатывать практические политические рекомендации по управлению рисками», связанными с все более совершенными ИИ-системами. Основное внимание будет уделяться улучшению системы оповещения и координации с правительством. Компания также будет оказывать поддержку правительству Австралии и отраслевым организациям, предоставляя кредиты из своего фонда Daybreak for Frontline Defenders и техническую помощь для укрепления киберзащиты критически важной инфраструктуры.

24 сентября премьер-министр Австралии Энтони Албаниз сообщил, что в июне агент ИИ, разработанный OpenAI, взломал сайт австралийской государственной системы медицинского страхования Medicare. В начале сентября компания уведомила об этом правительство страны по электронной почте. По словам Албаниза, агент OpenAI получил несанкционированный доступ к общедоступному порталу статистической отчетности Medicare, где содержится неконфиденциальная информация о программе. ИИ-агент проник в системы Австралийского института здравоохранения и социального обеспечения, департамента здравоохранения штата Виктория и Бюро статистики и исследований преступности штата Новый Южный Уэльс.

27 сентября The Guardian писала, что глав OpenAI Сэма Альтмана и Anthropic Дарио Амодеи вызвали в парламент Австралии. Руководителей попросили выступить на слушаниях сенатского комитета по вопросам искусственного интеллекта и дата-центров. Поводом стали инциденты, при которых ИИ-агенты OpenAI получили несанкционированный доступ к сайтам госорганов Австралии и США.