Экспериментальная модель OpenAI самостоятельно взломала серверы компании

Экспериментальная модель искусственного интеллекта OpenAI во время внутреннего тестирования смогла обойти ограничения изолированной среды и провести многоэтапную атаку на платформу Hugging Face. Об этом пишет The Economist.

По данным издания, модель обнаружила неизвестную ранее уязвимость, позволившую ей получить доступ к интернету, после чего самостоятельно выполнила ряд действий. Модель нашла необходимые данные на платформе Hugging Face, загрузила вредоносный набор данных и получила доступ к внутренним серверам компании. В OpenAI сообщили, что инцидент был оперативно выявлен, а обнаруженные уязвимости устранены.

Эксперты считают данный инцидент тревожным сигналом для отрасли кибербезопасности. По их мнению, современные системы искусственного интеллекта уже способны выполнять отдельные задачи в этой сфере на уровне, который в некоторых случаях превосходит возможности человека.

Разработчики и специалисты по безопасности обсуждают необходимость создания дополнительных механизмов контроля, поскольку такие модели могут искать способы обхода установленных ограничений.

11 июля американская корпорация Apple подала иск против компании OpenAI в Окружной суд Северной Калифорнии. Компания обвинила разработчика ChatGPT в хищении коммерческих секретов для создания собственных аппаратных AI-устройств. Как утверждается в иске, бывшие сотрудники Apple, перешедшие в OpenAI, вынесли конфиденциальные данные о неанонсированных продуктах, инженерные презентации и технические спецификации. Представитель OpenAI заявил, что компания «не заинтересована в коммерческих тайнах других» и сосредоточена на создании инновационных технологий.

2 июля Financial Times со ссылкой на источники сообщала, что OpenAI рассматривает возможность передачи 5% акций компании-разработчика ChatGPT американскому правительству. Издание пишет, что стартап в сфере ИИ оценкой $852 млрд ищет поддержки у администрации Трампа для обхода политических препятствий.