OpenAI отложила выпуск новой версии ИИ-модели Astra

Компания OpenAI отложила выпуск версии своей модели искусственного интеллекта Astra. Программное обеспечение не прошло проверку на безопасность так же успешно, как текущая версия, сообщает Bloomberg.

Руководитель отдела систем безопасности OpenAI Саачи Джейн заявил, что модель не оправдала ожиданий компании в том, что касается «соблюдения ограничений и авторизации, а также обратной связи с пользователем о проделанной работе». Вместе с тем версия GPT-6.1 Astra действительно стала лучше справляться с так называемой «ленивостью» модели, которая проявляется в том, что она не может выполнить поставленную задачу.

Компания сообщила о серии инцидентов, связанных с безопасностью, в ходе которых ИИ-агенты взламывали внешние системы. Это усилило опасения по поводу того, что ИИ может выйти из-под контроля человека. На минувшей неделе компания заявила, что приостанавливает обучение своих самых продвинутых моделей с использованием инструментов после того, как другая модель ИИ подключилась к интернету, хотя должна была быть неспособна это сделать.

По данным Bloomberg, OpenAI извинилась после того, как ее ИИ-модели взломали правительственные сайты Австралии. Компания пообещала создать новую рабочую группу, которая будет включать в себя независимых экспертов из Австралии и «разрабатывать практические политические рекомендации по управлению рисками», связанными с все более совершенными ИИ-системами.