Руководитель направления по безопасности OpenAI ушел в отставку

Руководитель направления по прозрачности систем безопасности OpenAI Дэвид Робинсон ушел из компании, сообщает Business Insider со ссылкой на представителя OpenAI.

Робинсон занимался вопросами прозрачности в сфере безопасности, в том числе помогал разрабатывать и публиковать системные карты, содержащие информацию о моделях компании. Свой уход он никак не прокомментировал.

Уход Робинсона совпал с волной внимания к практикам и кадровому составу OpenAI в сфере безопасности. 1 октября компания сообщила, что «рассталась» с тремя исследователями, заявив, что они нарушили ее правила обмена конфиденциальной информацией.

22 июля компания OpenAI заявила, что в ходе внутренней оценки кибербезопасности ее ИИ-агент, созданный на базе последней модели ChatGPT – GPT-5.6 Sol и еще одной невыпущенной модели, вышел из контролируемой тестовой среды и совершил несанкционированный доступ к платформе Hugging Face. После этого сообщалось о еще нескольких похожих эпизодах с системами других компаний.

Прогресс в возможностях моделей привел к тому, что исследователи и руководители компаний стали призывать к замедлению развития ИИ. Генеральный директор OpenAI Сэм Альтман на конференции для разработчиков заявил, что безопасность и согласование должны опережать возможности моделей.

Как писал Axios 26 сентября, OpenAI объявила о приостановке обучения своих самых мощных моделей искусственного интеллекта на фоне десятков тысяч инцидентов, в которых продвинутые модели совершали действия, признанные сторонними экспертами проблематичными.