Карл III собирается призвать руководителей Nvidia и OpenAI контролировать ИИ

Король Великобритании Карл III проведет в четверг в шотландском Дамфрис-Хаусе форум по искусственному интеллекту. В мероприятии примут участие генеральный директор Nvidia Дженсен Хуанг, финансовый директор OpenAI Сара Фрайар, соучредитель Google DeepMind Демис Хассабис, высокопоставленные представители Anthropic PBC и министр ИИ Великобритании Канишка Нараян. Монарх, согласно подготовленным заявлениям, планирует обратиться к критически настроенным деятелям в области ИИ с просьбой заверить, что технологи смогут держать свои изобретения под контролем.

«Те, кто в нашем мире ценит нашу человечность и ее важнейшую моральную составляющую, с тревогой просят у вас заверения в том, что мы не потеряем контроль над своей судьбой», – скажет Карл III, цитирует Bloomberg заявление Букингемского дворца.

На встрече будет обсуждаться, как технологии могут быть «использованы на благо общества и природы»

Заявление короля Великобритании прозвучало на фоне инцидента с ИИ-агентами OpenAI и последующими высказываниями главы разработчика чат-бота Claude ИИ-компании Anthropic Дарио Амодея. Он заявил, что необходимо замедлить разработку ИИ из соображений безопасности. По его словам, необходимо не просто инвестировать в предотвращение рисков, но и пересмотреть темпы развития возможностей, чтобы у системы предотвращения рисков было время идти в ногу со временем.

Многие первые лица стран высказались на данную тему. Так, например, 14 сентября президент США Дональд Трамп заявил, что контролировать ИИ сможет только сильный лидер с высоким IQ. Он добавил, что «против ИИ и дата-центров плетется заговор», и подчеркнул, что Китай – «единственный, кто этому рад».

16 сентября министр обороны Китая Дон Цзюнь также призвал страны всего мира усилить контроль над ИИ. По его словам, опасения, связанные с неправомерным использованием технологий военными, должны побудить чиновников консультироваться друг с другом по вопросам управления и активно участвовать в диалогах по вопросам безопасности в данном секторе.

14 сентября зампред Совбеза РФ Дмитрий Медведев разделил точку зрения представителей стран об опасности ИИ. Он подчеркнул, что создатели генеративного ИИ при этом опасаются прежде всего не гибели человечества, а последствий возможных аварий с участием разработанных на его основе систем.