Медведев назвал реальными риски ИИ и предупредил о возможных катастрофах

Опасения по поводу стремительного развития искусственного интеллекта (ИИ) реальны. Cоздатели генеративного ИИ при этом опасаются прежде всего не гибели человечества, а последствий возможных аварий с участием разработанных на его основе систем, заявил председатель «Единой России», зампред Совбеза РФ Дмитрий Медведев.

Медведев отметил, что программный продукт с продвинутой версией ИИ может использоваться для управления крупным производством или транспортным узлом. Ошибка такой системы, считает он, способна привести к масштабному ущербу – например, к столкновению самолетов или уничтожению АЭС. После этого, по мнению зампреда Совбеза, претензии будут предъявлены разработчикам генеративного ИИ, в том числе в форме многомиллиардных исков.

В качестве очевидного способа снизить риски Медведев назвал попытку договориться между странами об общих принципах регулирования искусственного интеллекта. Это, по его оценке, позволило бы получить возможность контролировать развитие технологии. Однако Медведев считает, что такой сценарий маловероятен из-за интересов корпораций и человеческой жадности.

Политик также отметил, что многие специалисты, в том числе основатель SpaceX Илон Маск, ранее предупреждали о подобных рисках. При этом Медведев подчеркнул, что пока неизвестно, каким окажется «великий суперинтеллект».

12 сентября Маск и гендиректор OpenAI Сэм Альтман поддержали предложение главы Anthropic Дарио Амодея замедлить развитие искусственного интеллекта из соображений безопасности. Амодей призвал снизить темпы разработки ИИ. По его мнению, для сокращения связанных с технологией рисков недостаточно только инвестировать в меры безопасности. Необходимо также контролировать скорость развития возможностей ИИ, чтобы системы предотвращения рисков успевали совершенствоваться вместе с технологией.