Исследование: ИИ может выйти из-под контроля человека
Развитие технологий искусственного интеллекта (ИИ) может привести к тому, что он начнет принимать решения самостоятельно. Сейчас нет доказательств того, что человек способен контролировать ИИ. Об этом говорится в обширном исследовании российского ученого из университета Луисвилля Романа Ямпольского, с которым ознакомилось издание Tech Xplore.
В своей книге «ИИ: необъяснимое, непредсказуемое, неконтролируемое» эксперт по кибербезопасности Ямпольский рассматривает возможности искусственного интеллекта кардинально изменить общество, но не всегда в пользу человечества.
«Мы сталкиваемся с почти гарантированным событием, способным вызвать экзистенциальную катастрофу. Неудивительно, что многие считают это самой важной проблемой, с которой когда-либо сталкивалось человечество. Результатом может быть процветание или вымирание, и судьба вселенной висит на волоске», – отмечает ученый.
В своем исследовании Ямпольский, основываясь на анализе научной литературы, приходит к выводу, что у людей нет возможности контролировать ИИ. Если бы даже существовал какой-то частичный контроль, то «его было бы недостаточно». Ученый полагает, что многие исследователи опрометчиво считают проблему управления ИИ разрешимой. Работу над созданием искусственного интеллекта необходимо было начинать, доказав заранее возможность обеспечения безопасности ИИ.
Ученый утверждает, что способность человечества создавать интеллектуальное программное обеспечение намного превосходит его возможности контролировать или даже проверять его. Вне зависимости от пользы ИИ, он будет представлять «определенный уровень риска. Поэтому общество обязано минимизировать его при максимизации потенциальной выгоды.
Как отметил Ямпольский, системам ИИ уже поручено принимать решения в здравоохранении, инвестировании, трудоустройстве, банковском деле и безопасности. Такие системы должны быть в состоянии объяснить, как они пришли к своим решениям, в частности, показать, что они свободны от предвзятости.
«Если мы привыкнем принимать ответы ИИ без объяснения причин, мы не сможем гарантировать, не будет ли он давать неправильные или манипулятивные ответы», – подчеркнул Ямпольский. По его мнению, ученые должны найти баланс между высокоразвитым ИИ и безопасностью. В противном случае человек может стать «подобным младенцу», о которых искусственный интеллект заботится, но не контролируется ими.
В январе «Ведомости. Наука» сообщали, что по данным исследования телеканала «Наука», 73% россиян слышали новости о рисках в связи с дальнейшим развитием ИИ, а также заявления ученых о необходимости взять под контроль совершенствование нейросетей.
В исследовании приняли участие 1600 респондентов по всей России. Речь идет о тех, кто регулярно интересуется научной тематикой, поскольку смотрят профильный телеканал. Климатические изменения и процесс развития ИИ могут оказать, по мнению россиян, существенное воздействие на будущее человечества. Более половины знакомых с этими новостями – 53% – оценили их как крайне важные.