Альтман предупредил о риске «случайного захвата мира» искусственным интеллектом

Глава OpenAI Сэм Альтман заявил, что человечество может потерять контроль над искусственным интеллектом не только из-за умышленных действий или выхода технологий из-под контроля, но и «совершенно случайно». Об этом он рассказал в подкасте с главой Axel Springer Матиасом Депфнером, пишет BILD.

По его словам, недооценен сценарий, при котором люди постепенно начинают полностью полагаться на советы алгоритмов.

«Это можно осознать, представив, что происходит с ChatGPT прямо сейчас. Сотни миллионов людей общаются с ChatGPT, скоро их будут миллиарды. И люди все больше полагаются на его ответы – при принятии важных решений в жизни, на работе, во всем», – отметил Альтман.

Он отметил, что люди все сильнее зависят от искусственного интеллекта. По его мнению, ИИ станет еще умнее и начнет давать советы, которым люди будут следовать почти безоговорочно. Затем ИИ станет настолько продвинутым, что его рекомендации будут казаться непонятными, но при этом окажутся верными. В итоге у людей останется два выбора: следовать советам ИИ или проиграть в конкурентной борьбе.

В такой ситуации, считает Альтман, человек фактически перестает самостоятельно принимать решения. По его словам, это приводит к своеобразной «петле обратной связи»: чем больше люди слушают ИИ, тем быстрее он обучается и становится сильнее.

«Кто вообще тогда контролирует процесс? Получается, что мы делаем то, чего хочет модель», – резюмировал Альтман.

1 сентября глава Сбербанка Герман Греф говорил, что в течение 10 лет может появиться ИИ, способный решить глобальные проблемы человечества. Он также прогнозировал, что уже через два-три года ИИ начнет вытеснять людей из низкоквалифицированных профессий.