Гендиректор OpenAI заявил о достижении точки сингулярности в развитии ИИ

Развитие нейросетей достигло точки сингулярности, то есть неуправляемого и необратимого процесса, который может привести к серьезным изменениям человеческой цивилизации. Об этом заявил гендиректор OpenAI Сэм Альтман в подкасте Relentless, передает Business Insider.

«Мы сейчас, можно сказать, в сингулярности <...>. Теперь мы действительно переживаем момент, о котором раньше говорили за обеденным столом в шутку. Я ждал этого всю жизнь, и я думаю, что это будет нечто невероятное, чрезвычайно позитивное и потрясающее для всего мира», – сказал он.

Кроме того, Альтман раскритиковал крупнейших разработчиков в сфере ИИ, которые неоднократно предупреждали об опасности нейросетей.

22 июля The Economist сообщил, что экспериментальная модель ИИ OpenAI во время внутреннего тестирования смогла обойти ограничения изолированной среды и провести многоэтапную атаку на платформу Hugging Face (считается в России иноагентом). По данным издания, модель обнаружила неизвестную ранее уязвимость, позволившую ей получить доступ к интернету, после чего самостоятельно выполнила ряд действий. Эксперты считают этот инцидент тревожным сигналом для отрасли кибербезопасности. По их мнению, современные системы искусственного интеллекта уже способны выполнять отдельные задачи в этой сфере на уровне, который в некоторых случаях превосходит возможности человека.

19 июля агентство Bloomberg писало, что ИИ также может ударить по экономике и привести к глубоким перестройкам. Издание отметило, что «апокалиптический» сценарий будет связан не с восстанием машин и появлением роботов-убийц, а с тем, что поступления в бюджет от подоходного налога резко сократятся. Развитие ИИ, по мнению автора материала, может привести к уничтожению офисных профессий, а это увеличит уровень безработицы в мире. Государство будет вынуждено нарастить расходы на выплату пособий, а также обучение и обеспечение правопорядка.