NYT: Китай скептически относится к предупреждениям о катастрофических рисках ИИ
Китайские власти и представители технологической отрасли с осторожностью относятся к предупреждениям американских специалистов о рисках, связанных с развитием искусственного интеллекта (ИИ). В Пекине подобные заявления иногда воспринимают как западную риторику или попытку затормозить развитие китайских ИИ-компаний, пишет The New York Times (NYT).
По данным издания, в Китае считают, что государство способно сохранить контроль над технологией так же, как это произошло с интернетом и другими потенциально дестабилизирующими инструментами. Специалисты отмечают, что китайская культура в меньшей степени воспринимает ИИ через западный сюжет о создании человеком технологии, которая впоследствии выходит из-под его контроля. При этом в Кремниевой долине обсуждаются сценарии экзистенциальных угроз, включая использование ИИ для масштабных атак и создания оружия.
Технологический журналист Афра Ван отмечает различия в подходах. По ее словам, китайские власти располагают широкими возможностями для контроля над инфраструктурой и населением, поэтому идею о том, что технология внутри компьютера сможет выйти из-под контроля государства, там воспринимают иначе.
В китайской технологической отрасли, как отмечает NYT, внимание в основном сосредоточено на возможностях ИИ и инновациях. Исследователь Университета Цинхуа Цзе Цай заявил, что многие специалисты считают технологию все еще находящейся на ранней стадии развития.
Различия связаны и с культурными представлениями о технологиях. Руководитель направления безопасности ИИ пекинской Concordia AI Лян Фан объяснил их китайской концепцией «единства неба и человечества», согласно которой человек является частью природы. Поэтому ИИ, по его словам, воспринимается скорее как элемент сосуществования, чем как внешняя сила, способная восстать против создателя.
27 сентября стало известно, что OpenAI объявила о приостановке обучения своих самых мощных моделей ИИ на фоне десятков тысяч инцидентов, в которых продвинутые модели совершали действия, признанные сторонними экспертами проблематичными. Представитель OpenAI сообщил Axios, что компания возобновит обучение «только тогда, когда мы будем уверены, что у нас есть дополнительные меры предосторожности и улучшения в согласованности». Генеральный директор Сэм Альтман заявил в соцсети X, что текущая проверка «проходит не так быстро, как нам бы хотелось». 12 сентября основатель SpaceX Илон Маск и Альтман поддержали предложение главы Anthropic Дарио Амодеи замедлить развитие ИИ из соображений безопасности.
24 сентября заместитель председателя правительства РФ – руководитель аппарата правительства Дмитрий Григоренко заявил, что страны по всему миру ищут подход к регулированию ИИ, который позволил бы одновременно учитывать интересы граждан и не сдерживать развитие технологий. По его словам, сложность заключается в высокой скорости технологических изменений, за которыми государственным институтам трудно успевать при обновлении норм и правил.