Эксперты ЭИСИ приравняли ИИ к ядерному оружию
Сейчас его уже используют в политике, а внедрение в мировую экономику ожидается в течение 5-10 лет
Близкий к Кремлю Экспертный институт социальных исследований (ЭИСИ) провел встречу в формате круглого стола на тему «Роль искусственного интеллекта и нейросетей в решении общественно-политических задач».
ИИ и нейросети стремительно внедряются во все аспекты жизни, включая общественно-политическую сферу, пришли к выводу участники дискуссии. Они напомнили, что ИИ уже помогает обрабатывать, к примеру, поток сообщений на прямую линию президента Владимира Путина, число которых превысило 500 000. Одновременно активно обсуждается необходимость нормативного регулирования нейросетей и возможность ограничения ИИ. Участники круглого стола подчеркнули, что дискуссия становится особенно актуальной в свете растущего влияния ИИ в России и мире.
Риски ИИ в России и необходимость контроля
Генеральный директор фонда «Платформа цифровых долин» Алексей Ландарь заявил о необходимости четко определиться, что технология ИИ сейчас – центральная сквозная технология, которая так или иначе будет интегрирована во всю структуру экономики в ближайшие 5–10 лет. Один из самых заметных примеров – это анализ больших данных для выявления общественных настроений. С помощью ИИ можно оперативно отслеживать и комментарии в социальных сетях, и результаты опросов, и публикации в СМИ для понимания мнений различных социальных групп. В бюрократических процессах активно внедряются чат-боты, они помогают гражданам наиболее быстро решать свои юридические и административные проблемы.
Основным вызовом нового времени Ландарь считает манипуляции общественным мнением – ИИ используется для формирования фейковых новостей, видеороликов, аудиозаписей. Кроме того, существует серьезный риск нарушений права на приватность. Не менее важна проблема с предвзятостью тех алгоритмов, которые используют эти нейросети.
«На текущий момент нам надо понимать, что эта технология, как в середине XX в. – ядерное оружие. То есть, с одной стороны, она несет фантастические плюсы для развития экономики, но в то же время – это настоящее гибридное оружие с которым мы должны работать. Если одна из стран получит значительное преимущество в разработке сильного ИИ и уйдет далеко вперед от всех остальных, она получит действительно вполне возможно решающие преимущества для решения собственных стратегических задач», – подчеркнул Ландарь.
Эксперт подчеркнул, что развитие ИИ – глобальный процесс. И его регуляция в том числе должна происходить на основе международного сотрудничества. Это позволит серьезно снизить риск различных манипуляций в общественно-политической сфере. Ландарь подчеркнул необходимость России работать, в первую очередь, с дружественными странами, в том числе с БРИКС, и на основе комплексных международных актов создавать нормативное и правовое поле для ИИ.
Как ИИ применяют в общественно-политических процессах
Руководитель департамента ИИ агентства «Социальные сети» Николай Деревцов рассказал, как ИИ и нейросети применяются в политических технологиях и кампаниях. Нейросети, подчеркнул он, могут анализировать большое количество комментариев, сообщений, постов в социальных сетях и в реальном времени выявлять информационные тренды. Это позволяет существенно ускорить принятие управленческих решений в области общественно-политических информационных задач.
ИИ также нужны для быстрого автоматического анализа социологической информации. Но глобальный выводы, конечно же, должны делать специалисты, потому что, по словам Деревцова, нейросети – это «вишенка на торте» в больших сложных структурах для автоматизации всех процессов, связанных с производством, созданием и распространением контента.
Как ИИ используют на Западе
Руководитель экспертного совета ЭИСИ Глеб Кузнецов подчеркнул, что ИИ – это инструмент, который не является game-changing фактором. Малокомпетентные специалисты могут поручить ИИ написать программу, спеть песню, позвонить респондентам, сделать аналитику, но грамотного политтехнолога ИИ не заменит.
Где по-настоящему ИИ может быть эффективен, считает Кузнецов, это в разного рода маршрутизации того, что организуется на основе технологий «бигдата».
Кузнецов подчеркнул, что ИИ никого ни в чем не способен убедить или переубедить. Он способен только дать пищу для подтверждения того, что и так есть в голове у человека.
«В этом смысле искусственный интеллект, очевидно, будет использован для дальнейшей поляризации обществ, для дальнейшего создания серьезных общественных конфликтов. Причем это относится как к Соединенным Штатам Америки, так и нельзя сказать, что такой риск не существует для стран с другой политической культурой, таких как Россия, например», – считает эксперт.
Что говорит статистика
При этом сохраняется настороженность по сферам применения ИИ, признают во ВЦИОМе. Примерно каждый шестой россиянин заявляет о том, что ИИ должен использоваться во всех сферах. Две трети заявляют о том, что нужно использовать лишь только в некоторых, а 10% считают, что его вообще не надо использовать. Мамонов отметил, что этот показатель имеет возрастную специфику, старшее поколение воспринимает ИИ более настороженно.
При этом те сферы, где предполагаются высокие уровни экспертизы и ответственности, а именно государственное управление, безопасность, экономика, показывают значительно более низкий уровень доверия.
По данным ВЦИОМа, порядка 80% опрошенных ожидают создания системы контроля за использованием технологий ИИ. Они заявляют, что требуется обязательное участие человека в оценке этичности продуктов, решений, созданных ИИ, а сам ИИ не в состоянии оценить деятельность и результаты своей деятельности по критерию этичности. Противоположного мнения придерживаются всего 10% респондентов.
Говоря о положительных примерах использования ИИ, Кузнецов рассказал об избирательной кампании премьер-министра Индии Нарендры Моди. Там ИИ эффективно применялся для перевода его предвыборных речей на разные языки и диалекты, распространенные в Индии.
«Искусственный интеллект переводил на восемь основных языков в режиме онлайн и, по общему мнению, был очень полезен для избирательной кампании в такой стране, как Индия, в качестве переводчика, а не создателя или таргетолога собственного контента», – пояснил эксперт.
Другое направление – использование ИИ как инструмента по обращению к избирателям с предложением поучаствовать в кампании, считает Кузнецов. К примеру, нейросети могут имитировать поведение живого кандидата и использоваться в качестве чат-ботов, отвечающих на вопросы избирателей на основании предыдущих высказываний кандидата и его политической программы. Для эффективного применения таких «имитаций» необходимо достаточное количество материала – собственно, высказываний человека, чтобы ИИ было на чем учиться.
Сам образ ИИ уже используется в мире для подкрепления различных общественных деформаций и конспирологических теорий, рассказал эксперт. Так, в Румынии отменили результаты первого тура президентских выборов из-за того, что якобы «коварные русские подорвали демократию» путем влияния на выборы через алгоритмы ИИ. При этом никакой конкретики в этих обвинениях не раскрывалось.
«Будучи пока достаточно несовершенным и не идеальным инструментом, ИИ превратился в объяснение всего того "зла", которое несет человечеству та или иная страна, та или иная политическая система. И вот в таком виде ИИ будут использовать все больше и больше», – признал эксперт.