Роскомнадзор сообщил о рисках дезинформации пользователей рекомендательными алгоритмами

Бесконтрольное развитие рекомендательных сервисов может привести к политической поляризации общества, продвижению фейковых новостей и «риторик ненависти», отмечается в аналитической справке, подготовленной подведомственным учреждением Роскомнадзора – ФГУП «Главный радиочастотный центр» (ГРЧЦ). «Ведомости» ознакомились с этим текстом, его аутентичность подтвердил представитель ГРЧЦ. 

Сейчас в том или ином виде рекомендательные сервисы используют все крупнейшие интернет-компании в России. Основные разработчики – «Яндекс» или VK. Такие сервисы анализируют цифровой след пользователя и предлагают для каждого индивидуальный набор контента, рекламы или товаров.

«В основе рекомендательных алгоритмов лежит использование искусственного интеллекта (ИИ), будь то довольно простые модели логистической регрессии или наиболее продвинутые версии глубоких нейронных сетей. Поэтому можно смело утверждать, что ИИ – ключевой компонент популярных социальных сетей», – пишут авторы документа. ИИ же, отмечают специалисты ГРЧЦ, при распространении контента «часто отдает предпочтение спорной, разжигающей вражду и недостоверной информации, поскольку именно такой контент привлекает больше внимания пользователей и ведет к повышению вовлеченности и взаимодействия с платформой».

«В результате социальные сети могут спровоцировать политическую поляризацию и продвигать дезинформацию», – делает вывод ГРЧЦ. В пример ГРЧЦ приводит статистику социальной сети Facebook (принадлежит Meta, признана экстремистской и запрещена в РФ), согласно которой 64% всех новых подписчиков экстремистских групп пришли в них через рекомендации. Также ГРЧЦ ссылается на статистику системы мониторинга поисковой выдачи, которую использовали республиканцы для аналитики рекомендаций в интернете в преддверии выборов в США в 2020 г. Тогда исследователи отмечали существенный перекос в результатах поиска Google в пользу демократов. Аналогичных примеров из работы российских рекомендательных сервисов в ГРЧЦ не назвали.

Также действие рекомендательных алгоритмов может приводить к «созданию эхо-камер», отмечается в записке. Под этим понятием понимается окружение пользователя информацией схожего характера. «Это происходит, когда рекомендательная система предлагает пользователю контент других пользователей на основании схожести их взглядов и интересов. Человек оказывается огражден от информации другого типа или от критической информации в отношении собственных взглядов», – констатируют в ГРЧЦ.

Все эти риски обосновывают принятие законопроекта о регулировании таких сервисов.

«Законодательное регулирование рекомендательных сервисов необходимо для защиты потребителей от непрозрачных алгоритмов отбора контента, способных искажать реальное положение дел и приводить к пугающим последствиям, вплоть до реального нанесения вреда здоровью и психике человека», – заявляют в ГРЧЦ.

Это регулирование среди прочего должно включать в себя возможность независимого аудита используемых тем или иным сервисом алгоритмов. Соответствующий законопроект должен регламентировать использование персональных данных пользователей.

«Пользователь должен быть в доступной форме и в полной мере проинформирован о работе рекомендательного алгоритма, дать согласие на обработку персональных данных и иметь возможность его отозвать», – считают в ГРЧЦ.

По словам представителя Роскомнадзора, данная справка не готовилась к какому-то конкретному мероприятию, ее написали в рамках текущей внутренней работы ФГУП ГРЧЦ. Подготовка документа осуществлялась на фоне обсуждения законопроекта о регулировании рекомендательных сервисов. С инициативой по его разработке в начале этого года выступал зампред комитета Госдумы по информационной политике Антон Горелкин. В апреле 2022 г. РБК со ссылкой на источники сообщал, что законопроект, под действие которого должны попасть соцсети, видеохостинги, онлайн-кинотеатры, поисковые системы, маркетплейсы и др., должны внести в Госдуму до конца весенней сессии.

«Ведомости» направили запрос депутату Горелкину об актуальном статусе законопроекта, но ответа не получили.

Мировой рынок решений с рекомендательными алгоритмами в 2020 г. оценивался в 132,5 млрд руб., отмечают в ГРЧЦ. «К 2028 г. данный показатель должен достигнуть значения в 1 трлн 297 млрд руб. Объем российского рынка в 2020 г. оценивался в 6 млрд руб., к 2024 г. его объем должен достигнуть 21,7 млрд руб.», – отмечается в справке ГРЧЦ.

«Рекомендательные сервисы в основном не используют технологии ИИ. Вместо него используются более простые алгоритмы», – не согласен с выводами ГРЧЦ директор Института исследований интернета Карен Казарян. Чаще всего рекомендательные сервисы используются онлайн-магазинами, кинотеатрами, где не может быть спорного или фейкового контента, добавил он. «Более того, рекламодатели, отчисления которых формируют заработок той или иной платформы, не любят такой спорный контент. А сами же рекомендательные алгоритмы и отфильтровывают негативный, нарушающий закон контент», – продолжил эксперт.

Российские рекомендательные сервисы нуждаются скорее не в законодательном регулировании, а в понятных нормах саморегулирования, резюмировал Казарян.

«Лига безопасного интернета» получала большое количество жалоб пользователей на сервис YouTube за всевозможные ЛГБТ-ролики, которые предлагаются рекомендательными алгоритмами, в том числе детям, привела пример «Ведомостям» гендиректор организации Екатерина Мизулина. «Также были жалобы на ролики с опасными опытами – как устроить взрыв, как поджечь что-либо и т. д.», – добавила она.

Тот аргумент, что алгоритмы ИИ при показе того или иного контента пользователю могут отдавать предпочтение спорной, разжигающей вражду информации для привлечения большего внимания пользователя к платформе, выглядит правдоподобно, считает ведущий аналитик ФОМа Григорий Кертман. «Безусловно, внимание привлекается тем, что более резко, сенсационно, на этом построена работа большинства СМИ», – отмечает эксперт. Он также допустил, что эффект эхо-камеры, когда те или иные идеи и взгляды укореняются в сознании, если они циркулируют в рамках какой-то закрытой группы, может эксплуатироваться алгоритмами ИИ и в итоге приводить к снижению уровня критического мышления, что, в свою очередь, отрицательно сказывается на уровне развития общества в целом.

«Действующее законодательство не регулирует применение рекомендательных алгоритмов как технологии», – отмечает заместитель генерального директора по правовым вопросам Института развития интернета Борис Едидин. По его мнению, рекомендательные алгоритмы, помимо преимуществ для развития бизнеса и возможностей повышения качества предоставляемых пользователям услуг, могут сужать пользовательский выбор, ограничивать конкуренцию, использоваться в противоправных целях. «Эти угрозы должны быть минимизированы посредством изменения законодательства», – отметил Едидин. В качестве возможных мер он предложил требование прозрачности таких алгоритмов для пользователей и регуляторов, возможность их отключения по требованию пользователя и др.

«Важно, чтобы законодательное регулирование защищало конкуренцию, не допускало использования алгоритмов для продвижения товаров и услуг без соответствующей маркировки. Кроме этого важно предоставлять пользователям в понятной и доступной форме информацию о работе технологии», – резюмировал Едидин.