Раскрытие алгоритмов ИИ может увеличить число манипуляций поисковой выдачей

Раскрытие рекомендательных алгоритмов интернет-сервисами чревато злоупотреблениями со стороны недобросовестных поставщиков товаров и услуг. Они могут использовать полученную информацию для того, чтобы искусственно накручивать рейтинги продуктов и манипулировать предпочтениями пользователей. О таких рисках говорится в «Этических рекомендациях по применению алгоритмов ИИ в работе цифровых сервисов». Документ подготовлен Альянсом в сфере искусственного интеллекта, в который входят «Яндекс», VK, «Сбер», «Газпром нефть», РФПИ, «Самолет», «Уралхим», «Русагро», «Сибур», «Северсталь» и другие крупные компании. Разработку рекомендаций подтвердили представители двух компаний – участниц альянса.

Рекомендательные алгоритмы (в том числе так называемые колдунщики поисковых систем) позволяют онлайн-сервису изменять список и порядок данных, выдаваемых пользователю в ответ на его запрос.

Рекомендации альянса разработаны в развитие положений Кодекса этики в сфере ИИ и носят добровольный характер, говорится в документе. Кодекс был подписан участниками альянса в октябре 2021 г. Документ не накладывает дополнительных к действующему законодательству запретов, отмечалось в нем.

Авторы этических рекомендаций предлагают использовать функционал обратной связи, чтобы пользователь мог оставить отзыв или задать вопрос о работе рекомендательных систем. Там, где это технически реализуемо и оправданно с учетом назначения рекомендательной системы, рекомендуется обеспечить пользователей возможностью полного или частичного отключения рекомендательной системы при пользовании цифровым сервисом, говорится в документе.

Вступивший в силу 1 октября 2023 г. закон о рекомендательных сервисах требует от маркетплейсов, соцсетей и медиасервисов раскрытия алгоритмов их работы. Онлайн-площадки должны содержать описание процессов и методов сбора данных, их систематизации и анализа, а также способов осуществления таких процессов и методов при таргетировании запросов пользователей. Крупные онлайн-площадки, такие как VK, «Яндекс», Ozon, Wildberries, «Сбермаркет», «М.видео-Эльдорадо», ivi, Start, уже начали раскрывать свои рекомендательные алгоритмы, писали «Ведомости» в начале октября.

Первую версию этого закона зампред думского комитета по информационной политике Антон Горелкин подготовил еще в мае 2022 г. В частности, там был пункт, который должен был обязать сервисы обеспечить техническую возможность полного или частичного, по усмотрению компании, отказа от применения рекомендательных технологий (в финальной версии от него отказались). Против инициативы в разное время выступали владельцы соцсетей и поисковых систем, включая VK и «Яндекс». Участники рынка оценивали потери от нового регулирования в 100 млрд руб. в год, сообщал «Коммерсантъ» в ноябре 2022 г. «Без рекомендательных алгоритмов интернет-магазины превратятся в каталоги, которые использовались 20 лет назад», – говорил изданию президент Ассоциации компаний интернет-торговли Артем Соколов.

Горелкин не ответил на вопросы «Ведомостей».

Таким образом, рекомендации, с одной стороны, включают положения, которые не вошли в финальную версию закона, а с другой – предупреждают о рисках, связанных с утвержденными требованиями.

Вероятно, что с требованием закона по раскрытию алгоритмов вырастет количество компаний, которые станут манипулировать поисковой выдачей, считает аналитик, автор Telegram-канала Abloud62 Алексей Бойко. Этому будет способствовать понимание принципов работы алгоритмов, возможность использовать их в своих интересах, например для накручивания рейтингов или для рекламирования тех или иных товаров, говорит он.

Описанный в рекомендациях риск действительно реализуем, подтверждает эксперт IT-компании HFLabs Тимур Сафиуллин. Если недобросовестные поставщики начнут массово накручивать просмотры, то толерантность к рекомендациям у пользователей снизится, например человек начнет получать неактуальную информацию, а рекомендации превратятся в спам. Поэтому при наличии агрессивных продавцов маркетплейс будет «убивать» свой блок рекомендаций, раскрывая, как он работает, говорит он.

Кроме того, механизмы накруток могут применять киберпреступники для продвижения фейковых страниц, объявлений в поисковых системах для попадания в топ выдачи, указывает руководитель Центра кибербезопасности FAССT Ярослав Каргалев. В то же время это раскрытие во многом уравнивает правила игры для селлеров, давая им инструменты и возможности для манипуляции с поисковой выдачей без строгой необходимости прибегать к накруткам с помощью бот-атак, отмечает менеджер продукта Qrator.Antibot в Qrator Labs Георгий Тарасов. Например, путем повышения качества описаний товаров, корректности характеристик, вариантов и условий доставки.

«Текущее регулирование позволяет подходить гибко к вопросу возможности злоупотреблений третьими лицами», – говорит представитель VK. Ozon и Wildberries могут вычислять накрутки отзывов с помощью алгоритмов машинного обучения, отметили представители онлайн-площадок. «Яндекс» воздержался от комментариев. Представитель «Сбермаркета» переадресовал запрос маркетплейсам.

Все онлайн-площадки вряд ли будут выполнять этические рекомендации, считает гендиректор компании-разработчика Ingry.Tech Георгий Банчиков. Это станет работать только в случае, если будет законодательно установлено и за несоблюдение будут предусмотрены штрафы, указывает он. «Чтобы это работало, все должны играть по единым правилам, потому что если одни компании будут соблюдать, а другие нет, то у последних будут все возможности по использованию алгоритмов в своих интересах», полагает он.

Компании, скорее всего, будут выборочно применять в своей работе заложенные в рекомендациях принципы, согласен Бойко. Это связано с тем, что этические подходы они могут трактовать совершенно по-разному, предупреждает он. Все же рекомендации не имеют той юридической силы, что закон, и необязательны к выполнению, резюмировал генеральный директор Itprotect Андрей Мишуков.