Один за всех
Как искусственный интеллект будет принимать решения за нас
Раскрой информацию о том, где ты читаешь новости и где покупаешь одежду, а специалисты по аналитике данных скажут, кто ты. Ваши cookies поведают о вас больше, чем аватар из Metaverse или личный дневник. Политика конфиденциальности данных и управление ими – вопрос не менее острый, чем реальная политика, и в нем заинтересованы как государственные, так и частные организации. Внезапно стало очевидно, что бесконечные пользовательские соглашения и запросы веб-сайтов на сбор cookie – это прошлый век. Сейчас данные собирают в самых неожиданных местах. Зачастую незаметно для пользователя. Цифровые архивы наших действий и предпочтений обновляются в виртуальной и дополненной реальностях, будь то с помощью устройств IoT на городских улицах или же в наших собственных квартирах – да-да, голосовые помощники и роботы-пылесосы тоже знают кое-что о нас.
Полученные персональные данные используются для обучения нейронных сетей, а также для аналитики big data. Такая информация имеет обезличенный характер и используется для анализа. В таких случаях конкретные частные данные пользователей остаются нетронутыми, так как основной целью является получаемая статистика.
В то же время на рынке мы имеем примеры утечки личных данных, а также их перепродажи. Кроме того, они могут оказаться и в публичном доступе, как это произошло с данными свыше 500 млн пользователей Facebook весной 2021 г. При этом риск утечки выше у тех, кто пользуется VPN – таких пользователей в России только за первую неделю марта стало на 1268% больше. А ведь случаев, когда логины, пароли, IP-адреса и идентификаторы устройств оказываются в открытом доступе, очень много – только в ноябре 2021 г. пострадало 45,5 млн анонимных пользователей, из которых 795 700 – россияне.
Согласно исследованию компании по информационной безопасности ESET, российские интернет-юзеры не дочитывают пользовательские соглашения на сайтах в 81% случаев, а 13% респондентов рассказали, что в целом игнорируют представленные договоры и соглашаются. При этом почти половина россиян (49%) либо плохо представляют себе функции соглашений в интернете, либо не имеют о них представления. Абсолютное большинство (92%) не беспокоится о том, что данные о них передают третьим лицам, т. е. они не стараются покинуть сайт или приложение, в пользовательском соглашении которого обозначена такая функция.
Решением целого блока таких вопросов могут стать так называемые посредники, которые послужат связующим звеном между людьми и организациями, собирающими их данные, или между предприятиями и их партнерами. Они могут принимать различные формы: от цифровых фидуциаров до трастов. О них же и говорится в аналитическом отчете Всемирного экономического форума (ВЭФ) Digital Agency: The Power of Data Intermediaries от 15 февраля 2022 г. Целевая группа ВЭФ по посредникам данных исследовала возможность передачи принятия решений человеком на аутсорсинг агенту, действующему от его имени. Предполагается, что посредники смогут принимать автоматизированные решения по управлению данными с помощью искусственного интеллекта (ИИ). Цель этого проекта, по словам его руководителя Энн Фланаган, состоит в том, чтобы «защитить права людей и одновременно снизить риски и повысить уверенность для компаний и организаций, которым необходим доступ к данным». Представитель ВЭФ считает, что это внесет значимый вклад в общее развитие обоих миров – реального и виртуального, а значение последнего резко возросло в постпандемическую эпоху.
Но в каждой автоматизации процесса есть риск. По моему мнению, упомянутый в отчете сценарий, по которому автоматизированный цифровой агент с помощью ИИ будет определять индивидуальные предпочтения и давать согласие на доступ к данным, довольно рискованный. Цель нового подхода состоит в том, чтобы снять с людей необходимость принимать решения в каждом конкретном случае, предоставив это ИИ, который будет учиться на предыдущих предпочтениях. Однако алгоритмические модели могут сделать выбор в пользу ошибочных решений, если они обучаются на неточных, неполных или необъективных наборах данных.
Проблемой обеспечения безопасного и надежного обмена данными всерьез обеспокоились в ООН, ЕС и Великобритании. Департамент цифровых технологий, культуры, СМИ и спорта Великобритании в 2021 г. опубликовал доклад, посвященный роли посредников в подобных обменах – среди них и трастовые фонды, и кооперативы. В ноябре прошлого года Совет ЕС принял закон об управлении данными (Data Governance Act), который установил основу для обмена данными между компаниями, а также для управления и контроля согласия людей через посредников, например электронные кошельки. В Евросоюзе верят, что создание посреднических сервисов приведет к «росту доверия к услугам передачи данных» и «поощрению альтруизма в отношении данных по всему ЕС», а также способствует вводу в экономический оборот защищенных законом данных.
Как обстоят дела в России, судить еще рано. Так как российский пользователь в отличие от европейского только начинает формировать свою data-грамотность, да и Общий регламент по защите данных (GDPR) у нас пока не воспринимается всерьез. Уровень доверия к технологиям, как и культура в области персональных данных, невелики, а новые методы сбора информации об окружающей среде, несмотря на свои преимущества, могут усилить скептицизм по отношению к ИИ. И здесь опять встает извечный вопрос о «русском пути» развития, на этот раз виртуального, о котором все чаще говорят сейчас на фоне массового исхода западных интернет-сервисов и угроз об отключении России от GPS. С одной стороны, строгое российское законодательство и бюрократия, которые порой мешают развитию в сфере ИИ, с другой – люди совершенно не заботятся о данных там, где они могут это делать. Идеальным решением стал бы инструмент, не только позволяющий пользователям давать согласие через посредников, но и предоставляющий возможность посмотреть, кому и что они разрешили. Думаю, что изучение разных практик даст в ближайшее время ответ на этот уже назревший вопрос.