Еврокомиссия начала расследование в отношении соцсети X из-за ИИ-чата Grok

Европейская комиссия начала официальное расследование в отношении компании Илона Маска X, пишет The Guardian. Поводом стало использование чат-бота с искусственным интеллектом Grok для создания сексуально откровенных изображений и материалов о возможном сексуальном насилии над детьми.

По данным Центра по борьбе с цифровой ненавистью, ИИ Grok сгенерировал около 3 млн сексуализированных изображений менее чем за две недели, включая 23 000 с участием детей. Расследование также расширяется на алгоритмы рекомендаций X.

Комиссия будет оценивать, правильно ли компания оценила риски, связанные с распространением незаконного контента, в рамках закона о цифровых услугах (DSA). Вице-президент Еврокомиссии Хенна Вирккунен назвала такие дипфейки «жестокими и неприемлемыми формами унижения» и подчеркнула необходимость проверить, не рассматривает ли X права европейских граждан как «побочный ущерб».

Представители Еврокомиссии заявили, что их не убедили принятые X меры по смягчению последствий. Компания X, в свою очередь, 14 января опубликовала заявление о приверженности безопасности платформы и «абсолютной нетерпимости» к сексуальной эксплуатации детей.

16 января The Guardian писало, что Эшли Сент-Клэр, мать одного из детей Маска, подала иск в Верховный суд штата Нью-Йорк против xAI. По ее словам, ИИ-инструмент Grok сгенерировал откровенные изображения с ее участием, включая одно, на котором она была несовершеннолетней.