МВД предупредило о фейковых ссылках в ответах ChatGPT

ChatGPT может ссылаться на мошеннические сайты при ответе на запрос пользователя, предупредили в Управлении по борьбе с противоправным использованием технологий МВД России.

«В некоторых случаях алгоритмы искусственного интеллекта перенаправляли покупателей на фейковые интернет-ресурсы, предназначенные для хищения конфиденциальных данных и денежных средств», – говорится в сообщении.

При ответе нейросеть, в частности, вела на сайты-двойники по продаже вещей и мебели. Такие страницы копируют фирменную символику, изображения и описание товаров брендов, недавно прекративших существование, а в некоторых случаях покупателям предлагали скидки до 80%.

Это могло стать возможным из-за «отравления данных», когда мошенники намеренно распространяли в сети ложную информацию с фальшивыми отзывами, автоматически генерируемые сообщения для форумов и поддельные сведения для индексации.

В МВД РФ рекомендовали делать перекрестную оценку: сравнивать полученные данные на других поисковых платформах и искать первоисточники.

10 марта «Ведомости» писали, что мошенники начали использовать тему ИИ в качестве нового вида инвестскама. Они с помощью лендингов или Telegram-ботов привлекают внимание жертвы к вымышленной торговой платформе, которая якобы принадлежит известной IT-компании или финансовому гиганту. Так, на одном из лендингов предлагается участие в инвестиционной платформе ChatGPT AI и зарабатывать от $2000.