Британским школам советуют удалить фото учеников с сайтов из-за шантажистов с ИИ

Агентство по борьбе с преступностью Великобритании (NCA) рекомендовало школам удалить узнаваемые фотографии учеников с официальных сайтов и аккаунтов в соцсетях из-за новой волны ИИ-шантажа, пишет The Guardian. Злоумышленники используют нейросети для манипуляции снимками несовершеннолетних, создавая материалы сексуального характера (CSAM), после чего требуют выкуп у школ за непубликацию этих изображений. 

По данным издания, организация Internet Watch Foundation (IWF), которая мониторит противоправный контент, привела кейс: одна из средних школ Великобритании недавно подверглась попытке шантажа. Преступники скопировали фото учеников с сайта или из соцсетей учебного заведения, с помощью ИИ-инструментов превратили их в CSAM и направили обратно в школу с требованием выкупа. 

Специалисты IWF преобразовали 150 таких изображений в цифровые отпечатки («хэши») и передали ведущим tech-платформам для блокировки публикации. Практически все эти файлы были квалифицированы как CSAM по британскому законодательству.

Джесс Филлипс, министр Британии по вопросам защиты и борьбы с насилием в отношении женщин и девочек, назвала ситуацию «глубоко тревожной угрозой», сообщает издание. Чиновница заявила о возможном ужесточении законов об ИИ для создания интимных изображений. Ранее анонсировали запрет на хранение ИИ-моделей для генерации CSAM.

Консультативный орган EWWG (Early Warning Working Group) рекомендовал школам удалить фото детей анфас, использовать снимки издалека или со спины, не публиковать имена и лица, пересмотреть необходимость любых фото учеников, ограничить доступ через настройки приватности. При инциденте – сразу уведомить полицию, сохранить преступные изображения и удалить оригиналы.

6 мая министерство образования Сингапура утвердило порку плетью (до трех ударов) в качестве «крайней меры» для мальчиков от девяти лет за школьную травлю и кибербуллинг, сообщал «Ведомости. Город».