30 июня Гильдия информационных технологий и цифровых инноваций при МТПП провела вебинар на тему «Нейросети в работе московского бизнеса: как использовать искусственный интеллект (ИИ) без штрафов и утечек». Целью мероприятия было повысить уровень правовой и цифровой грамотности московских предпринимателей в вопросах использования нейросетей, минимизировать регуляторные и репутационные риски, а также сформировать практические алгоритмы работы с ИИ-контентом и защиты данных.
Заместитель председателя Гильдии информационных технологий и цифровых инноваций при МТПП, директор Студии автоматизации «Автопилот» Юлия Трошкина сделала доклад на тему «Маркировка ИИ-контента: что нужно знать бизнесу». Она познакомила слушателей с положениями законопроекта о регулировании ИИ, внесенным в Государственную Думу Министерством цифрового развития РФ (ID 02/04/03-26/00166424), – в частности, рассказала о том, почему и как надо будет маркировать ИИ-контент, особо обратив внимание аудитории на то, что ответственность за него, согласно действующему законодательству, его создатели несут уже сейчас. Спикер объяснила, как новый закон сделает прозрачным весь путь генерации контента, познакомила слушателей с принципами регулирования ИИ (верховенство прав человека, свобода воли человека, риск-ориентированный подход, технологическая независимость и т.д.) и обязанностями пользователя сервиса и модели ИИ, о которых идет речь в законопроекте. Она рассмотрела отличия маркировки ИИ и маркировки рекламы (ERID), привела кейсы с «рискованными сценариями» (дипфейк со знаменитостью, рекламный ролик с ИИ-аватаром), а также спрогнозировала развитие ИИ в ближайшем будущем (риски, возможности, влияние ИИ на конкурентоспособность бизнеса). В заключение Юлия Трошкина дала рекомендации предпринимателям насчет неотложных действий в сфере работы с ИИ, в частности, указала процессы, которые можно настроить для маркировки ИИ-контента уже в ближайшее время.
Сооснователь, партнер, руководитель практики корпоративной безопасности и комплаенса компании «Комплай» Александр Сайганов выступил с докладом на тему «Внутренние риски при работе с нейросетями: как не потерять данные и репутацию». Он подробно проанализировал причины не доверять ИИ подобно тому, как доверяют людям; привел кейс про инцидент в компании Samsung – о том, как безобидные, казалось бы, действия сотрудников, превратились в утечку служебных данных; объяснил, почему дообучение ИИ не является гарантией повышения его безопасности. Спикер также рассказал, как злоумышленники могут внедрить вредоносные примеры в датасет и изменить поведение модели. «Для популярных открытых моделей достаточно примерно 0,5% испорченных примеров, чтобы исказить результаты. Небольшая примесь данных может сильно сместить применение системы, – предупредил Александр Сайганов. – Любая чувствительная информация будет встраиваться в дальнейшие параметры выдачи. Если при обучении ИИ вы использовали конфиденциальные сведения, это может по вас потом ударить». Он проиллюстрировал вышесказанное, описав, как происходит взлом промпта через документы и почту сотрудника. Далее спикер описал масштаб проблемы, отметив, в частности, что каждая пятая компания уже столкнулась с утечкой данных, связанной с теневым ИИ, и объяснил, почему его не видит техническая защита. Он подробно рассказал, как снизить внутренние риски с помощью введения в компании регламентов, обучения сотрудников и контроля, какими должны быть три шага перед отправкой данных в ИИ. В последней части своего доклада спикер огласил юридические последствия для компании за утечки данных. «Без дисциплины ИИ становится источником риска», – отметил Александр Сайганов в заключение.
В конце вебинара спикеры ответили на вопросы слушателей.
Мероприятие проведено при поддержке Правительства Москвы и Департамента экономической политики и развития города Москвы