Пользователей ИИ предложили обязать маркировать созданные нейросетями материалы
Формат предупреждения установит государство, но ответственность за его отсутствие пока не определена
Маркировка изображений, аудио и видео, созданных с помощью больших моделей ИИ, может стать обязательной вместо добровольной. Это следует из проекта поправок к принятому в июле закону об ИИ и Гражданскому кодексу (ГК), с которыми ознакомились «Ведомости».
Проект подготовила рабочая группа Совета при президенте РФ по кодификации и совершенствованию гражданского законодательства под руководством председателя комитета Госдумы по государственному строительству и законодательству Павла Крашенинникова, рассказали «Ведомостям» два собеседника, знакомых с ходом обсуждения. Предлагаемые поправки, как уточнили они, 19 августа планирует рассмотреть рабочая группа по регулированию и административным барьерам, которую возглавляет статс-секретарь, замминистра цифрового развития Иван Лебедев.
Поправки меняют подход, закрепленный в рамочном законе об ИИ, в котором не прописано обязательство маркировать сгенерированный контент. Формат, содержание и порядок размещения предупреждения определит уполномоченный государственный орган, указано в поправках. При этом конкретное ведомство не называется. Но формулировка «создан с применением» может охватывать и отредактированные нейросетью материалы, хотя минимальная доля ИИ-контента в проекте не установлена. Кто должен маркировать материал, если создал его один человек, а распространяет другой, тоже не определено. Проект не вводит специальной ответственности и не объясняет, кто будет проверять наличие отметки и должна ли она сохраняться при переносе файла между платформами.
В действующей редакции человеку или компании, которые применили большую фундаментальную модель при создании аудио- или визуального материала, должна быть предоставлена возможность разместить предупреждение об использовании ИИ.
Крупные сайты, социальные сети и другие платформы с суточной аудиторией более 500 000 российских пользователей должны предоставить техническую возможность поставить такую отметку, указано в законе. Статья рамочного закона, касающаяся маркировки, должна вступить в силу 1 марта 2027 г. На каком этапе и в каком виде предложенные поправки могут быть внесены в Госдуму, пока не определено. Формат и порядок размещения маркировки сейчас предполагается определять соглашением между пользователем и владельцем ИИ-сервиса.
Предложения требуют существенной доработки, считает источник «Ведомостей», участвующий в обсуждении поправок. По его мнению, обязательная маркировка не поможет бороться с дипфейками: их создатели продолжат использовать зарубежные сервисы и распространять материалы без отметок. Аналогичным образом пользователи смогут загружать немаркированные генерации на стриминговые платформы, опасается он. В результате норма усложнит работу с российскими ИИ-сервисами, но не решит заявленную проблему, считает собеседник. По его словам, именно поэтому обязательная маркировка не вошла в принятую редакцию рамочного закона.
Компенсация за обучение ИИ
При обсуждении законопроекта об ИИ уже рассматривались разные варианты введения маркировки сгенерированного контента, напомнил директор Института исследований интернета Карен Казарян. Вместе с тем эти нормы преждевременны, считает он. Во всем мире сейчас рассматривается, насколько технологически возможно маркировать контент так, чтобы машиночитаемая метка сохранялась при дальнейших манипуляциях с контентом.
Предлагаемая редакция поправки закона о поддержке ИИ вносит полную неопределенность, поскольку все существенные решения по маркировке выносятся в подзаконный акт, рассуждает гендиректор ассоциации «Интернет-видео» (объединяет крупнейшие онлайн-кинотеатры, включая «Иви», Okko, Amediateka, Start и т. д.) Алексей Бырдин. Если уполномоченный орган, т. е. Минцифры, по какой-то причине сочтет необходимым ввести широкое внедрение маркировки контента, созданного генеративным ИИ, это сможет затронуть неограниченный перечень информационных ресурсов, предупреждает он. По мнению эксперта, в части маркировки действующая редакция для старта регулирования оптимальна: только соцсети обязаны предоставить пользователю техническую возможность отмаркировать загруженный контент.
Собеседник «Ведомостей» в крупной технологической компании считает нецелесообразным новое обсуждение обязательной маркировки контента. «На практике это приведет к абсурдным ситуациям: например, фотографии, обработанные фильтрами в редакторах, формально тоже считаются результатом работы ИИ. Постоянное «тыканье» маркировкой в таких массовых сценариях лишь ухудшит восприятие ИИ пользователями», – говорит он.
Можно взять на вооружение подход к маркировке ИИ-контента, который действует в Китае, предлагает бизнес-архитектор проектов ИИ экосистемы «Авандок» ГК «Корус консалтинг» Алексей Борщов. Сервисы добавляют видимые и скрытые метки, платформы проверяют их, а пользователи сообщают об искусственном происхождении контента. Европейский AI Act также требует от провайдера обеспечить машиночитаемую маркировку, а от лица, распространяющего дипфейк, – раскрыть его происхождение, отмечает директор департамента бизнес-решений и цифровой трансформации «Софтлайн решений» Егор Ворогушин. По его мнению, российское регулирование тоже может двигаться к смешанной модели.