В России начинает формироваться нормативная база для регулирования искусственного интеллекта: рабочая группа Госдумы подготовила определение ИИ, а эксперты обсуждают необходимость единых стандартов, внешней экспертизы технологий и правовых гарантий их применения. При этом использование ИИ в государственном управлении дает значительные результаты. Как сохранить баланс технологического развития и защиты данных, и как определить пределы допустимого использования обсудят эксперты на профильной сессии Форума ПравоТех 25 сентября.
По словам Виктора Вайпана, генерального директора Управляющей компании ИНТЦ МГУ «Воробьевы горы», доктора юридических наук, профессора, использование технологий искусственного интеллекта в юридической деятельности оправдано, особенно в части автоматизации рутинных задач. Нейросети способны полностью вытеснить традиционные способы создания юридических продуктов, основанные на шаблонах (исковые заявления, договоры, правовые заключения, и т.п.). ИИ может искать информацию, проводить исследования, проверять и составлять документы, взаимодействовать с контрагентами, выставлять счета и т.п. Это требует внедрения механизмов контроля за ИИ. «Необходимо разработать систему внешней экспертизы технологий ИИ, ввести единые регламенты по этике, хранению и обезличиванию данных, а также обязательные алгоритмы „предсказуемости» решений ИИ. В контексте права эффект черного ящика при использовании ИИ недопустим», — отмечает Вайпан. По его словам, наиболее реалистичны инициативы по созданию реестра сертифицированных открытых кодов систем ИИ и внедрению единых стандартов их разработки.
«В перспективе ИИ может повысить качество правоприменения и эффективность судопроизводства, но для этого необходим баланс: технологическое развитие должно идти в связке с правовыми гарантиями и ответственностью», — делает вывод профессор.
Игорь Терещенко, управляющий партнер юридической компании «Инноправо», исполнительный директор НОЦ «Информационное и цифровое право» Юридического факультета МГУ, считает, что применение искусственного интеллекта в государственных органах — значимый этап на пути развития и трансформации государственной службы. «На начальных этапах необходимо обеспечить надежную внешнюю экспертизу ИИ-технологий, разработать отраслевое регулирование ИИ, стандарты и принципы этики применения ИИ, гарантировать прозрачность и публичность алгоритмов, применяемых в отечественных ИИ-решениях», — отмечает он.
Терещенко отмечает: сегодня ИИ уже эффективно справляется с автоматизацией многих рутинных процессов, анализом массивов информации, содействует в подготовке юридических заключений и проведении исследований. «В судебной системе ИИ может существенно облегчить работу судей, например, путем транскрибации протоколов и выявления релевантной судебной практики. Однако конечные решения и проверка информации безусловно остаются за живым судьей: делегирование ИИ судейских полномочий связано с существенными рисками. Алгоритмы не способны в полной мере учитывать контекст, могут воспроизводить предвзятость, заложенную в обучающих данных, а вопрос ответственности за решения „машинного судьи» остается нерешенным», — комментирует он. По его мнению, успешная цифровизация возможна при условии гармоничного сочетания технологических инноваций и правовых механизмов, сохранения человеческого контроля над ИИ и ориентации на потребности и права человека.
«Сегодня Россия является одной из наиболее комфортных юрисдикций с точки зрения внедрения искусственного интеллекта. В стране отсутствуют чрезмерные запреты, что создает возможности для экспериментов и появления новых решений в условиях молодой и активно развивающейся отрасли. У бизнеса и разработчиков остается пространство для работы, при этом видна готовность оперативно реагировать на возможные риски и негативные проявления. Такой подход позволяет одновременно поддерживать инновации и формировать основу для дальнейшего устойчивого развития рынка ИИ», — отмечает основатель компании ПравоТех Алексей Пелевин.
Эксперты встретятся на Форуме ПравоТех 25 сентября на сессии о государственном регулировании технологий искусственного интеллекта и обсудят стратегические векторы правового развития: от кодификации цифрового законодательства и выработки единых принципов регулирования до минимизации рисков при работе с данными и внедрения этических стандартов.
Деловое издание «Ведомости» является информационным партнером мероприятия.