ЦБ разработал кодекс этики ИИ в финансах

Банк России представил кодекс этики в сфере разработки и применения искусственного интеллекта (ИИ) на финансовом рынке. В нем заложены пять принципов – человекоцентричность, справедливость, прозрачность, безопасность и ответственное управление рисками.

Кодекс носит рекомендательный характер и призван повысить доверие к новой технологии. Также он направлен на содействие развитию ИИ на финансовом рынке и минимизации рисков, связанных с его разработкой и применением. ЦБ рекомендовал банкам обмениваться опытом и участвовать в разработке совместных документов для достижения целей кодекса.

ЦБ изучил мировые тенденции в регулировании ИИ, обсудил с участниками рынка их практику и пришел к выводу, что на данном этапе будет актуально мягкое регулирование применения такой технологии, приводятся в релизе слова руководителя департамента финансовых технологий Центробанка Станислава Коропа.

Для соблюдения принципа человекоцентричности банкам стоит информировать клиентов, когда они взаимодействуют с ИИ, и давать возможность отказаться от такого взаимодействия, пишет ЦБ. Также банки должны обеспечить возможность пересмотра решения, принятого с применением этой технологии. Также Банк России предлагает регулярно проверять качество ИИ и удовлетворенность клиентов, получивших услуги с его применением. В рамках повышения финансовой доступности организациям рекомендуется при разработке и применении ИИ учитывать факторы уязвимости клиентов (возраст, образование, ограниченные возможности и др.) и их возможное влияние на оказание услуг таким людям.

Соблюдение принципа справедливости подразумевает, что банки будут обоснованно использовать персональные данные клиентов, а их сбор будет недискриминационным. Также ЦБ рекомендует банкам при принятии решений с помощью ИИ не учитывать национальную, языковую и расовую принадлежность клиента, его политические взгляды и вероисповедание.

Принцип прозрачности предполагает, что банки будут предоставлять клиентам полную информацию о рисках ИИ и условиях его применения. Рекомендуется в том числе маркировать информацию, созданную с применением больших генеративных моделей, за исключением случаев, когда использование ИИ очевидно, технология используется только для редактирования сведений и не несет риска причинения вреда клиентам.

Для соблюдения принципа безопасности, надежности и эффективности ЦБ советует организациям принимать такие меры, как проверка качества наборов данных и самого ИИ, соблюдать конфиденциальность персональных данных, обеспечивать информационную безопасность и непрерывность деятельности. В частности, банкам полагается установить показатели качества ИИ, чтобы сверяться с ними при проверках. Также среди рекомендаций – разработка технологических и организационных мер по безопасности данных ограниченного доступа, в том числе обеспечение их обезличивания и несанкционированного распространения.

Принцип ответственного управления рисками подразумевает, что банки разработают и утвердят правила их управления, назначат ответственное лицо, которое будет проверять их соблюдение и соответствие кодексу. ЦБ рекомендует вести учет применяемых моделей ИИ, выявлять и оценивать их риски, а также реагировать на них и вести базы риск-событий. Всю информацию об этом необходимо будет документировать. Регулятор выделяет ряд факторов, которые необходимо учитывать при присвоении риска ИИ, в частности, сферу его применения (при оказании услуг клиентам, в системах управления рисками, в критических системах и т. д.), использование данных ограниченного доступа, возможный размер убытков или ущерб деловой репутации, количество клиентов, при оказании услуг которым применяется ИИ, и проч.