Согласно новому исследованию от Axios, крупные банки достаточно часто выявляют несанкционированную активность, осуществляемую сторонними ИИ-агентами в онлайн-аккаунтах своих клиентов. По информации из отчета проведенного исследования, клиенты предоставили своим персональным ИИ-агентам, не прошедшим проверку в банках, доступ к своим финансовым счетам. Во многих случаях клиенты передают свои логины или пароли ИИ-агенту, которого банк еще не успел проверить, что противоречит условиям предоставления услуг банка. Кроме того, в исследовании приводятся доказательства того, что ИИ-агенты совершали действия в учетных записях клиентов без их разрешения. Примером поведения агента, которое пользователь никогда не одобрял, является звонок ИИ-агента в банк с жалобой без предварительной консультации с владельцем счета. Деятельность ИИ-агентов все в большей степени становится для банков существенной проблемой в предоставлении услуг клиентам, т.к. такая активность может нарушать условия банка, требующие от пользователей самостоятельного входа в систему.
О том, какие меры следует предпринять банковским организациям для ограничения несанкционированной активности ИИ-агентов рассказывает доцент кафедры искусственного интеллекта Финансового университета при Правительстве Российской Федерации Емельянова Наталия Юрьевна:
В целом это проблема, затрагивающая всю банковскую отрасль и в основном банки стремятся ограничить доступ ИИ-агентов к счетам клиентов. Если смотреть на ситуацию с позиции банковских организаций, то если банки хотят ограничить доступ ИИ-агентов, они могут предоставить ИИ-агентам разрешение только на чтение, то есть ИИ-агенты смогут просматривать расходы пользователя и другую банковскую активность, но не смогут предпринимать автономные действия. Полный доступ на запись (с использованием учетных данных пользователя) представляет собой категорию повышенного риска и следует ограничить полный доступ на запись. В таком варианте ИИ-агент может просмотреть покупки клиента и высказать мнение о проведенных тратах, но ИИ-агент не сможет совершить покупку от имени клиента или предпринять какие-либо другие действия.
Более того банкам следует принимать меры для целенаправленного информирования своих клиентов о рисках, связанных с передачей учетных данных искусственному интеллекту.
О ситуации с использованием ИИ-агентов для управления счетами клиентов в российских реалиях рассказывает профессор кафедры искусственного интеллекта Финансового университета при Правительстве Российской Федерации Емельянов Виталий Александрович:
В российских реалиях подход к регулированию использования ИИ-агентов строится на создании единых стандартов. ЦБ РФ утвердил специализированные рекомендации, которые определяют довольно жесткие рамки по обеспечению информационной безопасности при применении ИИ на финансовом рынке. Если банк внедряет ИИ в критически важные бизнес-процессы (включая клиентские интерфейсы и роботов-помощников), он обязан четко понимать алгоритмы его работы. Запрещено использовать модели, логику решений которых невозможно объяснить или проконтролировать. Кроме того, регулятор требует закрепления персональной ответственности сотрудников за риски, возникающие в результате работы ИИ. Финансовым учреждениям необходимо внедрять надежные меры и системы информационной безопасности, обеспечивая соблюдение правил защиты данных для защиты конфиденциальной информации. Примером такой системы является разработанная на Факультете информационных технологий и анализа больших данных Финансового университета при Правительстве РФ интеллектуальная система проактивной защиты и обнаружения кибератак на объекты критической информационной инфраструктуры финансового сектора.
Ключевым моментом в данной ситуации является необходимость обязательного участия клиента на всех ключевых этапах принятия решений и проведения операций с денежными средствами. ИИ не должен обладать абсолютной автономностью в распоряжении деньгами клиента.