Корпоративный сектор сегодня переживает фундаментальный сдвиг в культуре управления ИТ и финансовыми рисками. Согласно прогнозам Gartner, к концу 2026 г. около 40 % корпоративных приложений будут содержать встроенные ИИ-агенты. В отличие от RPA, чат-ботов и больших языковых моделей, ИИ-агенты могут быть автономными. Некоторые из них встраиваются в CRM-системы, управляют базами данных, самостоятельно планируют задачи и совершают транзакции.
С одной стороны, это приводит к высокой эффективности, а с другой – несет в себе новые угрозы. Поэтому помимо традиционных процедур KYC (знай своего клиента), KYE (знай своего сотрудника), добавляется новая – KYA (знай своего агента). Внедрение сквозных решений по проверке и верификации ИИ-агентов становится критически важным вопросом в области риск-менеджмента, комплаенса и обеспечения непрерывности бизнеса в целом.
Классические системы кибербезопасности были рассчитаны на проверку человека. Инструменты мониторинга цифрового следа, аутентификация и разграничения доступа для разных ролей, проверяли, имеет ли конкретный специалист право совершать операцию. Но сегодня в корпоративные системы заходят автономные ИИ-агенты. Они не являются классическим программным кодом с жестко прописанными алгоритмами, как, например, в RPA (роботизированная автоматизация процессов). Подобный ИИ-сотрудник может «рассуждать» и в зависимости от контекста и поступающих данных, его поведение и решения могут динамически меняться. Компания может внедрить агента от надежного поставщика, но в процессе автономной работы цифровой помощник может уйти в так называемый «галлюцинаторный дрейф» или стать жертвой манипуляций.
Стандартные протоколы ИТ-безопасности оказываются недостаточно эффективными в данном случае. Поэтому возникла новая задача контроля ИИ-агентов. Например, мониторинг действий «ИИ-сотрудника» в части обращения к различным системам, от чьего имени он это делает, какими полномочиями он обладает сейчас, и кто его контролирует.
По мнению Долгановой О.И., к.э.н., доцента кафедры «Финансовые технологии» Финансового университета при Правительстве Российской Федерации, можно выделить 3 критические группы рисков при работе с ИИ-агентами: информационные утечки и нарушение приватности; финансовый и транзакционный фрод, а также угроза корпоративному ИТ-периметру.
ИИ-агенты обрабатывают большие объемы чувствительной для бизнеса корпоративной информации. Без строгой изоляции и KYA-верификации данные, которыми оперирует ИИ-агент, могут быть скомпрометированы, утечь в облачные хранилища. Совокупность федеральных законов (ФЗ-152, ФЗ-243, ФЗ-169 и ГК РФ) и подзаконных актов требует обеспечение прозрачного аудита внутри нейросетевых цепочек, а за их несоблюдение предусмотрены штрафы. При этом согласно ГК РФ (ст. 182), ИИ-агент не является субъектом права. Поэтому компании внедряют KYA для криптографического ограничения полномочий агента и его привязки к конкретному должностному лицу.
Сегодня также наблюдается активная интеграция ИИ-помощников в платежные шлюзы для приобретения товаров и услуг, оптимизации логистики и трейдинга. Злоумышленники поставляют им манипулятивные инструкции, заставляя их подтверждать несанкционированные скидки, опустошать корзины клиентов или переводить денежные средства на сторонние счета. Здесь также нужны KYA-процедуры, обеспечивающие контроль лимитов и верификацию действий агента согласно выданной ему цифровой подписи конкретного должностного лица с его уровнем полномочий.
Международный консорциум OWASP, являющийся авторитетной организацией в области кибербезопасности, в своем отчете «Top 10 for Agentic Applications for 2026» отмечает новые типы риска. Первый – это небезопасные межагентские взаимодействия, а второй – это выход ИИ-агента за периметр разрешенных ему действий и некорректное использование внутренних API-протоколов. Это может привести к открытию доступа злоумышленникам к критической инфраструктуре компании.
Таким образом, сегодня перед бизнесом, использующим ИИ, стоят следующие задачи: обеспечение однозначной идентификации агента и его легитимности в сети, исключающая создание цифровых двойников; четкое юридическое закрепление ответственности конкретного должностного лица за действия ИИ; автоматическое сужение прав агента при усложнении задачи или выявлении аномалий в его поведении; и обеспечение возможности восстановления логики действий ИИ для внутреннего и внешнего аудита.