Союз против алгоритмов: как защититься от автоматизированных атак

Облачные провайдеры предупредили о росте числа кибератак и новых угрозах со стороны нейросетей. Парадигма в кибербезопасности меняется: хакеры уничтожают данные – и преимущество остается на стороне атакующих из-за дешевизны инструментов.

Российские облачные провайдеры и разработчики решений по информационной безопасности обсудили возможность создания отраслевого альянса для противодействия киберугрозам, связанным с использованием искусственного интеллекта (ИИ). С таким предложением выступил генеральный директор Cloud.ru Михаил Лобоцкий на сессии «Облака в эпоху ИИ-атак: выжить, выстоять и восстановиться», организованной «Ведомостями» и «Билайн бизнесом» в рамках форума «Цифровые решения».

Инициативу поддержала вице-президент «Лаборатории Касперского» по развитию бизнеса в России и странах СНГ Анна Кулашова, предложив использовать для сотрудничества площадку Альянса в сфере ИИ. По словам Лобоцкого, сейчас компании реализуют совместные инициативы в области информационной безопасности, но преимущественно в рамках двустороннего сотрудничества. Конкретные сроки и формат создания объединения участники дискуссии не обозначили.

Смена парадигмы

Генеральный директор Beeline Cloud Андрей Зотов рассказал, что генеративный ИИ изменил доступность инструментов для хакерских атак. По его словам, они стали проще, но одновременно более разрушительными для компаний. Сейчас более трех четвертей атак направлены на уничтожение корпоративных данных, тогда как раньше злоумышленники чаще пытались их зашифровать или похитить. При этом за последний год количество атак выросло почти вдвое, увеличилась и их успешность, добавил Зотов.

По его мнению, преимущество сейчас находится на стороне атакующих. Во-первых, проведение атак обходится дешево, а злоумышленники могут совершать практически неограниченное количество ошибок. Во-вторых, для развития атаки достаточно найти одну скомпрометированную информационную систему или учетную запись пользователя. Защищающаяся компания позволить себе этого не может, объяснил Зотов. В связи с этим он считает необходимым расширять наблюдение за IT-инфраструктурой, быстрее выявлять успешные паттерны атак и применять полученные сведения для защиты остальных систем.

Директор по информационной безопасности Yandex Cloud Евгений Сидоров предложил разделять атаки с помощью ИИ и атаки на системы, использующие ИИ. В первом случае технология дает злоумышленникам скорость, возможность проводить более широкие атаки и снижает порог входа. Поэтому компаниям необходимо уделять больше внимания превентивным мерам защиты, а не только обнаружению аномалий: из-за скорости развития атаки специалисты могут просто не успеть на нее отреагировать, считает он. Одновременно ИИ необходимо внедрять в сами инструменты защиты, добавил Сидоров.

Но, по словам Кулашовой, отрасль уже сталкивалась с появлением новых инструментов, ускоряющих действия злоумышленников. Одним из основных подходов остается принцип нулевого доверия, предполагающий, что информационные системы компании уже могли быть взломаны. Поэтому важно правильно выстраивать их архитектуру, обеспечивать сегментацию и контролировать взаимодействие с подрядчиками и поставщиками, через которых также происходит большое количество атак. Средства защиты ИИ при этом необходимо встраивать в общую архитектуру кибербезопасности, а на массовость и скорость атак отвечать такими же инструментами на базе ИИ, считает она.

Директор по информационной безопасности «Лемана ПРО» Алексей Черномазов рассказал, что компания рассматривает возможность модернизации инфраструктуры, чтобы управлять ею с помощью ИИ. В частности, речь идет о создании моделей бизнес-процессов и IT-ландшафта, на которых можно заранее отработать восстановление после атак. В случае успешного взлома это позволит быстрее восстановить хотя бы минимальную работоспособность бизнеса, не тратя месяцы на восстановление данных и поиск ответственных за отдельные системы, пояснил он.

Теневой ИИ в офисе

Отдельной темой дискуссии стали угрозы, связанные с использованием ИИ-агентов. По словам бизнес-лидера облачной платформы VK Tech Дмитрия Лазаренко, если в обычном приложении злоумышленник пытается найти уязвимость, то ИИ-агента иногда достаточно «уговорить или уболтать», чтобы тот сам вызвал утечку, пытаясь выполнить поставленную задачу.

Лазаренко привел примеры атак на системы Microsoft и Salesforce, при которых злоумышленники отправляли письма с инструкциями для ИИ-агентов. Агент, обрабатывающий почту руководителя, мог выполнить эти инструкции и передать внутренние данные злоумышленнику. По словам Лазаренко, подобные атаки, в том числе связанные с корпоративным поиском, невозможно выявлять традиционными средствами защиты.

В связи с этим он предложил относиться к ИИ-агентам как к сотрудникам, которых компания нанимает на работу. У каждого агента должен быть свой цифровой паспорт, пропуск, начальник и возможность его «уволить», перечислил Лазаренко. При этом предоставляемые агентам полномочия необходимо ограничивать, а ответственность за утечки, по мнению Лазаренко, должен нести тот, кто эти полномочия выдал.

Еще одна проблема заключается в том, что агенты могут нанести ущерб и без участия злоумышленников. В качестве примера Лазаренко привел случай с платформой Replit, ИИ-агент которой удалил базу данных. По его мнению, проверять работу одного агента должна другая модель, а резервные копии необходимо хранить независимо от основного агента.

Лобоцкий, в свою очередь, рассказал о распространении автономных систем, в которых несколько ИИ-агентов могут объединяться и взаимодействовать друг с другом без участия человека. В качестве примера он привел случаи, когда агенты совместно искали уязвимости в информационных системах, а затем использовали их для взлома. По его словам, для защиты от подобных угроз необходимо изолировать среду, в которой работают агенты, контролировать их действия с помощью мониторинга и аудита, а также исключать передачу им чувствительных данных.

В то же время компании, которые еще не приступили к «боевому» внедрению ИИ, могут ошибаться относительно его использования внутри организации, сделал оговорку Лобоцкий. По его словам, сотрудники самостоятельно оплачивают подписки на внешние модели и применяют их в рабочих задачах. Такая практика, известная как Shadow AI («теневой ИИ»), несет риск передачи корпоративных данных за пределы компании. По мнению Лобоцкого, целенаправленное внедрение ИИ под контролем службы кибербезопасности представляет меньшую угрозу.

Зотов также считает необходимым создавать для сотрудников безопасную среду использования нейросетей. В частности, в ИИ-агенты должны быть встроены механизмы обезличивания информации, а запросы, содержащие чувствительные для компании данные, следует направлять не в публичные модели, а в частные инсталляции нейросетей внутри компании.

Рыночные предложения

Сидоров отметил, что точную динамику российского рынка решений для защиты ИИ-систем сейчас предсказать сложно. По его мнению, она будет зависеть от трех факторов: скорости внедрения ИИ и агентских платформ, развития регулирования и наличия качественных решений для защиты таких систем. Последние должны не только обеспечивать безопасность, но и быть удобными для внедрения, поскольку заказчики оценивают их прежде всего с практической точки зрения.

При этом российский рынок отличается от мирового структурой поставщиков, продолжил Сидоров. За рубежом заметную долю разработчиков решений для защиты систем с ИИ составляют стартапы, тогда как в России эту нишу активно занимают облачные провайдеры. Они либо встраивают функции безопасности в собственные платформы для создания ИИ-агентов, либо разрабатывают отдельные продукты для защиты систем. Кроме того, в России сохраняется существенная доля локального размещения инфраструктуры, поэтому разработчикам приходится учитывать облачную, гибридную и локальную модели поставки.

По словам Сидорова, популярность облачных решений при этом растет. Не все компании могут экономически оправданно развернуть собственную инфраструктуру для работы с ИИ или обеспечить ее достаточную загрузку. Поэтому для многих заказчиков создание систем в облаке оказывается быстрее и проще, объяснил он.

Кулашова отметила, что использование собственных моделей также имеет недостатки, в том числе ограничения по их выбору и обновлению. Поэтому компаниям необходимо искать возможности безопасно использовать облачные модели и встраивать их в процессы разработки, считает она. Лобоцкий полагает, что дополнительное влияние на рост рынка окажет регулирование, которое позволит крупным предприятиям активнее внедрять ИИ в промышленные контуры.

Одним из новых направлений Лазаренко назвал создание ИИ-агентов, которые будут защищать других агентов. По приведенному им прогнозу, через пять лет на них может приходиться 10–15% всех ИИ-агентов в мире. Необходимость подобных решений он объяснил тем, что по мере роста числа автономных систем возможностей сотрудников для контроля их действий будет недостаточно. В России развитие этого направления, по его мнению, будет зависеть от появления соответствующих продуктов.