Альфа-Банк и Университет ИТМО представят первые результаты совместных исследований по защите ИИ-систем от киберугроз. Работы ведутся в рамках совместной магистратуры «Безопасность систем искусственного интеллекта» и посвящены новым угрозам, которые возникают по мере распространения ИИ-технологий. Исследования объединяют академическую экспертизу с практическими задачами бизнеса. Первые результаты представят 17 ноября на встрече профессионального сообщества AI AppSec Night.
Потребность в защите ИИ-систем растёт одновременно с развитием самого искусственного интеллекта. В этом году в ответ на этот вызов Альфа-Банк и ИТМО создали совместную магистратуру «Безопасность систем искусственного интеллекта».
Студенты программы уже работают над прикладными исследованиями: изучают методы выявления уязвимостей в распределённых системах с использованием больших языковых моделей, способы защиты мультиагентных ИИ-систем, а также технологии, которые борются с искажением информации в базах знаний ИИ-моделей. Все разработки ориентированы на решение практических задач безопасности ИИ-инфраструктуры.
«Стремительное распространение искусственного интеллекта формирует высокий спрос на специалистов, способных обеспечивать безопасность этих технологий. Рынок пока не всегда успевает отвечать на этот вызов, поэтому важно самостоятельно развивать необходимые компетенции», — отметил руководитель департамента кибербезопасности Альфа-Банка Сергей Крамаренко.
«Мы создали совместную магистратуру с ИТМО, понимая, что наука должна помогать решать реальные задачи бизнеса и не существовать в отрыве от практики. Научные работы наших студентов и созданные на основе этих материалов реальные инструменты и подходы — показатель успешности выбранной нами стратегии», — дополнил руководитель дирекции безопасности цифровых решений в Альфа‑Банке Дмитрий Кузнецов.
«Защищать системы искусственного интеллекта и защищаться с его помощью — это уже отдельная профессия, а не дополнительный навык. Мы строим программу вместе с Альфа-Банком, чтобы выпускник приходил в индустрию с опытом решения её настоящих задач, а не только со знанием теории», — подчеркнул декан факультета безопасности информационных технологий ИТМО Александр Менщиков.
Представить результаты исследований и обсудить актуальные вопросы защиты ИИ-систем эксперты смогут на AI AppSec Night — встрече сообщества специалистов по безопасности приложений. Мероприятие объединит представителей Альфа-Банка и ведущих технологических компаний. В программе — ИИ-ток-шоу с выступлениями экспертов, командная интеллектуальная игра и нетворкинг.
AI AppSec Night состоится 17 ноября в Москве и онлайн. Участие по регистрации на сайте.