Проект НИУ ВШЭ CheckAI победил на престижной премии BISA
НИУ ВШЭ укрепляет лидерские позиции в сфере отечественной кибернетической безопасности и искусственного интеллекта. Проект Вышки CheckAI под руководством Антона Сергеева, директора Центра программных разработок и цифровых сервисов МИЭМ ВШЭ, одержал победу на престижной профессиональной премии BISA «За вклад в безопасность цифрового будущего». Инновационная разработка была признана лучшей в номинации «Лучший проект — сервисы цифрового будущего».
Церемония награждения лауреатов состоялась в рамках масштабного отраслевого мероприятия, собравшего ведущих экспертов, регуляторов и лидеров IT-рынка. Почетную награду и диплом, подписанный заместителем министра цифрового развития, связи и массовых коммуникаций Александром Шойтовым, победителю вручила известный эксперт в сфере информационной безопасности, президент группы компаний InfoWatch Наталья Касперская.
Премия BISA — это ежегодная профессиональная награда, которую учредила Ассоциация по защите деловой информации (BISA). Премия вручается за лучшие инициативы и технологии, которые формируют безопасный ландшафт российской цифровой среды, защищают критически важные инфраструктуры и задают стандарты индустрии.
Проект CheckAI, разработанный в МИЭМ ВШЭ, представляет собой передовое решение для автоматизированной проверки киберустойчивости моделей машинного обучения (ML-моделей). С учетом массового внедрения искусственного интеллекта во все сферы экономики вопросы безопасности ИИ-моделей выходят на первый план. CheckAI эффективно выявляет уязвимости, предотвращает потенциальные угрозы и обеспечивает надежную защиту систем искусственного интеллекта от внешних деструктивных воздействий.
«CheckAI позволяет автоматизировать проверку киберустойчивости моделей машинного обучения: провести атаки, оценить, как меняется качество модели, и сравнить эффективность защитных мер, — рассказывает Илья Петрованов, руководитель разработки проекта Центра программных разработок и цифровых сервисов МИЭМ ВШЭ. — Мы проверяем разные сценарии — от adversarial-патчей, способных нарушить работу компьютерного зрения, до evasion-атак, при которых специально подобранные изменения входных данных заставляют модель ошибаться. Результаты собираются в отчет с метриками и примерами, чтобы разработчики могли выявлять уязвимости и проверять их устранение до внедрения модели».
«Мы хотим, чтобы фраза “эта модель безопасна” перестала быть вопросом веры», — в свою очередь отмечает Владимир Башун, начальник отдела разработки программных систем Центра программных разработок и цифровых сервисов МИЭМ ВШЭ. — CheckAI — это про то, чтобы взять модель, нормально ее атаковать, измерить, где и как она ломается, и получить результат, с которым уже можно работать. Без магии, без “кажется, все ок” — тесты, метрики, сравнение и конкретные слабые места. И очень круто, что такой инженерный подход к безопасности ИИ получил признание профессионального сообщества».
В состав ключевых разработчиков и исследователей проекта вошли: Антон Сергеев, директор Центра программных разработок и цифровых сервисов МИЭМ ВШЭ; Владимир Башун, начальник отдела разработки программных систем; Виктор Минченков, руководитель группы исследований; Илья Петрованов, руководитель разработки проекта; Алексей Солдатов, аналитик, ведущий исследователь; Михаил Шульгин, ведущий программист проекта.
«Получение премии BISA — это высокая оценка экспертного сообщества не только для нашей команды, но и для всего университета. Сегодня безопасность систем на базе искусственного интеллекта является критическим фактором технологического суверенитета страны. Проект CheckAI отвечает на самые актуальные вызовы времени, предлагая бизнесу и государству эффективные инструменты защиты цифрового будущего. Победа в номинации “Лучший проект — сервисы цифрового будущего” подтверждает высокий уровень междисциплинарных исследований и практических разработок, которые ведутся в стенах Высшей школы экономики. НИУ ВШЭ продолжает активно развивать компетенции в области кибербезопасности и искусственного интеллекта, не только готовя востребованные кадры для цифровой экономики, но и создавая прорывные технологии мирового уровня».