«Яндекс» займется защитой ИИ-инфраструктуры

Yandex B2B Tech (созданная «Яндексом» бизнес-группа, которая объединяет сервисы для корпоративных клиентов, куда относятся инструменты виртуального офиса «Яндекс 360», облачный провайдер Yandex Cloud и др.), выводит на рынок решение для комплексной защиты систем с использованием искусственного интеллекта (ИИ) – AI‑SPM. Об этом в интервью «Ведомостям» рассказал генеральный директор Yandex Cloud Григорий Атрепьев. Инструмент является одним из первых комплексных решений для управления безопасностью и рисками с применением ИИ на российском рынке.

Решение помогает системно внедрять безопасность на каждом этапе жизненного цикла ИИ, рассказал Атрепьев. Оно связывает элементы инфраструктуры – модели, данные, серверы с уязвимостями и предлагает меры защиты. Это позволяет заранее выявлять риски и составлять план обеспечения безопасности. Например, подсказывает, как предотвратить подмену обучающих данных, защитить модель от взлома через поддельные запросы или ограничить доступ посторонних. Продукт непрерывно мониторит ИИ‑инфраструктуру и выявляет опасные настройки без ручного аудита.