Минцифры обсуждает с отраслью создание единого центра безопасности в области ИИ

В России в 2024 г. может появиться единый центр исследования безопасности в сфере искусственного интеллекта (ИИ). Об инициативе рассказала управляющий директор «Лаборатории Касперского» в России и странах СНГ Анна Кулашова на форуме информационных технологий 2 апреля. «Необходимо по принципу CERT (computer emergency response team – общепринятое название команд реагирования на инциденты информационной безопасности), т. е. обмена данными между участниками разных рынков и разработчиками ПО, создать единый центр исследования безопасности в области ИИ. В части классической кибербезопасности проводится регулярная проверка алгоритмов безопасной разработки ПО. То же самое может касаться и алгоритмов использования ИИ для разработки, проверки и мониторинга», – поясняла Кулашова.

Минцифры уже ведет работу по созданию CERT по ИИ с заинтересованными участниками, подтвердил замминистра Александр Шойтов. «С учетом того что вопросы безопасности ИИ в отдельных компаниях и госструктурах развиваются, создание единого центра исследований информационной безопасности (ИБ) искусственного интеллекта как единой точки исследований необходимо», – сказал он.

«Ведомости» обратились в Минцифры за деталями проекта.

Сейчас в России есть несколько CERT, например ICS-CERT «Лаборатории Касперского», ГосСОПКА и GOV-CERT ФСБ, специализирующийся на финансовой сфере центр ЦБ FinCERT, перечисляет ведущий эксперт Центра компетенций Национальной технологической инициативы (НТИ) «Искусственный интеллект» на базе МФТИ Александр Родин.

Тема создания CERT для ИИ обсуждается в рамках готовящегося национального проекта «Экономика данных», который должен прийти на смену нацпроекту «Цифровая экономика», рассказал советник генерального директора Positive Technologies Артем Сычев. Positive Technologies, в свою очередь, стремится в этом участвовать, добавил он.

При активном взаимодействии с участниками такой центр может появиться уже в течение 2024 г., уточнила Кулашова «Ведомостям». По ее словам, было бы логичным, если бы центр был создан на базе регулятора, а к взаимодействию могли бы присоединиться операторы связи, организации из Альянса в сфере ИИ (создан в 2019 г. и включает крупные российские компании – лидеры развития нейросетей, такие как «Сбер», «Яндекс» и др. – «Ведомости») или специализирующиеся на этой технологии компании, а также другие регуляторы, привела примеры она. Нужны совместные усилия по обеспечению защиты общего периметра организаций от возможных киберрисков, связанных с ИИ, быстрому обмену информацией и рекомендациями по реагированию на возможные инциденты, пояснила Кулашова.

В России не так много готовых ИИ-сервисов с большой аудиторией, подобных ChatGPT от OpenAI, обращает внимание генеральный директор облачного провайдера Nubes Василий Степаненко. К числу таких можно отнести GigaChat от «Сбера» и YandexGPT от «Яндекса», поэтому эти компании должны быть в числе участников обсуждаемого CERT по ИИ, считает он. Также участниками CERT могут стать разработчики графических процессоров (GPU), которые способны на аппаратном уровне регулировать работу нейросети, добавил он.

CERT – это группа реагирования на инциденты, т. е. это могут быть организации и специалисты, имеющие подходящую квалификацию, отмечает руководитель департамента расследований T.Hunter, эксперт рынка НТИ SafeNet Игорь Бедеров. Их количество может варьироваться от нескольких до нескольких сотен человек. Действующие CERT – это, по сути, аутсорсинг специалистов по ИБ, которые в случае возникновения критического инцидента подключаются и работают в интересах заказчика, уточнил он. При среднерыночной стоимости специалистов госсектора и налогах, с учетом стоимости аренды, оборудования, ПО и амортизации содержание CERT может обходиться примерно в 25–30 млн руб. в месяц, оценивает эксперт.

Сейчас компании, работающие в области кибербезопасности, делятся друг с другом и с другими участниками рынка информацией о найденных уязвимостях, говорит Кулашова. Но работа с ИИ, по ее словам, требует «доверенности, верифицируемости и надежности, а также проверки инструментов разработки на наличие уязвимостей». «В действующих CERT организовать тот же процесс сложно, поскольку технологии ИИ развиваются очень быстро и включают в себя большое количество участников, постоянно появляется что-то новое, и ни одна компания не может все отслеживать самостоятельно», – пояснила топ-менеджер. 

Участники рынка ИБ отмечают множество угроз применения ИИ злоумышленниками. Если эта нагрузка переложится на действующие CERT в России, «никаких ресурсов и компетенций у них не хватит», говорит генеральный директор компании «Делись», эксперт рынка НТИ SafeNet Иван Линдберг. Атаки в сфере ИИ имеют мало общего с атаками на информационную инфраструктуру, поэтому и сбор информации о них, и ее анализ организованы по-другому, подчеркивает заместитель генерального директора ГК «Гарда» Рустэм Хайретдинов. CERT по ИИ позволит специализироваться на прогнозировании новых и упреждении существующих угроз, которые могут быть связаны с использованием ИИ в различных сферах – от медицины до финансов, добавляет эксперт «Университета 2035» Ярослав Селиверстов.

Технологии машинного обучения имеют специфичные угрозы безопасности, соглашается руководитель Центра противодействия киберугрозам Innostage SOC Cyberart Максим Акимов. В качестве примера он привел «отравление» данных, используемых для обучения алгоритмов: «Алгоритмы принимают решения на основании данных, поэтому преднамеренное искажение таких выборок может привести к непредсказуемым последствиям». По мнению управляющего директора практики «Данные и прикладной ИИ» Axenix Ларисы Мальковой, CERT также сможет осуществлять борьбу с дипфейками.

«Ведомости» направили запросы в ЦБ и ФСТЭК.