ИИ все чаще становится частью корпоративных продуктов, сервисов и внутренних процессов. Вместе с этим меняется и поверхность атаки: злоумышленники могут использовать ИИ для ускоренного поиска уязвимостей, анализа паттернов поведения систем, подготовки фишинговых сценариев и автоматизации отдельных этапов атаки. Одновременно сами ИИ-системы требуют защиты от манипуляций с обучающими данными, искажения результатов, атак на модели и ошибок в интерпретации информации, отмечают в Академии АйТи fabricaONE.AI (акционер – ГК Softline).
В этих условиях на рынке ИБ формируется запрос на специалистов, которые понимают и киберразведку, и специфику машинного обучения. Новое направление AI Threat Intelligence (киберразведка для ИИ-систем) объединяет анализ угроз, работу с телеметрией, расследование инцидентов, защиту ML-моделей, оценку рисков и прогнозирование новых векторов атак.
«Искусственный интеллект становится частью технологических решений, поэтому информационная безопасность тоже должна учитывать его специфику. Важно понимать, как ИИ обрабатывает данные, какие закономерности он видит, где может ошибаться и как эти особенности могут использовать злоумышленники. При этом ИИ применяется и в атаках: он помогает быстрее анализировать инфраструктуру, искать слабые места и масштабировать действия. Задача специалистов по киберзащите заключается в том, чтобы выстраивать защитные барьеры, контролировать корректность работы ИИ-систем и заранее оценивать риски, которые раньше не были характерны для классической ИБ», – поделился Михаил Шепелев, куратор направления «Информационная безопасность» Академии АйТи fabricaONE.AI.