Мастерская «ML в информационной безопасности» стартует в рамках подписанного стратегического соглашения о сотрудничестве между Московским институтом электроники и математики ВШЭ и Ozon. Здесь будут готовить специалистов, способных обеспечивать безопасность систем искусственного интеллекта. Студенты смогут изучить методы защиты больших языковых моделей и разработать инструменты, нацеленные на повышение устойчивости систем ИИ к атакам.

МИЭМ ВШЭ и Ozon подписали соглашение о сотрудничестве в целях повышения качества ИТ-образования, разработки и актуализации образовательных программ и рабочих программ дисциплин. Подписание соглашения состоялось 24 марта в МИЭМ ВШЭ.

Ozon Tech занимается ИТ-разработкой в разных направлениях бизнеса цифровой платформы Ozon — приложений клиента и продавца, автоматизированных систем на складах, платформы для разработчиков, — а также информационной безопасностью и многим другим. Сейчас в команде задействовано свыше 8 тысяч ИТ-инженеров.

В рамках соглашения в МИЭМ ВШЭ запускается уникальная мастерская, где студенты будут работать на стыке машинного обучения и защиты цифровых платформ. Основная задача заключается в подготовке специалистов, способных обеспечивать безопасность современных систем искусственного интеллекта. Новая мастерская — формат практического обучения: студенты работают над реальными задачами индустрии вместе с инженерами компании.

Студенты будут исследовать методы защиты больших языковых моделей, анализировать уязвимости и разрабатывать механизмы повышения устойчивости ИИ-систем к различным видам атак. Кроме того, большое внимание в учебном процессе предстоит уделить обучению методам поиска и оценки рисков внедрения ИИ в процессы компании, построения безопасной архитектуры продуктов компании с ИИ.

«Обеспечение безопасности систем искусственного интеллекта — новое направление в области кибербезопасности, требующее подготовки специалистов нового типа на стыке дисциплин, хорошо знающих технологии ИИ и при этом владеющих полной базой знаний в части информационной безопасности. Такие компетенции формируются только в условиях работы с практическими задачами, идущими из реального сектора. Модель учебного процесса, которую мы будем применять в мастерской, в полной мере учитывает эти обстоятельства», — подчеркнул Олег Евсютин, руководитель департамента кибербезопасности МИЭМ ВШЭ.

Практический подход к обучению будет обеспечиваться реальными проектами под руководством экспертов Ozon. Студенты получат возможность работать с передовыми технологиями защиты информации, развивая навыки командной разработки и накапливая портфолио реальных проектов. Эксперты будут помогать студентам разбирать индустриальные задачи, применять теорию на практике, развивать инженерное мышление, готовить и защищать свои решения.

«Сегодня защита систем ИИ — перспективное исследовательское поле со множеством неизвестных, которое находится только на стадии формирования, — говорит Дмитрий Коваленко, проректор НИУ ВШЭ, директор МИЭМ. — Запросы на такую защиту звучат все громче. Именно поэтому мы открываем сегодня для студентов ВШЭ профильную мастерскую. Выбор индустриального партнера в новом деле — стратегическая задача для института. Ozon Tech — команда с высоким уровнем практической экспертизы, обеспечивающая работу передовой ИТ-инфраструктуры, которой пользуются десятки миллионов человек и в которой активно применяется ИИ. Искренне благодарны коллегам за поддержку наших образовательных проектов. В этом году мы также запускаем новую программу магистратуры “Информационная безопасность систем ИИ”, выпускники которой будут весьма востребованы у крупнейших работодателей — партнеров ВШЭ».

«Мастерская по информационной безопасности Ozon Tech в МИЭМ ВШЭ полностью погрузит студентов в решение реальных практических задач на пересечении машинного обучения и кибербезопасности, над которыми ежедневно работают IT-специалисты нашей цифровой платформы, — отметил Кирилл Мякишев, директор по информационной безопасности Ozon. — В ИТ-специальностях особенно важно пополнение собственного портфолио реальными практическими кейсами, получение практических знаний и навыков, которые потребуются далее в работе. И в нашей мастерской студенты смогут получить этот опыт, не отрываясь от учебного процесса в университете. А эксперты Ozon выступят для ребят наставниками и поделятся собственным опытом разработки. Соглашение о сотрудничестве с МИЭМ ВШЭ станет для нас еще одним шагом к развитию ИТ-сообщества в стране, в выстраивании коммуникации между академической средой и бигтехом и поможет нам сформировать кадровый резерв».

Условия участия предусматривают гибкий график работы 15–20 часов в неделю, что позволяет совмещать обучение в мастерской с основной учебной программой. К участию приглашаются студенты ИТ-направлений НИУ ВШЭ, заинтересованные в развитии карьеры в сфере информационной безопасности. Кандидатам предстоит пройти несколько этапов: подача заявки, выполнение тестового задания и собеседование. Количество мест в мастерской ограничено.

Более подробно — на сайте мастерской.