В РГГУ предложили создать реестр ИИ-сервисов для образования
Использование зарубежных нейросетей нужно ограничить, считают в университете
В Институте наследия и современного общества Российского государственного гуманитарного университета (ИНиСО РГГУ) предложили создать реестр рекомендованных ИИ-сервисов для использования в образовании. Предлагаемая дата его введения – 2027 г., следует из доклада института «ИИ в образовании: социальная практика современной России».
Как указано в докладе, в реестр нужно включить только отечественные платформы, обученные на российских датасетах. В РГГУ также предложили запретить или ограничить использование в образовательном процессе зарубежных ИИ-сервисов, которые не гарантируют сохранность персональных данных и могут оказывать идеологическое влияние. Предлагается уделить особое внимание формированию национальных датасетов для генерации изображений, размеченных экспертами-культурологами.
Для отечественных генеративных моделей нужно создать специальные образовательные датасеты, которые отражают русскую культуру и культуру народов РФ, историю, традиционные ценности и научную терминологию, уточняется в докладе. Зарубежные датасеты, несущие чужую этику и эстетику, надо исключить из использования.
В РГГУ также считают, что необходимо разработать и утвердить национальный глоссарий по ИИ в образовании. В него должны войти такие понятия, как восходящий (биологический) и нисходящий (символьный, семиотический) ИИ, генеративная модель, цифровой образовательный след, экспертная система, онтология, галлюцинация ИИ и др.
В федеральных законах также нужно закрепить понятийный аппарат, риск-ориентированный подход и принцип «этического светофора», который обозначал бы красные, желтые и зеленые зоны использования ИИ. В сфере образования определение желтой зоны должно быть делегировано Минобрнауки и Минпросвещения, а не самим образовательным организациям, следует из доклада.
Кроме того, нужно определить допустимые сценарии использования ИИ в образовании, требования к прозрачности и декларированию, ответственность за незадекларированное использование, считают в РГГУ. Как указано в докладе, важно закрепить и принцип «цифровой презумпции невиновности»: факт использования ИИ не является основанием для автоматического обвинения в недобросовестности.
В любых ИИ-системах, используемых в образовании и науке, должно быть предусмотрено обязательное участие человека в принятии итоговых решений, говорится в докладе. На законодательном уровне следует закрепить право учащихся, студентов и преподавателей на отказ от использования ИИ в учебном процессе без негативных последствий для академической успеваемости. Необходима и обязательная маркировка ИИ-контента: любой учебный и научный контент, полностью или частично сгенерированный ИИ, должен быть с ней. За отсутствие маркировки должен отвечать автор, считают в РГГУ.
Любое массовое внедрение ИИ в образование и науку должны оценивать педагоги, психологи, социологи, юристы, этики и IT-специалисты. Экспертам необходимо оценивать не только технологические, но и социальные, когнитивные и ценностные риски, указывается в докладе.
Многие эксперты из сферы образования полагают, что развитие цифровых технологий, в частности ИИ, приведет к снижению количества учителей, говорит председатель Совета по правам человека (СПЧ) при президенте РФ Валерий Фадеев. Часть преподавательских функций возьмут на себя компьютерные технологии: проверка заданий, их составление, уточнил он. По словам Фадеева, когда стало очевидно, что огромная часть учеников выполняет задания с помощью нейросетей, картина стала выглядеть иначе.
«Мы не можем запретить использование нейросетей школьникам. Здесь репрессии не помогут», – сказал Фадеев. Он предположил, что можно ввести ограничения в школе, но дома у обучающихся их все равно не будет. Глава СПЧ считает, что на первый план выходят устная коммуникация преподавателя и студента, учителя и ученика. Она займет у преподавателей больше времени, чем проверка стандартных заданий, а значит, потребуется больше учителей, сказал он.
Среди плюсов внедрения ИИ в образовании можно назвать персонализацию обучения, ускорение научного поиска и обработки данных, а также формирование новых профессий и развитие метакогнитивных навыков, рассказала директор по цифровой трансформации МГТУ «Станкин» Татьяна Беляева. Речь идет в частности о поддержке учащихся с пробелами в знаниях или ограниченными возможностями здоровья, о навыках формулирования запросов, верификации ответов.
В качестве минусов Беляева назвала антропологический риск: интеллектуальную атрофию, подмену мышления готовыми ответами. К ним также относится «цифровой колониализм», когда зарубежные модели могут оказывать идеологическое влияние и угрожать культурному коду.
Отдельная тяжелая проблема использования ИИ – информационная безопасность и неприкосновенность частной жизни, говорит главный научный сотрудник Института государства и права РАН Виктор Наумов. В эти системы нельзя отправлять сведения и данные, которые могут нарушать чьи-либо права и интересы, отметил он. По мнению Наумова, также нужно обратить внимание на защиту от искажений – манипулирования результатами поиска и активного использование ИИ для создания дипфейков. Школьники и студенты не защищены от этого потока информации, заключил он.