Время кентавров: как меняется наука в эпоху ИИ
В журнале «Высшее образование в России» опубликован «Манифест кентавра», разработанный исследовательским семинаром на базе Института гуманитарных и социальных технологий НИУ ВШЭ. Авторы поднимают вопрос о том, как совместная работа человека и ИИ меняет науку и университетское образование. Манифест ставит проблему конкуренции «простых ответов»: ИИ производит их быстрее, чем наука успевает получить обоснованное знание, а общественные явления меняются еще до завершения исследований.
«Мы предлагаем воспринять манифест как повод для переосмысления университетских политик в сфере использования ИИ. Важно определить, как оценивать самостоятельность исследователя, чему учить студентов и как обеспечивать достоверность знания, созданного в сотрудничестве с машиной», — отмечает Дмитрий Земцов, проректор НИУ ВШЭ и директор Института гуманитарных и социальных технологий.
По мнению авторов манифеста, опубликованного в журнале «Высшее образование в России», гуманитарные и социальные науки рискуют утратить инициативу в объяснении человека и общества, равно как и контроль над языком их описания. Ответ на этот вызов требует ускорять исследования без потери качества. Единственный выход авторы видят в организованной совместной работе человека и ИИ. Эпистемический кентавр — так они называют единый субъект познания, в котором исследователь и машина вместе вырабатывают знание. Результат рождается в их диалоге и несводим к отдельным вкладам участников.
Знание, созданное командой «человек + ИИ», должно иметь тот же научный статус, что и созданное человеком. Манифест выдвигает три условия: характер взаимодействия с ИИ раскрыт, результаты проверены, исследователь принимает ответственность. Она целиком остается за человеком.
«В области научных публикаций сложилась ситуация, требующая реакции академического сообщества. Искусственный интеллект уже активно используется и авторами, и редакциями журналов, признанного консенсуса пока нет. Особенно это касается гуманитарных и социальных наук. Манифест призван выступить отправной точкой, своеобразной площадкой для серьезной дискуссии», — прокомментировал Владимир Никольский, главный редактор журнала «Высшее образование в России».
Принципы этоса науки действуют в кентавр-исследованиях в той же степени, что и в традиционных. Универсализм, коллективизм, бескорыстие и организованный скептицизм сохраняют силу. Исследователь должен соотносить скорость работы машины с глубиной собственного осмысления и избегать упрощений при изучении сложных явлений.
Машина способна ошибаться, но не способна удивляться, подчеркивают авторы. Поэтому замечать необычное — человеческая обязанность. Аномальный результат или его отсутствие могут стать источником нового знания только после строгой проверки.
Особой осторожности требует вывод, который убедительно звучит, влечет серьезные последствия, но непрозрачен по происхождению. Встроенные в ИИ этические ограничения не освобождают исследователя от собственной оценки: вывод нужно взвесить и по мерке научной достоверности, и по мерке человеческой этики.
«ИИ-революцию уже невозможно остановить. Возглавить ее тоже вряд ли получится. Остается присоединиться, но на каких условиях? Безоговорочной капитуляции? Ни в коем случае! У нас есть свое видение возможностей и ограничений, которое мы хотим представить и обсудить с широким кругом заинтересованных коллег по науке и исследованиям», — подчеркнул Валерий Федоров, генеральный директор Аналитического центра ВЦИОМ.
Генеративный ИИ не нейтрален: он усваивает из обучающих текстов способы объяснения мира, умолчания и слепые зоны. Предложенную им картину нельзя принимать за универсальную и позволять ей вытеснять культурные и цивилизационные особенности.
Для развития такой практики недостаточно личной бдительности и университетских регламентов. Авторы предлагают создавать горизонтальное сообщество исследователей, которые обмениваются методами, обсуждают трудности и проверяют результаты. Институт приглашает присоединиться к сообществу разработчиков методологии кентавра.
Полный текст манифеста — на сайте института.