Как ИИ без давления способен менять мнение человека

Модель искусственного интеллекта (ИИ), способная аргументировать свои ответы, влияет на решения людей так же эффективно, как и воздействие группы людей. К такому выводу пришли исследователи Лаборатории нейронаук и поведения человека «Сбера». В их эксперименте принимало участие 165 человек, средний возраст которых был около 28 лет. Исследование есть у «Ведомостей», оно размещено на портале публикации препринтов Arxiv.

Авторы изучают, как человек может взаимодействовать с технологией, сохраняя при этом авторство своих выборов и критическое мышление. Эксперимент основывался на исследовании 1950-х гг. психолога Соломона Аша: в нем участники, чтобы не выбиваться из группы, соглашались с мнением большинства, когда оно было ошибочным. Это явление получило название «конформизм».

Задание в эксперименте «Сбера» было одинаковым для всех: выразить позицию по 18 моральным дилеммам, из них 6 было контрольных и 12 проверочных. Моральные дилеммы представляли собой задачи из семейства «проблемы вагонетки» – философского инструмента для изучения выбора в ситуациях без однозначного ответа. Дилеммы транслировались на общем экране.

Участники случайным образом распределялись по трем группам: «Человек», «ИИ» и отдельно «ИИ с рассуждением». В контрольном условии они высказывались о моральных дилеммах без социального давления или влияния модели ИИ.

В группе «Человек» социальное давление создавалось через имитацию групповой дискуссии в формате онлайн-конференции. Каждый реальный участник взаимодействовал с шестью конфедератами, которые в фиксированном порядке давали одинаковые заранее заготовленные ответы. Реальный участник отвечал третьим с конца, т. е. после того, как слышал единогласное мнение группы. В каждой такой пробе участник давал ответ вслух, а затем вносил его в индивидуальную форму.

В группах «ИИ» и «ИИ с рассуждением» участников информировали, что в задании с ними взаимодействует автономная модель ИИ, предоставляющая собственные ответы. На самом деле «выводы ИИ» формировались через заранее записанные аудиосообщения, озвученные синтезированным роботизированным голосом. При этом в группе «ИИ» звучал короткий ответ без пояснений, а в группе «ИИ с рассуждением» каждое сообщение дополнительно содержало краткое философское обоснование. В каждой пробе участник давал ответ вслух после системы ИИ, а затем вносил его в индивидуальную форму.

В контрольных пробах большинство или ИИ давали социально желательные ответы, которые служили базовым уровнем для оценки спонтанных суждений участников. В критических пробах большинство или ИИ намеренно выбирали варианты, которые отличались от общепринятых норм.

Как следует из результатов эксперимента, есть принципиальная разница между исследованием Аша и современностью: ИИ становится новым ориентиром при принятии решений. Пользователи сверяют с ним свои оценки и пересматривают позиции. ИИ представляет альтернативную точку зрения, которая помогает иначе осмыслить ситуацию.

По мере интеграции ИИ в повседневную жизнь он может становиться новым источником влияния, порождая алгоритмический конформизм (склонность человека подстраиваться под мнение или поведение большинства. – «Ведомости»). По результатам эксперимента выяснилось, что ИИ с философской аргументацией менял моральные суждения участников так же эффективно, как живая группа, при этом механизм влияния оказался другим.

В группе с людьми в 56,15% ответов участники соглашались вслух, но в индивидуальную анкету вносили другой ответ. С ИИ такого расщепления не возникало: люди действительно меняли позицию и были уверены, что приняли решение самостоятельно. При этом эффект формата «ИИ без объяснений» был заметно слабее. Участники реже меняли мнение и чаще сохраняли исходную позицию.

Для большинства людей ИИ пока диковинка, отмечает научный руководитель лаборатории Андрей Курпатов. По его мнению, понимание ключевых принципов работы ИИ имеет критическую важность и на просвещение в этой сфере не нужно жалеть сил. Курпатов полагает, что формальных «дисклеймеров» при работе с ИИ недостаточно – не имеющие должной подготовки пользователи подсознательно сравнивают ИИ с человеком, приписывают ему человеческие качества. «Мы действительно столкнулись с новым типом разума, и важно понимать его внутреннюю логику», – говорит Курпатов. По его словам, это понимание позволяет не только избегать ошибок, но и использовать ИИ максимально эффективно – как уникальный инструмент, значительно расширяющий возможности человека.

Критическое мышление – это прежде всего следствие глубокого понимания сути предмета, сказал Курпатов. «Если вы понимаете, как на самом деле что-то работает, вы можете оценить, вводят вас в заблуждение или нет», – добавил он. По его словам, перед нами, как никогда остро, встает вопрос образования, а также развития навыков системного мышления. «Нельзя защититься от ошибок, если вы не знаете правил», – отметил эксперт.

Что говорят эксперты

Грань между помощью ИИ и подменой собственного мнения проходит там, где человек начинает просто ретранслировать ответ нейросети, аргументируя это тем, что ответ «хорошо написан» или «звучит умно», говорит кандидат философских наук, доцент Финансового университета при правительстве РФ Алексей Черняков. В таком случае мнение перестает быть собственным в философском смысле. Особенно опасны ситуации, когда ИИ галлюцинирует – выдвигает гипотезу и подтверждает ее выдуманными фактами: принимая ее, человек фактически принимает мнение системы. Чтобы удержать границу, эксперт советует выстраивать диалог с ИИ особым образом: фиксировать собственную гипотезу, основанную на знаниях или интуиции, просить не единственное решение, а список возможных подходов с аргументами разных сторон, рисками и скрытыми допущениями, определять собственные критерии отбора и использовать ИИ преимущественно как поясняющее средство.

В строго философском понимании, говорит Черняков, у ИИ нет ни разума (в кантовском смысле), ни ответственности, ни моральной субъектности. Но в социологическом – как то, на что люди фактически ссылаются, оправдывая свои поступки, – ИИ уже движется к этой роли. Решающим фактором эксперт называет не столько технологические способности систем, сколько готовность самого общества отдавать им право последнего слова. Чем чаще мы будем стратегически делегировать решения и соглашаться под вывеской «так решил ИИ», тем больше системы станут де-факто моральной инстанцией, даже если философски они для этого не предназначены, завершает эксперт.

Разница между влиянием ИИ и группы людей на наше мнение во многом связана с тем, как мы чувствуем себя в группе, говорит психолог, специалист платформы Alter, эксперт по цифровым сервисам в сфере ментального здоровья Маргарита Спасская. «Мы можем соглашаться с тем, с чем не согласны, если группа единодушно занимает определенную позицию, – этот феномен хорошо изучен. Но это не означает, что мы на самом деле приняли эту версию», – отмечает она. В экспериментах Аша люди соглашались с неверным мнением группы не потому, что их убеждали аргументы, а потому, что включался стыд, страх выделиться и риск быть отвергнутым, добавила эксперт. По словам Спасской, в случае с ИИ это почти отсутствует: нет взгляда других, нет риска оценки, нет угрозы статусу. Поэтому человек скорее не чувствует давления в процессе обсуждения, но это не значит, что при этом нет влияния на формирование его позиции или мнения, сказала она.

Спасская отмечает чувствительность современных языковых моделей: они осваивают язык пользователя, подстраиваются не только под пользовательский стиль общения (предпочитаемый язык, формулировки), но и стиль его мышления и рассуждения. Это значит, что модели могут выстраивать аргументацию так, что она будет звучать как продолжение собственного внутреннего диалога, сказала эксперт. Влияние становится менее заметным – не «меня убедили», а «я сам так подумал». Это снижает сопротивление и делает влияние на позицию менее заметным или вообще незаметным.

В этом смысле ИИ может быть мощным инструментом влияния, отсюда и второй риск – моральный, продолжила Спасская. Способность ИИ давать связные, «красивые» объяснения может приводить к тому, что человек начинает частично перекладывать на него моральный выбор – не потому, что ИИ авторитетнее, а потому, что снижается внутреннее напряжение, связанное с принятием сложных решений, считает эксперт.