Развитие антропоморфной робототехники требует не только технологических, но и этических решений. В июле на площадке Института робототехнических систем НИУ ВШЭ прошла форсайт-сессия, посвященная разработке Этического стандарта для антропоморфных робототехнических комплексов. Представители бизнеса, органов государственной власти, научных организаций и университетов обсудили ключевые этические и правовые вопросы, связанные с развитием антропоморфных робототехнических комплексов. Главным итогом встречи стала подготовка проекта Этического стандарта.
Открывая сессию, исполнительный директор Группы «ЭФКО» Сергей Иванов обратил внимание участников на возрастающее значение этических принципов в корпоративной стратегии. По его словам, формирование социально ответственной позиции компании и осмысление взаимосвязи морали и экономических моделей напрямую влияют на инвестиционный климат. Спикер отметил мировую тенденцию, согласно которой крупные компании все чаще привлекают профессиональных философов к решению стратегических задач, рассматривая их компетенции как важное конкурентное преимущество.
Организатор и модератор встречи, директор Центра этики и онтологии роботов Института робототехнических систем НИУ ВШЭ Анастасия Углева, обозначила две ключевые проблемы, которые сегодня затрудняют применение этических принципов в бизнесе и государственном управлении. Первая связана с тем, что этические категории сложно формализовать и измерить. Вторая — в недостатке убедительных эмпирических данных, подтверждающих практическую и экономическую ценность прикладной этики. Преодолеть эти ограничения можно только благодаря содержательному взаимодействию общества, академического сообщества, государства и бизнеса.
Форсайт-сессия стала площадкой для междисциплинарного диалога, в рамках которого эксперты обсудили наиболее сложные этико-правовые вопросы, возникающие в связи с развитием антропоморфных робототехнических систем. Центральными темами дискуссии стали пределы физического сходства робота с человеком, критерии допустимости такого сходства, распределение ответственности за решения, принимаемые робототехническими системами в условиях неопределенности, а также подходы к проведению этического аудита.
Одним из ключевых результатов обсуждения стало решение рассматривать этику применительно к антропоморфным роботам как дисциплину, основанную на практической рациональности и социальных конвенциях. В отношении гуманоидной робототехники это означает отказ от обсуждения вопросов о наличии у машины сознания или души в пользу функционального подхода: какую роль выполняет робот в системе социальных отношений. Такой подход позволит перевести философские принципы в плоскость инженерных решений и технических регламентов.
В ходе дискуссии участники сформировали комплексную карту социальных и этических рисков и пришли к выводу о необходимости проведения широкого круга научных исследований. Их цель — определить технические ограничения, которые должны быть заложены в архитектуру гуманоидных роботов, чтобы обеспечить безопасное взаимодействие с человеком. Особое внимание эксперты уделили вопросам защиты наиболее уязвимых групп населения — детей, людей пожилого возраста и людей с ментальными расстройствами. Безусловная безопасность человека была признана базовым принципом при разработке таких систем.
Используя сценарный подход, участники подробно рассмотрели несколько моделей взаимодействия человека и робота, проанализировав их с точки зрения этических принципов, возможных рисков и технических требований. По итогам форсайт-сессии будет подготовлен проект Этического стандарта для антропоморфных робототехнических комплексов. Предполагается, что документ станет основой для дальнейшего междисциплинарного диалога и практическим инструментом взаимодействия государства, бизнеса и научного сообщества при проектировании и эксплуатации гуманоидных роботов общего назначения.
«Разработка этического стандарта для антропоморфных роботов — это не просто реакция на технологический прогресс, а заблаговременное формирование правил игры на будущих рынках, — отметил Леонид Гохберг, первый проректор НИУ ВШЭ. — Вышка традиционно выступает площадкой для междисциплинарного форсайта, объединяя академическую строгость, доказательность, экспертизу в области наук об обществе и запросы реального сектора экономики. Проект, инициированный нашим Институтом робототехнических систем совместно со стратегическим партнером университета — Группой компаний “ЭФКО”, предусматривает активное участие всех заинтересованных сторон, включая бизнес, государство и научное сообщество. Только совместными усилиями можно перевести этические принципы на язык инженерных решений и, что не менее важно, на язык экономической эффективности, обеспечивая тем самым доверие общества к новым технологиям».
По словам Сергея Иванова, исполнительного директора АО «Управляющая компания ЭФКО», главный риск роботизации заключается не только в технологиях или в себестоимости решений. «Куда важнее другой вопрос: можем ли мы создать технически совершенную систему, поведение которой окажется социально неприемлемым, — обратил внимание Сергей Иванов. — Если человек не примет робота, его действия будут вызывать страх, раздражение или протест, это способно перечеркнуть саму идею массового внедрения антропоморфной робототехники. Именно поэтому вопросы этики необходимо обсуждать еще на этапе проектирования, а не когда появятся готовые продукты. Благодарим Высшую школу экономики за организацию этой дискуссии и создание площадки, где бизнес, наука и государство могут совместно искать ответы на эти вызовы».
«В рамках форсайт-сессии были рассмотрены четыре прикладных сценария: робот-доставщик, уход за пожилыми людьми, обучение детей (в том числе с расстройствами аутистического спектра) и робот-ассистент на производстве, — рассказал Александр Воронин, технический директор ООО «РобоПро», участник форсайт-сессии. — Ключевая идея, пронизывавшая всю дискуссию, — встроить этику непосредственно в архитектуру, дизайн и функциональность антропоморфных роботов. По сути, это попытка осмыслить три знаменитых закона робототехники Айзека Азимова и перевести их в практическую, инженерно-прикладную плоскость». Интеграция этических норм потребует их серьезного переосмысления, подчеркнул эксперт. «Казалось бы, очевидные постулаты при декомпозиции на конкретные задачи вполне могут превращаться в сложнейшие для восприятия конструкты — даже с учетом всего лишь четырех рассмотренных сценариев. В ходе обсуждения затронули и насущные инженерные вопросы, касающиеся текущего уровня развития робототехники: ограничения физической конструкции, программное обеспечение, особенно ИИ-составляющая, и проблемы кибербезопасности. Также были выявлены явные лакуны в законодательной базе, стандартизации и нормативно-техническом регулировании. Оживленную дискуссию вызвал вопрос распределения ответственности за возможный вред, причиненный роботом человеку. И здесь, к слову, удалось достичь редкого консенсуса между инженерами и юристами: все сошлись на том, что всегда отвечает владелец робота — частное лицо или компания, которая впоследствии может сделать регресс в сторону других участников цепочки создания и интеграции».
По мнению эксперта, участники форсайт-сессии получили прекрасную возможность не только изложить собственное видение, но и, что значительно ценнее, услышать конструктивную критику и познакомиться с важными аспектами, лежащими далеко за пределами их привычных профессиональных сфер. «Это критически важный элемент для полноценного обмена мнениями и выработки реального, а не декларативного консенсуса в понимании требований к антропоморфным роботам, — сказал Александр Воронин. — Этика в перспективе вполне может стать реальным инженерным ограничением. И здесь ключевой вопрос: как сделать так, чтобы это ограничение не затормозило развитие технологий, а, напротив, дало позитивный импульс и самой этике, и ее практическому воплощению в сложном взаимодействии человека и робота».
В работе форсайт-сессии приняли участие представители Госкорпорации «Росатом», Комиссии Общественной палаты РФ по просвещению и воспитанию, НСМИИ и КИ РАН, ВИНИТИ РАН, ИФ РАН, НИЯУ МИФИ, МФТИ, НИУ ВШЭ, СПбГУ, МАИ, Сколтеха, Московской академии Следственного комитета имени А.Я. Сухарева, ТК 164 по стандартизации «Искусственный интеллект», ТК 141 «Робототехника», ФГБУ «НМИЦ АГП им. В.И. Кулакова», АО «Корпорация роботов», АО «УК ЭФКО», Фонда «Сколково», Центра испытаний роботов МИК, Центра робототехники ПАО «Сбербанк», НАУРР, ООО «РобоПро», ООО «Апромтех», ООО «Агробит», МТП «Ньюдиамед» (MeDiCase), MTС Web Services и др.