Этическая парадигма: как искусственный интеллект влияет на финансовый бизнес
Почему цифровизация отрасли требует не только технологий, но и новых правил работыВопрос, может ли бесплатный искусственный интеллект (ИИ) не навязывать клиенту новые услуги или не искажать восприятие преимуществ продукта, стал центральным для участников сессии «Цифровой разрыв: ИИ – «великий уравнитель» или «великий разделитель», прошедшей на форуме «Финополис». Эксперты обсуждали, делает ли искусственный интеллект финансовые сервисы действительно доступнее или, напротив, усиливает неравенство между пользователями. Участники затронули темы этики и прозрачности рекомендательных систем, критического восприятия решений, принимаемых машиной, и ответственности крупных экосистем за настройки своих алгоритмов.
Смена парадигмы
«Бесплатный сервис означает, что продали вас. Чтобы искусственный интеллект действительно работал в интересах человека, он должен быть прозрачным, платным и осознанно используемым», – подчеркнул в ходе сессии вице-президент, директор по продукту и технологиям «Т-Банка» Константин Маркелов. По его словам, назрела необходимость «смены парадигмы»: алгоритмы должны работать в интересах клиента. «Это не может быть бесплатно», – добавил он.
По словам Маркелова, «искусственный интеллект не всезнающий оракул, а сложный инструмент, работающий с теми данными, которые ему предоставлены». «Если искусственный интеллект будет больше знать информации о том, что цифровой рубль – это классно, то, конечно, он будет отвечать, что это классно», – пояснил эксперт.
При этом, отметил он, если обучающая выборка содержит ошибки или предвзятость, система воспроизводит их в своих рекомендациях. «Поэтому крайне важно понимать, на какой метрике обучен алгоритм, что именно он оптимизирует», – подчеркнул Маркелов.
По словам руководителя лаборатории машинного интеллекта «Яндекса» Александра Крайнова, искусственный интеллект может ошибаться в новой для него ситуации. Эксперт советует пользователям формулировать запросы максимально корректно: от того, как задан вопрос, напрямую зависит точность ответа.
Технологии, которые уравнивают
Технологии в принципе уравнивают людей, заявил председатель ассоциации «Электронные деньги» Виктор Достов. Искусственный интеллект позволяет демократизировать технологии и делает финансовые инструменты более доступными для клиентов с разными возможностями, считает вице-президент, руководитель блока «Управление благосостоянием» Сбербанка Руслан Вестеровский.
«ИИ может давать качественные советы по инвестициям и балансировке портфеля даже клиентам с небольшими капиталами, – отметил он. – В страховании это позволяет создавать персональные тарифы, учитывающие состояние здоровья и образ жизни, минуя посредников и сохраняя средства клиентов».
Подобные решения внедряются и для противодействия мошенничеству, когда ИИ выявляет подозрительные операции быстрее человека. Однако участники сессии предупредили: если на рынке останутся только ИИ-агенты, это может привести к непредсказуемым последствиям. В то же время те компании, которые не будут использовать ИИ-технологии в горизонте нескольких лет, могут фундаментально отстать от тех, кто ими пользуется, подчеркнул Вестеровский.
Ставка на доверие
В долгосрочной перспективе интересы банков и клиентов совпадают, отметил руководитель службы по защите прав потребителей и обеспечению доступности финансовых услуг Банка России Михаил Мамута. Он подчеркнул, что капитализация бизнеса напрямую связана с уровнем доверия.
Ранее ЦБ разработал и направил в финансовые организации кодекс этики в сфере разработки и применения искусственного интеллекта (ИИ). Так, по мнению регулятора, следует информировать клиентов, когда они взаимодействуют с ИИ, а также предоставлять им возможность выбрать общение с сотрудниками банка. Кроме того, ЦБ предлагает финансовым организациям регулярно проверять качество ИИ, обращать внимание на соблюдение конфиденциальности персональных данных и организовать управление рисками. Также представитель регулятора заявлял, что важную роль в доверенном и ответственном применении ИИ на финансовом рынке может сыграть обмен опытом и лучшими практиками по соблюдению этических рекомендаций между банками.
Вопросы доверия ИИ актуальны во всем мире. Например, в Евросоюзе принят закон «Об ИИ», устанавливающий требования к прозрачности и ответственности алгоритмов в финансовых услугах. Подобные подходы обсуждаются в Великобритании и Сингапуре, где регуляторы создают «песочницы» для тестирования решений с элементами машинного обучения.
Маркелов развил эту мысль. «Наша задача – построить систему, которая помогает человеку в его жизни, а не просто советует, куда инвестировать, – отметил он. – Мы хотим, чтобы алгоритмы действовали как навигатор по финансам и по жизни. Чтобы человек мог ставить цель, а система помогала к ней идти: к финансовой независимости, стабильности, комфорту».
По словам Маркелова, внутренняя философия Т-Банка, например, строится вокруг показателя lifetime value, не прибыли компании, а «ценности жизни клиента». «Для нас выгода в том, что человек останется с нами надолго и будет доверять», – пояснил Маркелов.
По словам Мамуты, сама технология нейтральна, но ее применение – нет. «В краткосрочной перспективе есть искушение использовать ИИ для максимизации прибыли, – говорит он. – Но в долгосрочной – капитализировать бизнес можно только через доверие, которое легко разменять, но невозможно быстро восстановить».
Ключевым фактором успеха станет готовность пользователей доверять новым технологиям, сошлись во мнении участники сессии на «Финополисе». «Битва за душу искусственного интеллекта в финансах только начинается, и ее исход определит, кто же в конечном счете станет главным бенефициаром технологической революции – банки или их клиенты», – резюмировал Мамута.