Попасть в нейросети

Почти половина российских банков намерены в ближайшее время внедрить в свои процессы искусственный интеллект (ИИ) типа ставшего всемирно знаменитым чат-бота ChatGPT. Уже сейчас некоторые финорганизации доверяют таким моделям часть общения с клиентами и создание контента, а в перспективе ИИ могут поручить заполнение документов, поиск мошенников и анализ новостного фона и имиджа компании. «Ведомости. Инновации и технологии» разбирались, как будут работать нововведения и во сколько они обойдутся.

Время экспериментов

В этом плане российские банки следуют мировому тренду: за рубежом финансовый сектор тоже активно внедряет в работу нейронные языковые модели. Например, нидерландский ABN Amro использует GPT для составления выводов из разговоров между сотрудниками и клиентами банка, а также для сбора данных о клиентах, напомнила руководитель Российского центра компетенций и анализа стандартов ОЭСР РАНХиГС Антонина Левашенко. Goldman Sachs использует GPT для того, чтобы помогать собственным разработчикам в написании программных кодов, добавила она.

«В России наиболее активно с генеративными предобученными трансформерами экспериментируют банки так называемой «большой тройки» (речь о крупнейших банках по размеру активов: Сбербанк, ВТБ и Газпромбанк. – «Ведомости. Инновации и технологии»). Дальше всех пошла экосистема «Сбера», где семейство помощников «Салют» способно не только реагировать на банковские запросы клиентов, но и управлять продуктами и программами, входящими в эту экосистему», – отметил доцент департамента стратегического и инновационного развития Финансового университета при правительстве РФ Михаил Хачатурян.

GPT вошел в чат

Хотя для GPT в банкинге есть множество опций, пока для клиентов наиболее заметно их использование в чат-ботах и информационных сервисах. Как отметил руководитель дирекции моделей и методов продвинутой аналитики Альфа-банка Вадим Аюев, сейчас это самое очевидное и финансово емкое применение технологии. С помощью нейросети сотрудники поддержки могут эффективнее и быстрее обрабатывать запросы от клиентов, отметил директор Центра технологий искусственного интеллекта «Тинькофф» Виктор Тарнавский. Плюс использование генеративных предобученных трансформеров может сократить расходы на контактные центры и повысить уровень клиентской лояльности, согласен директор департамента цифровой трансформации и стратегии информационных технологий ПСБ Александр Сахаров.

Кроме того, алгоритмы машинного обучения могут анализировать тональность и эмоциональный окрас сообщений клиентов, это позволяет точнее определить их настроение и предложить соответствующие решения, добавил он. «Банки будут более качественно коммуницировать в чат-ботах, а операторы (например, за счет сервисов суммаризации диалога и других систем-помощников) гораздо быстрее смогут помогать клиентам в тех случаях, когда чат-бот неприменим», – уверен Аюев.

В Дом.РФ сейчас прорабатывают механизм параллельного использования классических технологий машинного обучения в связке с генеративными моделями, поделился управляющий директор по IT и цифровой трансформации организации Николай Козак. Предполагается, что часть запросов пользователей будет закрывать классическая языковая модель, а если она не справляется – задачу переключат на GPT. «Такая конфигурация позволяет снизить количество сообщений от ботов в стиле «Извините, я не нашел ответ на ваш вопрос», которые вызывают у пользователей основной негатив», – отметил Козак.

В некоторой перспективе вся коммуникация, за редкими исключениями, будет строиться только за счет нейросетевых моделей, ожидает Аюев. На первых этапах решить какую-то сложную и уникальную проблему система не сможет и потребуется вмешательство оператора, но по мере обучения система будет способна брать на себя значительный объем обязанностей, добавил Хачатурян.

Из другого текста

В Россельхозбанке уже применяют GPT для создания маркетинговых материалов и контента на внешних сервисах, рассказал заместитель председателя правления организации Николай Ульянов. «Планируем  использовать для создания персонализированных сообщений нашим клиентам и для создания обучающих материалов для сотрудников, а также в разработке программного обеспечения», – поделился планами топ-менеджер. Он подчеркнул, что технология все еще находится в стадии разработки и требует значительных инвестиций как в оборудование, так и в специалистов. Поэтому сейчас банк на стадии исследования того, каким образом шире внедрить и использовать технологии GPT.

Вице-президент, начальник департамента анализа данных и  моделирования Газпромбанка Мария Косарева сказала, что организация изучает и использует генеративные трансформеры, но не сообщила подробностей.

Нейросети используют и как дополнительную опцию к услугам банка. Так, бизнес-клиентам ПСБ в пилотном режиме доступен сервис общения с GPT на темы, выходящие за рамки банковских услуг. Например, как написать маркетинговый текст, когда платить налоги и ответы на другие вопросы, пояснил Сахаров. Он добавил, что нейросеть можно адаптировать под выполнение практически любых задач с текстом: для подготовки материалов технической и клиентской поддержки, опросов, исследований, консультаций – и финансового, и общего характера. 

На все кнопки мастер

Банки продолжают изучать все новые сферы применения GPT. Например, в Дом.РФ намерены подключить нейросети к внутренним процессам и дать сотрудникам возможность искать нужные сведения в текстовых массивах электронной почты, документов, баз знаний отделов, мессенджеров с помощью генеративного ИИ, рассказал Козак. 

Есть и еще одно направление. «В рамках совместного пилота с одной из компаний мы используем технологию для анализа новостного фона и составления краткого пересказа. Коммерческий блок активно применяет генерацию текстового контента для проведения презентаций и составления описаний продуктов», – поделился Козак.

В МКБ тоже видят потенциал в использовании GPT во внутренних процессах, рассказал заместитель председателя правления банка Сергей Путятинский. «На данный момент проходит пилотирование GPT-модель, развернутая на собственной инфраструктуре для использования в корпоративной экосистеме банка», – поделился он, не сообщив подробностей о функционале модели. Но эксперт подчеркнул: предложения ИИ всегда проверяют реальные специалисты компании.

В перспективе банки могут использовать GPT-модели для автоматического заполнения форм и анализа операций на предмет аномалий, чтобы обнаружить мошенничество, полагает научный сотрудник Центра Россия – ОЭСР РАНХиГС Кирилл Черновол. Кроме того, могут быть созданы программы на основе генеративного ИИ, которые будут помогать принимать финансовые решения с точки зрения инвестиций, предположил эксперт. «Думаю, в будущем мы увидим модели, обученные на специфических данных, которые смогут помогать клиентам с налогообложением, комплаенсом, ведением учета, взаимодействием с государством», – считает лидер направления «Данные» в банке «Точка» Галина Вакулина. 

Впрочем, у систем GPT есть и вполне понятные ограничения. В критически важных процессах, а также там, где цена ошибки достаточно высока, полностью полагаться на технологию пока нельзя – требуется верификация ответа человеком, указал Аюев из Альфа-банка. Любой ИИ должен находиться в изолированной от критической информации среде, согласен Путятинский.

Разработать нельзя купить

В разных банках похожим образом видят будущее применения технологий GPT, но вот подходят к их внедрению по-разному: одни организации готовы инвестировать в разработку собственных решений, а другие намерены использовать те, что уже есть на рынке. Разработать и натренировать большую языковую модель наподобие ChatGPT-3 обойдется компании в $4 млн, считает Левашенко. C учетом того что сама технология известна уже несколько лет, т. е. работа начнется не с нуля, примерные затраты на внедрение можно оценить в диапазоне от 500 млн до 2–3 млрд руб., добавил Хачатурян из Финуниверситета при правительстве РФ. У более доступных существующих решений другой минус: банки не смогут сами управлять этим сервисом или совершенствовать его под собственные нужды и фактически окажутся в зависимости от поставщика.

В МКБ сделали выбор в пользу разработки собственных решений. Основные расходы пришлись на специализированные серверы для обучения моделей, рассказал Путятинский, не уточнив сумму. У Газпромбанка немного другой путь: в приоритете развитие своих решений на базе существующих моделей с открытым кодом (open source), но с прицелом на собственные доменные области и бизнес-специфику, поделилась Косарева.

Альфа-банк в первой половине 2023 г. инвестировал в создание собственного нейросетевого центра NLP (обработки естественного языка), рассказал Аюев. По его словам, в организации дообучают существующие доступные GPT-решения на основе внутренних банковских данных. «При этом мы открыты и для интеграций внешних сторонних решений, если они покажут лучшую эффективность», – отметил топ-менеджер.

В Дом.РФ помимо собственной разработки применяют и решения с открытым программным кодом, исследуют возможности применения GPT-сервисов по модели SaaS (Software-as-a-Service, или сервис как услуга, – облачный сервис, который предполагает использование готового ПО, а серверную инфраструктуру содержит поставщик услуг. – «Ведомости. Инновации и технологии»). «Это позволяет нам запустить быстрый пилот без выделения расширения вычислительных мощностей», – объяснил Козак.

В Россельхозбанке рассматривают как покупку готовых решений, так и разработку собственных, поделился Ульянов. В «Точке» сделали выбор в пользу уже существующих сервисов. Это быстрее и дешевле, чем создание собственной модели, заметила Вакулина. «Кроме того, внедрение своего, но сырого решения сильно влияет на доверие пользователей. Если пользователь видит, что разговаривает с глупым ботом, невпопад отвечающим на вопросы, то он просто не захочет пользоваться этим сервисом», – указала она.

При этом для 82% компаний-респондентов, опрошенных АФТ, актуально создание специализированной для финансовой отрасли нейронной языковой модели, которая будет доступна всем игрокам, рассказала Данилина. «Такая модель, созданная консорциумом участников рынка, позволит ускорить технологическое развитие и сохранить конкуренцию», – считает эксперт.

Триллионы экономии

Какое бы решение ни выбрали банки, большинство игроков рынка рассчитывают снизить расходы за счет внедрения GPT – это отметили 79% респондентов, опрошенных АФТ. И экономия может быть довольно значительной. Если говорить о расходах на персонал, по предварительным оценкам Россельхозбанка, технология позволит их оптимизировать до 20%, рассказал Ульянов.

Теоретически в перспективе компании могут заменить на GPT всех сотрудников служб поддержки, предположила Вакулина из «Точки». И хотя технология устроена так, что изначально сложно понять, общается с тобой человек или робот, ее столь широкое применение вряд ли приведет к росту лояльности со стороны клиентов, считает она. «Дело в том, что никто не любит общаться с роботами», – пояснила эксперт.

Что касается общего сокращения издержек, то в целом по отрасли речь идет о суммах в триллионы рублей. «Мы оценивали потенциал от внедрения технологий ИИ в строительной отрасли, и получилась сумма 2,3–2,7 трлн руб. на горизонте 10 лет. Уверен, и в банковском секторе, как наиболее цифровизированном, внедрение генеративных технологий позволит получить существенную выгоду», – отметил Козак из Дом.РФ. По оценкам Хачатуряна, применение генеративных предобученных трансформеров увеличит прибыль банков в среднем на 1,5–3% в год и по мере развития технологии показатель может возрасти.