«Т-технологии» разработали ИИ-ассистента без привязки к собственной экосистеме

Технологическая компания «Т-технологии» разработали ИИ-ассистента по имени Тая, его ключевое отличие от уже существующих решений – фокус на помощи в повседневных жизненных решениях, связанных с деньгами, рассказал «Ведомостям» представитель Т-банка. Полноценно Таю запустят осенью, сообщил директор по продукту и технологиям банка Константин Маркелов: сейчас она доступна в бета-версии.

Тая не будет зациклена на экосистеме Т-банка – если она увидит, что какой-то сценарий закрывается вне экосистемы, она будет рекомендовать его тоже, рассказал Маркелов. Например, если ассистент нашла какой-то товар дешевле на Ozon, то ассистент даст ссылку на маркетплейс. То же самое относится к финансовым продуктам других банков, добавил Маркелов. Это позволяет выстраивать долгосрочное доверие с клиентами банка, а также дает стимул самому банку улучшать собственные продукты, поясняет он.

Совокупный объем затрат «Т-технологий» на создание Таи, включая оплату команды, дообучение ассистента и тестирование, составил 250–300 млн руб., рассказал представитель Т-банка.

«Все маркетплейсы, все банки, почти весь бизнес зарабатывают в каком-то смысле на клиенте. И это вынуждает делать неправильную выдачу поисковика, неправильную подборку товаров, чтобы максимизировать собственные «кликрейт» и покупки на своих платформах. Но это не максимизирует выгоду клиента, не закрывает его потребности. И мы хотим для всех, и для нас самих в том числе, перевернуть правила игры», – сказал Маркелов.

Как работает Тая

Ассистент разработан как платформа с вертикальными навыками: универсальный слой дополняется специализированными навыками в тех областях, где у «Т-технологий» есть собственная экспертиза и данные. Первым таким навыком стал выбор и покупка товаров. При этом Тая работает в интересах пользователя и остается равноудаленной от всех торговых площадок, заверяют в банке.

У Таи выстроен процесс контроля качества ответов, в котором достоверность является ключевым критерием оценки. В сценариях с риском галлюцинаций (когда нейросеть уверенно генерирует ложную информацию) ответы строятся на основе верифицированных источников и проходят автоматические проверки, а сами источники отображаются в ответе, чтобы пользователь всегда мог проверить происхождение информации. Полностью исключить риск галлюцинации невозможно, но разработанная архитектура минимизирует риск и делает каждую ошибку обнаруживаемой и исправляемой, отметил представитель Т-банка.

Ассистент построен на той же технологической базе, которая использовалась при создании T-Lite и T-Pro, – это большие языковые модели (LLM), разработанные «Т-технологиями», они входят в семейство моделей Gen-T. Часть функционала Таи реализована на специализированных моделях, оптимизированных под конкретные задачи. Таким образом, часть запросов обрабатывается большими моделями, которые компания дообучала на собственных датасетах (структурированных коллекциях информации, которые используются для анализа, поиска закономерностей или обучения алгоритмов ИИ), а часть – специализированными моделями, созданными для выполнения отдельных навыков, поясняет представитель Т-банка.

В ближайшем будущем компания планирует углубить финансовый контекст Таи, чтобы при выборе крупных покупок и других жизненных решений ассистент учитывал доход, накопления и кредитную нагрузку пользователя, говорит представитель Т-банка. Параллельно будет расширяться набор навыков за пределы шопинга, охватывая другие массовые жизненные сценарии. «Т-технологии» также планируют развивать мультимодальность ИИ-ассистента: добавить голосовое взаимодействие, работу с изображениями, чтение документов и анализ ссылок.

Преимущества и риски

Сегодня востребованы все ИИ-ассистенты, которые позволяют упростить повседневную жизнь людей, одним из примеров которых являются и финансовые ассистенты, говорит руководитель проектов компании «Интеллектуальная аналитика» Тимофей Воронин. Разработка «Т-технологий» будет популярна у пользователей и может быть одним из ключевых факторов выбора банка, считает он.

Финансовая грамотность граждан в среднем не очень высокая, а выбрать даже просто самые выгодные условия ипотеки или другие инвестиционные продукты – сложная задача, поэтому пользователи могут обратить внимание на ИИ-ассистента, добавил пресейл-инженер «Спикатела» Денис Ушаков. Универсальные ИИ-модели зачастую галлюцинируют в цифрах и не видят контекст конкретного кошелька, поэтому главное преимущество специализированного ИИ должно быть в том, что он оперирует сведениями о персональном бюджете и реальных рыночных предложениях и ставках, считает эксперт.

Вместе с этим у спроса на подобные инструменты есть свой потолок и он проходит по линии доверия, говорит директор по стратегии и развитию ИИ Cloud.ru Дмитрий Юдин. Обсуждать с ассистентом выбор наушников человек готов легко, а вот пустить его в свою полную финансовую картину – вопрос осознанного решения, пояснил он. Здесь востребованность упирается не в качество модели, а в ответ на вопрос пользователя: где лежат мои данные и что с ними происходит дальше, говорит Юдин. Выигрывают те, кто отвечает на него до того, как его зададут, – режимом хранения в контролируемом контуре и понятными правилами использования данных. Востребованность в финансовых ассистентах заслуживается точностью и безопасностью, а не самим фактом их наличия, констатировал эксперт.

Конкурентное преимущество специализированных ИИ-ассистентов перед универсальными моделями вроде ChatGPT заключается в контуре вокруг такой модели, уточнил Юдин. Универсальная модель знает мир вообще, специализированный ассистент знает транзакционную историю конкретного пользователя, его профиль трат, актуальные ставки и правила конкретного банка. Но у этого контекста есть цена, уточняет эксперт: как только ассистент получает доступ к транзакциям, он становится объектом защиты уровня банковской системы. Отсюда и требования – дообучение под предметную область, RAG (технология в ИИ, при которой нейросеть перед ответом на вопрос сначала ищет нужную информацию и только потом генерирует точный ответ на ее основе) над проверенными источниками, перечисляет Юдин: и все это в защищенном периметре, где данные клиента не покидают контролируемый контур и не утекают в обучение внешней модели. Публичный сервис такой гарантии дать не может – именно поэтому финансовые компании строят ассистентов на собственной или доверенной инфраструктуре, заключил Юдин.

Среди рисков использования ИИ-ассистента Ушаков из «Спикатела» выделил риски потенциальной атаки из-за наличия дополнительного бота, имеющего доступ к финансовой информации пользователя. Кроме того, рекомендуя кредит или крупную покупку, ИИ, по сути, берет на себя функцию финансового советника – ошибка ассистента может обернуться реальными убытками для пользователя, добавил эксперт.

Прозрачность должна стать ключевым принципом работы подобного ИИ-ассистента, считает Ушаков. Пользователь должен иметь возможность узнать, на каких данных обучалась модель и как часто они обновляются. Все рекомендации ассистента должны содержать дисклеймер о вероятности ошибки, ограничении ответственности и предупреждение о рекламе. По мнению Юдина, должно быть видно, на каких данных построен ответ, какая именно собирается информация пользователя, где она хранится, кто имеет доступ и используются ли эти данные для обучения. С технической стороны должна быть возможность воспроизводить решения, чтобы любую рекомендацию можно было разобрать постфактум и чтобы служба безопасности могла отследить, что именно повлияло на ответ, отметил он.

При использовании ИИ-ассистента возникают риски некорректной оценки финансовых затрат и отсутствия учета человеческого фактора, добавил Воронин из «Интеллектуальной аналитики». Наиболее ярким примером является сфера инвестиций, в которой всегда есть вероятность наступления того исхода, который не прогнозировался, но пользователи могут подумать, что если ИИ советует покупать акции такой-то компании, то ошибки быть не может, пояснил он. 
ИИ-ассистенты не смогут быть на 100% нейтральными, так как в некоторых случаях будут советовать те решения и продукты, которые представляют больший интерес для владельца данного ассистента, предупреждает Воронин. Абсолютную непредвзятость ИИ сложно представить: алгоритмы всегда отражают бизнес-логику своих создателей и те данные, на которых их обучали, пояснил заместитель генерального директора Servicepipe Даниил Щербаков.