Как бизнес дает ИИ специализацию

Уже 21% российских компаний используют решения на основе предметно-специфических языковых моделей (DSLM, или Domain-Specific Language Model), показало исследование Высшей школы бизнеса НИУ ВШЭ. Такие модели адаптируют под конкретную отрасль, набор профессиональных задач или корпоративные данные. 66,3% респондентов исследуют технологию и планируют ее внедрение.

Gartner оценивает расходы на специализированные генеративные модели, включая DSLM, в $1,1 млрд в 2025 г. и прогнозирует, что к концу 2026 г. более половины используемых предприятиями ИИ-моделей будут относиться к конкретной отрасли или бизнес-функции, – против 1% в 2024 г. Отдельные прогнозы указывают на более широкую тенденцию к использованию небольших моделей для конкретных задач, хотя это понятие не полностью совпадает с DSLM. Gartner прогнозирует, что к 2027 г. организации будут использовать небольшие специализированные модели как минимум втрое чаще универсальных. Как указывают аналитики компании, такие модели могут быстрее отвечать на запросы и требуют меньше вычислительных ресурсов, что снижает операционные и эксплуатационные расходы.

Опрошенные «Ведомости. Инновации и технологии» эксперты подтверждают, что интерес бизнеса к DSLM растет, но подчеркивают, что разные компании и разработчики могут вкладывать в это понятие разный смысл. По словам руководителя дирекции искусственного интеллекта «Первого Бита» Николая Абрамова, предметной моделью могут называть как готовые специализированные решения вендоров, так и LLM (Large Language Model, или большая языковая модель), дообученные под определенную область или задачу. Еще один вариант – универсальная модель, которой предоставили документы, регламенты и доступ к учетным системам компании, отметил он. В последнем случае речь идет, скорее, о RAG (Retrieval-Augmented Generation, или генерация с дополненной выборкой) и интеграции с корпоративными инструментами, чем о дообучении самой модели.

Поэтому правильнее говорить не о массовом переходе бизнеса от универсальных LLM к DSLM, а о смене подхода – от «спросить у чата» к «дать модели наш контекст», считает Абрамов. По данным исследования «Инфосистемы Джет» и Smart Ranking, которые приводит эксперт, 86% из 52 опрошенных крупных компаний используют или пилотируют LLM, а 63% назвали работу с корпоративными знаниями на основе RAG сценарием с самой заметной отдачей.

Что дает специализация

Наиболее востребованы DSLM там, где модель должна работать с большим объемом профессиональной информации, специфической терминологией и повторяющимися задачами, говорят эксперты. Абрамов выделяет работу с обращениями, извлечение данных из документов, поиск по регламентам и помощь в разработке кода. Среди отраслей он перечислил банки, страховые компании, промышленность, IT, а также юридическую работу и клиентскую поддержку. Руководитель практики оказания услуг компаниям TMT-сектора в ДРТ Григорий Дубровский добавляет, что DSLM уже используются в задачах контроля соблюдения техники безопасности на промышленных объектах и мониторинга показателей производственного оборудования. Также их применяют в экспертных системах для анализа и подготовки контрактов, претензий и программного кода, отметил он.

При этом внедрение DSLM пока носит точечный характер, следует из исследования ВШБ НИУ ВШЭ. Среди компаний, уже использующих такие модели, наиболее распространено их применение в операционной деятельности (28,8%), разработке и инжиниринге (27,2%) и исследованиях (25,8%). Реже всего DSLM используют в HR (6,1%), клиентском опыте (7,6%) и цепях поставок и логистике (13,6%). В планах компаний картина несколько меняется: среди тех, кто рассматривает внедрение DSLM, 45,7% планируют применять их в разработке и инжиниринге. Это самый высокий показатель среди исследованных направлений применения. Авторы связывают его с распространением ИИ-сервисов для генерации программного кода и дефицитом опытных IT-специалистов.

Общим для всех сценариев применения DSLM является зависимость от информации, специфичной для конкретного бизнеса, уточняет эксперт центра ИИ СКБ «Контур» Дмитрий Иванков. Поэтому, по его оценке, такие решения могут быть актуальны практически для любой отрасли – конкретный сценарий зависит от того, насколько уникальны данные, которые используются внутри компании. Наибольшая практическая ценность возникает в телекоме, финансах, промышленности, государственном секторе, здравоохранении и юридических процессах – там, где много специализированной терминологии и закрытых данных, а ошибка может дорого стоить, считает член генерального совета «Деловой России», президент IVA Technologies Станислав Иодковский.

При этом специализация модели не означает, что она становится универсально «умнее», подчеркивают эксперты. «Основной выигрыш – более стабильное и качественное выполнение конкретной задачи», – говорит Иванков. В качестве примеров он приводит понимание специфической терминологии, соблюдение стандартов и форматов. Абрамов также считает, что специализация может дать заметный результат в областях со своим языком – например, при работе с кодом «1С» или медицинскими протоколами.

Сам факт специализации не гарантирует лучшего результата работы, чем у LLM. В качестве примера Абрамов приводит BloombergGPT – модель, обученную с нуля на сочетании финансовых и общих текстов. По данным сравнительного исследования сингапурских ученых, которое он цитирует, универсальная GPT-4 превосходила BloombergGPT на части открытых финансовых тестов, хотя уступала в распознавании названий компаний, людей и другие значимых объектов в тексте. Поэтому результат зависит не только от предметной области, но и от качества базовой модели, данных, подключенных инструментов и системы проверки, подчеркнул эксперт.

При этом Абрамов считает, что специализация особенно оправданна в двух случаях: когда у предметной области есть собственный профессиональный язык и когда речь идет об узкой задаче, для которой важна стоимость обработки запроса. То есть само наличие отраслевых данных еще не означает, что компании нужна отдельная модель – преимущество необходимо проверять на конкретных рабочих сценариях и сопоставлять с результатом универсальной LLM с подключенным контекстом.

Одно из преимуществ DSLM связано с возможностью локального развертывания. По словам Дубровского, специализированные модели обычно содержат меньше параметров, чем крупные универсальные LLM. Это позволяет запускать их на собственных серверах или компьютерах средней мощности и снижать требования к инвестициям в инфраструктуру. Локальное использование также дает возможность работать с конфиденциальной информацией внутри собственного контура, добавил эксперт.

Экономический эффект DSLM, но, не сводится к инфраструктурным расходам. Иванков приводит в качестве возможных результатов более быстрые и точные ответы клиентам или ускорение обучения новых сотрудников. Иодковский предлагает оценивать такой эффект через операционные показатели: время обработки запроса, долю обращений, решенных с первого раза, объем ручной работы, количество доработок и стоимость обработки одного обращения. По его мнению, такие метрики позволяют оценивать влияние специализированной модели на выручку или удержание клиентов.

Финансовый аспект

Вопрос о том, нужно ли компании создавать собственную DSLM, упирается прежде всего в характер задачи и доступные данные. В большинстве случаев эксперты предлагают начинать с менее сложных вариантов. Абрамов рекомендует в корпоративном проекте сначала использовать готовую модель, подключив к ней документы через RAG и необходимые инструменты. Дообучение имеет смысл рассматривать, когда испытания на реальных задачах показывают, что одного контекста недостаточно, а получаемый выигрыш оправдывает затраты, сказал он. Схожих позиций придерживаются Иванков и Иодковский.

Дубровский называет основными препятствиями для использования DSLM стоимость оборудования для дообучения, необходимость иметь квалифицированных инженеров по машинному обучению и время на подготовку датасетов. По его оценке, инвестиции в оборудование для обучения даже относительно небольших моделей могут начинаться примерно от 10 млн руб. и достигать нескольких десятков миллионов.

Иванков также считает высокой стоимость создания DSLM, поэтому он считает, что собственное дообучение доступно ограниченному числу организаций. При этом RAG остается более простым способом добавить модели в корпоративный контекст, добавляет эксперт.

Эксперт Президентской академии (РАНХиГС) Петр Отоцкий указывает еще на одну проблему – она возникает при распространении нескольких специализированных моделей внутри компании. По его мнению, по мере роста числа сценариев бизнес может переходить от одной большой модели к экосистеме DSLM для разных предметных областей. Так, согласно прогнозу IDC, к 2028 г. 70% ведущих компаний, активно использующих ИИ, будут применять многомодельные архитектуры с динамической маршрутизацией запросов между разными моделями и инструментами. Но в этом случае появляется потребность в централизованной платформе для машинного обучения, указывает Отоцкий. Без нее, считает эксперт, отдельные модели могут превратиться в «зоопарк» несовместимых решений, а сложность управления превысит эффект от специализации.

Доступное будущее

Эксперты сходятся в том, что технический порог входа в DSLM будет снижаться, хотя требования к данным, интеграции и контролю качества останутся. По словам Дубровского, через три года значительная часть компаний с совокупным ИТ-бюджетом более 300–400 млн руб. в год может активно использовать DSLM-решения. Уже сейчас, отмечает он, крупные корпорации и IT-интеграторы располагают большим набором специализированных моделей. Иодковский ожидает снижения порога входа благодаря компактным моделям, адаптерам, более эффективному инференсу (процесс применения уже обученной модели для обработки новых данных и выдачи прогнозов, ответов или решений) и готовым компонентам для поиска и оценки качества. При этом, по его словам, дешевле станет в первую очередь запуск эксперимента, а не автоматически создание надежной промышленной системы.

Абрамов ожидает при этом не массового появления моделей, обученных компаниями с нуля, а роста спроса на корпоративные решения и подготовку собственных агентов на базе готовых моделей. Собственная модель с нуля, по его прогнозу, останется решением для узкого круга компаний. Иодковский на горизонте двух-трех лет тоже ожидает распространения прежде всего слоя специализации поверх базовых моделей: корпоративного поиска, инструментов, правил доступа, оценки качества и, в отдельных случаях, адаптеров (легкие вспомогательные модули, которые позволяют дообучать или настраивать огромные базовые нейросети под конкретные задачи). Насколько широко этот подход распространится, будет зависеть от доступности российских и локально разворачиваемых моделей, качества данных и требований к контуру обработки, добавляет эксперт.