Встаньте в ПАК

На чем будет работать российский ИИ
iStock

Объем российского рынка ИИ по расходам компаний на внедрение технологии вырастет с 257 млрд руб. в 2025 г. до 760–770 млрд руб. к 2030 г. Такие цифры прозвучали на Московском стартап‑саммите со ссылкой на данные вице‑премьера РФ Дмитрия Григоренко. При этом лишь у 9% российских организаций есть полноценная вычислительная инфраструктура для работы с ИИ, подсчитали в Т1. По словам вице-премьера, консерватизм рынка объясняется сомнениями в быстрой окупаемости инвестиций. Опрошенные «Ведомости&» эксперты поясняют, что это связано с фрагментацией рынка и «зоопарком» несовместимых решений, из-за чего стоимость интеграции поглощает значительную часть бюджета. Однако формируется новая практика: бизнес все чаще отказывается от разрозненных закупок в пользу комплексных программно-аппаратных комплексов (ПАК), которые гарантируют совместимость и переводят затраты на ИИ из категории рискованных экспериментов в предсказуемые операционные расходы, а также четко распределяют ответственность.

Этот сдвиг участники рынка описывают как смену объекта закупки: заказчик покупает не серверы и лицензии, а заранее спроектированный и протестированный сервис. «Наиболее эффективным решением становится внедрение целостного IТ-ландшафта на базе интегрированных ПАК с прозрачной экономической эффективностью», – считает Виктор Урусов, руководитель «Скала^р» (Группа Rubytech). По его оценке, главное отличие такого комплекса от набора компонентов – способность не подавлять отраслевую специфику, а ускорять ее реализацию: работа «из коробки», встроенная отказоустойчивость, масштабируемость и ИБ, предсказуемая совокупная стоимость владения за счет отсутствия скрытых затрат и единое окно поддержки от интеграции до конца жизненного цикла сервиса.

КИИ не готовы к ИИ

Объем рынка ИИ-ускорителей в 2025 г. составил порядка 63 млрд руб., по данным исследования ИТ‑холдинга Т1. Основную часть спроса (80%) обеспечивают крупные корпоративные клиенты, экосистемные игроки и государственный сектор, которые являются ядром критической информационной инфраструктуры страны (КИИ). Однако, по оценке «К2Теха», не более 20% субъектов КИИ обладает достаточной зрелостью инфраструктуры для управления и работы с данными, чтобы выполнить требования нового закона в сфере ИИ. Также 52% компаний считают свою IT-инфраструктуру требующей модернизации, а 56% оценивают ландшафт данных как частично готовый или неготовый.

«Сейчас объекты КИИ не готовы одномоментно отказаться от существующего набора решений и заменить его одной большой ИИ-системой», – считает Юлия Рынденкова, технический директор Postgres Professional. По словам Алексея Сидорюка, советника генерального директора по искусственному интеллекту «Ассоциации ФинТех», говорить о полной готовности КИИ к такому переходу пока рано: «Сегодня на многих объектах уже используются отдельные компоненты ИИ: системы видеоаналитики, предиктивного обслуживания, антифрода, интеллектуального поиска, анализа событий безопасности, работы с интеллектуальными помощниками. Но чаще всего это набор разрозненных решений с разными моделями, интерфейсами, требованиями к данным и механизмами защиты».

В Группе Rubytech, которая создает ПАК «Скала^р», такую постановку считают корректной, но предлагают смотреть на нее как на задачу не замены, а наращивания. По оценке Урусова, инфраструктура ИИ в подавляющем большинстве случаев не может быть поставлена с нуля поверх существующего разрозненного ландшафта, она разворачивается отдельным контуром и вопрос в том, будет этот контур спроектирован как единая система или станет очередным изолированным островком. Инженерная ставка в компании сделана на то, что такой контур собирается из компонентов реестров Минпромторга и Минцифры, а требования к защите закладываются на этапе проектирования по принципу Secure by Design (конструктивная безопасность. – «Ведомости&»), а не добавляются к уже развернутому решению. Практический смысл этого, по мнению экспертов вендора, в том, что ответственность за совместимость стека переносится с заказчика на разработчика целостного IТ-комплекса: тот подбирает конфигурацию, тестирует зависимости и выпускает обновления пакетно, а не тогда, когда конфликт драйвера и контейнерной среды обнаружится в эксплуатации.

Сейчас любой бизнес-пользователь может создать себе агента, не обладая глубокими техническими знаниями, и это демократизирует использование технологии. «Во многих компаниях каждое подразделение купило свой чат-бот или ассистента. В итоге получается несколько моделей, разные контуры, нет единых политик доступа и журналирования», – говорит Юрий Шабалин, руководитель продукта AppSec.AIGate (AppSec Solutions). А если в разных подразделениях начинают независимо разрабатывать агентов для похожих задач, возникает дублирование. «Все это нужно поддерживать, тестировать, проверять доступы и расходы, отслеживать, как агенты взаимодействуют друг с другом», – объясняет Юрий Овчаренко, президент «Девелоники» fabricaONE.AI (ГК Softline). По его словам, бизнес получает упорядоченный и автоматизированный, но все еще хаотичный ландшафт, как раньше.

Проблема заключается в совместимости, зрелости и стоимости превращения набора продуктов в промышленную систему, которую можно безопасно эксплуатировать долгое время. Артур Сахаров, директор по технологиям MWS AI (входит в «МТС Web Services»), также указывает на проблему устаревшего кода (legacy): устаревший ландшафт IT-систем не поддерживает единых удобных протоколов интеграции с ИИ-агентами. Эта ситуация усугубляется, «когда сотруднику приходится вручную переносить контекст между несколькими инструментами, а компания при этом не понимает, сколько ресурсов на это потратила», добавляет Овчаренко.

Наличие хорошей LLM (Large Language Model – большая языковая модель) само по себе не означает готового корпоративного ИИ, заявлял Урусов. Бизнесу нужна инфраструктура «доверенного ИИ», где «железо», софт и модели протестированы на совместимость еще до попадания к заказчику, считает он. В Rubytech под этим понимают четыре слоя: вычислительные узлы и сеть, системное ПО (ОС, драйверы, контейнерная платформа), слой управления ресурсами и задачами и, наконец, модели и прикладные инструменты. Логика проектирования при этом обратная той, к которой привык IТ-заказчик. «Отправной точкой служит будущий сервис, а не каталог серверов», – поясняет Урусов. В классическом ПАК проверяют совместимость серверов, BIOS, операционной системы и драйверов. В ПАК для ИИ к этому добавляются ML- и LLM-модели (модели машинного обучения и большие языковые модели. – «Ведомости&»), среды разработки и агентские платформы. Число конфигураций для проверки кратно выше и одному заказчику с такой работой почти не справиться, говорит он.

Пилотам пора на взлет

Эксперты называют фазу «зоопарка решений» органичной стадией рынка, который столкнулся с новыми технологиями и проходит циклы экспериментов и поиска ценности. «Рынок находится на этапе накопления практики: компании тестируют сценарии, сталкиваются с ограничениями и постепенно превращают этот опыт в методологию», – считает Овчаренко.

По оценке «К2 НейроТеха», до 70% экспериментов сегодня не доходит до промышленной эксплуатации. «Многие компании уже поняли, что сделать что-то для демонстрации и вывести в промышленную эксплуатацию – это две большие разницы. И если на первом этапе хочется закрыть все готовыми опенсорс-компонентами (на базе открытого исходного кода. – «Ведомости&») и легковесными решениями, со временем их допиливание и организация в единую систему становятся проблемой и для разработки, и для инфраструктуры», – говорит Сахаров.

Масштабирование пилота становится проблемой. «Мы видели проекты, где эффект от автоматизации был очевиден, но при масштабировании его начинали съедать стоимость инфраструктуры, интеграций и работы моделей», – объясняет Овчаренко. По данным Группы Rubytech, значительная часть потенциальных ИИ-проектов задерживается на этапе пилота именно из-за бюджета на вычислительные ресурсы или сроков поставки оборудования. Компенсируют этот разрыв в компании за счет открытой программы ИИ-партнерств: каждый прикладной продукт проходит тестирование на совместимость и отбирается по прикладной ценности и технологической устойчивости, чтобы заказчик мог конфигурировать комплекс из проверенных модулей.

Некоторые эксперты указывают также на важную для КИИ составляющую безопасности, которую не всегда можно реализовать при масштабировании. Как считает Светлана Газизова, владелец продукта по безопасности ИИ UserGate, доверие становится вполне прикладным условием внедрения: «Пока ИИ ограничен отдельным экспериментом, этот вопрос можно отложить. При масштабировании появляются утечки корпоративных данных, неконтролируемое использование внешних моделей, ошибки в ответах, зависимость от поставщика и агенты, получающие доступ к внутренним системам».

Именно здесь, по мнению Урусова, рынок ошибается в диагностике: «Промышленный ИИ в России сталкивается с препятствиями не из-за отсутствия моделей и определенного набора алгоритмов – они есть. Проблема в том, что нет верифицированной среды, где эти алгоритмы можно развернуть на производстве без рисков для безопасности и без конфликта с требованиями регулятора».

Но для КИИ использование публичных облаков и разрозненных внешних сервисов принципиально неприемлемо. «Это расширяет поверхность атаки и не проходит по требованиям защищенного контура. Поэтому «зоопарк решений» здесь не просто неудобен – он создает риски для непрерывности, управляемости и безопасности», – считает Вячеслав Дегтярев, руководитель по развитию продуктовых решений «К2 НейроТеха». По его мнению, только переход к единой системе соответствует требованиям.

В IT-экосистеме «Лукоморье» стратегический альянс видят в выстраивании партнерских отношений с производителями ПАК. «ПАК закрывают этот разрыв – дают готовую, воспроизводимую связку «железа», софта и поддержки под задачу», – говорит Денис Романов, директор центра развития ИИ-продуктов компании, и добавляет, что для «осторожного бизнеса» это часто важнее, чем чистая производительность.

Диверсификация ПАК

«Ассоциация ФинТех» называет ПАК одним из заметных направлений масштабирования ИИ в России, особенно в государственном секторе, промышленности, финансовом секторе и на объектах КИИ. По мнению Сидорюка, причины понятны: «Заказчикам необходимы локальное исполнение, контролируемый состав компонентов, независимость от внешних сервисов, прогнозируемая производительность, единая ответственность поставщика и встроенные механизмы обеспечения безопасности».

В «К2 НейроТехе» так описывают ИИ-систему на основе ПАК: в основе – аппаратный слой на доверенном российском оборудовании с GPU-ускорителями (Graphics Processing Unit, мощные графические процессоры для вычислений. – «Ведомости&»), который позволяет как обучать модели, так и применять их на практике без передачи данных в публичные облака. Выше – платформа управления, объединяющая виртуализацию и контейнеризацию для гибкого распределения ресурсов, маркетплейс предустановленных ИИ-инструментов и сред разработки. Ключевой элемент – прикладной слой с готовыми ИИ-моделями и агентами, которые можно дообучать на корпоративных данных внутри контура.

Такая структура позволяет решать сразу множество особенно значимых для КИИ задач. «Сроки запуска сокращаются с месяцев до недель. Экономика становится предсказуемой, потому что стоимость обработки запроса известна заранее. Данные не покидают периметр, а это критично для КИИ, финансового сектора и обработки персональных данных», – объясняет Шабалин. Немаловажно и сокращение зависимости от дефицитных специалистов, добавляет Рынденкова. Вопрос приоритизации мощностей решается за счет одновременной поддержки как классических HPC-нагрузок (базовых и «тяжелых» промышленных вычислений), так и современных сред виртуализации и контейнеризации ИИ-моделей, отмечает Дегтярев.

Однако эксперты отмечают опасность, связанную с технологической зависимостью. «Если ПАК замыкает заказчика на одном производителе и плохо допускает замену модулей и компонентов, он рискует стать не лекарством от «зоопарка», а еще одним его дорогостоящим элементом», –объясняет Сидорюк.

В Группе Rubytech, к примеру, этот вопрос решается с помощью тестирования и подбора элементов взамен малодоступных или дорогостоящих аналогов. Как сообщили в пресс-службе компании, стремительный рост спроса на ИИ привел к дефициту GPU-ускорителей, при этом именно они составляют основную долю бюджета ИИ-проекта. Недавно специалисты Rubytech проверили работу одной из российских моделей – Cotype 3 от MWS AI – на китайском ускорителе. Для этого инженеры подготовили программное окружение, которое позволило адаптировать модель под альтернативную аппаратную платформу без использования американских ускорителей Nvidia, доступ к которым сейчас затруднен из-за санкций. Всего в «Машине искусственного интеллекта» (специальный ПАК для ИИ в линейке «Скала^р» от Группы Rubytech) протестированы десятки ИИ-инструментов и более 80 больших моделей на трех разных движках и четырех архитектурах GPU.

Возможности ПАК диверсифицировать технологии существенно сокращают объем необходимых инвестиций. Как поясняет Урусов, специализированные решения позволяют кратно повысить утилизацию и эффективность использования самых дорогостоящих вычислительных ресурсов – графических ускорителей. Например, в эксперименте с китайским аналогом в отдельных сценариях удалось повысить производительность работы в 2–2,2 раза. «Значит, для того же объема запросов требуется меньшее число ускорителей, а стоимость обработки и масштабирования снижается», – рассказывают в Группе Rubytech.

По мнению Рынденковой, это определяющие условия для массового распространения ПАК. «Снижение стоимости, модульности и возможности обновлять компоненты без полной замены комплекса, а также появление понятных и измеримых бизнес-моделей окупаемости ИИ позволят ПАК стать одним из ключевых форматов промышленного внедрения ИИ в России, прежде всего в защищенных, регулируемых и критически важных средах», – говорит она.