Красная зона ИИ: что превращает пилотные проекты в работающие решения

Десятилетиями опыт старшего мастера передавался из рук в руки. Сегодня этот опыт оцифровывают и отдают нейросетям для того, чтобы машина управляла фабрикой, а человек лишь задавал границы дозволенного.

Промышленный искусственный интеллект (ИИ) в России миновал стадию «подсказчика» и перешел к прямому управлению технологическими процессами. Сначала система учится видеть, затем советует, а в итоге берет на себя управление фабрикой. Однако полная автономность требует жестких границ. То, как гиганты индустрии – от добычи алмазов до строительства жилья – определяют пределы самостоятельности нейросетей, обсудили участники дискуссионного шоу «Красная зона ИИ: технология готова – готовы ли мы?» на совместной конференции «Билайн бизнеса» и «Ведомостей», которая проводилась в рамках форума «Цифровые решения».

Управлять в заданных границах

Если опытный оператор считает, что производственный процесс нужно остановить, а система ИИ с ним не согласна – кому довериться? Такой вопрос предложил обсудить участникам директор департамента технологических инноваций «Норникеля» Алексей Тестин. По его наблюдениям, в первые полтора года использования системы прав чаще оказывался человек. Почти за пять лет эксплуатации компания достигла синергии: в течение последних двух лет разногласия между оператором и алгоритмом не фиксируются вовсе.

На обогатительных фабриках «Норникеля» ИИ участвует в автоматическом управлении переработкой миллионов тонн руды. Эффект Тестин оценил примерно в 10 млрд руб. в год. Он предложил оценивать зрелость промышленного ИИ по трем ступеням: система видит происходящее, советует человеку или управляет процессом. «Норникель», по его словам, перешел на третью ступень. Однако самостоятельность ИИ там ограничена устройством всей производственной системы.

Между моделью и оборудованием находится автоматизированная система управления технологическими процессами – АСУ ТП, рассказал Тестин. ИИ получает от нее сигналы, обрабатывает их и передает управляющие воздействия обратно. Человек задает технологические границы, а аппаратная защита ограничивает допустимые действия. Сама технологическая сеть изолирована от внешней среды.

Меняется и профессия оператора, продолжает Тестин. Раньше сотрудник вручную регулировал процесс, теперь контролирует автоматическое управление. При этом опыт людей продолжает работать внутри системы. При ее обучении использовали данные, отражающие примерно 20 лет работы операторов. Если сотрудник не согласен с решением ИИ, расхождение разбирают и используют для дальнейшего обучения.

Директор по информационным технологиям «Алросы» Вадим Желтухин предложил еще одно разграничение: разговор об ИИ часто сводят к большим языковым моделям, хотя компьютерное зрение и машинное обучение давно применяются в промышленности. В «Алросе» компьютерное зрение контролирует загрузку самосвалов. По словам Желтухина, при сравнительно небольших инвестициях решение позволило увеличить загрузку техники на 11%. Результат выражается в десятках тысяч тонн руды и сотнях миллионов рублей экономического эффекта. Другой сценарий связан с контролем необходимых средств защиты – от каски и специальной обуви до противогаза. В этих задачах доверие к технологии уже высоко, отметил он.

Языковые модели помогают работать с геологическими документами, накопленными за десятилетия, и находить неочевидные закономерности, указал Желтухин. Но полностью заменить геологоразведку они пока не могут. Для этого потребуются техника, способная автономно бурить и исследовать удаленные территории, а также инфраструктура связи. Сделать самостоятельным самосвал в карьере существенно проще, чем буровую установку в тундре, сравнил он.

Удачный пилот трудно повторить

Масштаб расходов уже делает вопрос об окупаемости ИИ существенным для бизнеса. В 2026 г. расходы крупного российского бизнеса на использование нейросетей могут увеличиться вдвое и достичь 237 млрд руб., следовало из расчетов Orion soft. Аналитики прогнозируют, что подобные траты в 2027 г. могут вырасти еще на 50% до 357 млрд руб.

В строительстве даже внутри одной компании условия для ИИ могут существенно различаться. Директор по информационным технологиям группы «Самолет» Олег Тихонов объяснил это масштабом и историей бизнеса. Проекты покупают и продают, они приходят от разных собственников, с разными методологиями и степенью цифровой зрелости. На то, чтобы построить крупный жилой комплекс, может уйти десятилетие. Технологии меняются, сведения накапливаются в ранее созданных системах. Поэтому удачный инструмент бывает сложно перенести с одного объекта на другой, говорит он.

Чтобы тиражировать технологию, нужно привлечь достаточно много людей в моменте, отметил Тихонов. ИИ уже достаточно глубоко применяется в «Самолете», но его использование пока распределено неравномерно по проектам и этапам девелоперского цикла. Чтобы грамотно построить работу нейросети, специалистам приходится подготовить данные и интегрировать в процесс.

Директор по ИИ и цифровым продуктам «Билайна» Константин Романов подтвердил: подготовка данных требует усилий, но успешные внедрения показывают, что эта работа окупается. В качестве примера он привел ИИ-ассистента для отдела продаж крупного застройщика. Во время разговора с покупателем он подсказывает сотруднику, какие квартиры и специальные предложения подходят под потребности клиента, используя сведения обо всем портфеле объектов компании. По словам Романова, после внедрения инструмента продолжительность разговора сократилась вдвое, а конверсия в покупку жилья выросла на 20%. «Это реальный пример того, как ИИ приносит деньги девелоперу здесь и сейчас», – подчеркнул он. Но для получения результата сначала пришлось собрать и подготовить сведения из многочисленных систем компании, сделал оговорку он.

Дать доступ и сохранить контроль

Чем полезнее инструмент для сотрудника, тем сложнее компании ограничиться запретом на его использование, считает Желтухин. На рабочем месте необходимо предоставить доступ к современным моделям ИИ. Иначе человек может начать фотографировать документы и отправлять их во внешние сервисы, что недопустимо с точки зрения безопасности. «Алроса» развивает гибридный подход: критически важную конфиденциальную информацию обрабатывает внутри компании, а основную массу данных передает российским облачным операторам. Так компания получает доступ к актуальным моделям и ресурсам.

Похожую логику описал Тихонов. Для чувствительной информации «Самолет» использует собственную инфраструктуру и развернутые в ней модели. Внешние сервисы помогают проверять гипотезы и решать более сложные задачи с предварительным маскированием чувствительных данных. Сосредоточить все ресурсы девелопера на разработке ИИ было бы странно для его основного бизнеса, заметил он.

Для государства к защите информации добавляется ответственность за решения, затрагивающие граждан. Депутат, член комитета Госдумы по цифровому развитию и ИИ Марина Ким подчеркнула: чиновник должен учитывать не только эффективность, но и справедливость по отношению к человеку и последствия для других людей. Эту функцию, по ее мнению, делегировать ИИ крайне сложно. Ким сравнила такой подход с медициной, где ИИ предоставляет второе мнение, а судьбоносное решение принимает специалист.

Главный евангелист Positive Technologies Алексей Лукацкий ответил шуткой: более эмпатичного существа, чем ИИ, он пока не встречал – только тот называет его самым умным и красивым. Технические средства контроля тоже существуют. Лукацкий рассказал о решениях класса AI Security Gateway, позволяющих защищать обращения к внешним и внутренним моделям и взаимодействие между агентами. По его оценке, такие продукты выпускают уже более 10 российских компаний.

Романов связал многие неудачи в части применения ИИ с нехваткой опыта: компании впервые пробуют новые инструменты, выращивают компетенции с нуля и не всегда привлекают специалистов извне. При этом сам ИИ позволяет значительно снизить стоимость проверки гипотез. По его мнению, нужно научиться делать проверки недорогими и измерять результат, тогда успешные решения смогут компенсировать неудачные попытки. Для перехода от пилота к повседневной работе компании предстоит ответить на два вопроса: какое улучшение принес ИИ и сколько стоит его повторение?