Согласно исследованию международной федерации робототехники в 2024 году во всем мире было установлено 542 000 промышленных роботов, что более чем вдвое превышает годовой уровень, зафиксированный десять лет назад, при этом ожидается, что к 2028 году их количество превысит 700 000. Исследователи рынка также применяют термин «физический искусственный интеллект (ИИ)» к более широкому кругу систем, включая робототехнику, периферийные вычисления и автономные машины. По оценкам Grand View Research, объем мирового рынка физического ИИ в 2025 году составил 81,64 млрд долларов США, а к 2033 году прогнозируется его рост до 960,38 млрд долларов, хотя эта категория зависит от того, как поставщики определяют интеллект в физических системах. Исследование McKinsey «State of AI trust in 2026: Shifting to the agentic era» показало, что только около трети опрошенных организаций сообщили о третьем уровне зрелости или выше в области стратегии и управления агентным ИИ, даже несмотря на то, что системы ИИ берут на себя все больше автономных функций.
Управление физическим ИИ становится все сложнее по мере того, как автономные системы ИИ внедряются в роботов, датчики и промышленное оборудование. Примером такого внедрения является использование архитектуры YOLO при создании робота для сбора яблок на Факультете информационных технологий и анализа больших данных Финансового университета при Правительстве РФ. Проблема заключается не только в том, могут ли агенты ИИ выполнять задачи. Важно и то, как их действия тестируются, контролируются и останавливаются при взаимодействии с реальными системами.
О задаче управления физическим ИИ рассказывает доцент кафедры искусственного интеллекта Финансового университета при Правительстве Российской Федерации Емельянова Наталия Юрьевна:
Задача управления отличается от автоматизации, основанной исключительно на программном обеспечении, поскольку физические системы могут функционировать вблизи рабочих мест, инфраструктуры и пользователей. Они также могут быть подключены к оборудованию, требующему четких ограничений безопасности. Выходные данные модели могут стать результатом движения робота или машинной Аинструкции. Они также могут принимать решения на основе данных датчиков. Это делает ограничения безопасности и пути эскалации частью проектирования системы. Управление ИИ становится более сложным, когда эти системы могут вызывать инструменты, генерировать код или запускать действия. Механизмы контроля должны определять, к каким данным система имеет доступ, какие инструменты она может использовать, какие действия требуют одобрения человека и как регистрируется активность для последующего анализа.
О вопросах безопасности при управлении физическим ИИ рассказывает профессор кафедры искусственного интеллекта Финансового университета при Правительстве Российской Федерации Емельянов Виталий Александрович:
В робототехнике безопасность также включает в себя физическое поведение машины. Технические требования к физическому искусственному интеллекту шире, чем просто понимание языка. Системам необходимы визуальное восприятие и пространственное мышление. Им также необходимы планирование задач и определение успешного выполнения. В робототехнике определение успешного выполнения имеет важное значение, поскольку система должна решить, выполнена ли задача, следует ли ей повторить попытку или следует остановиться. Безопасность роботов можно охарактеризовать как многоуровневую проблему, охватывающую как низкоуровневые элементы управления, такие как предотвращение столкновений, ограничения по силе и устойчивость, так и высокоуровневые рассуждения о том, является ли запрашиваемое действие безопасным в конкретном контексте. Те же самые механизмы контроля, которые используются для программных агентов, становятся сложнее в управлении, когда системы подключены к роботам, датчикам или промышленному оборудованию. К ним относятся права доступа, журналы аудита и поведение при отказе. Также сюда входят пути эскалации и тестирование. Системы управления, такие как структура управления рисками в области ИИ (стандарт ISO/IEC 42001), предоставляют механизмы управления рисками и обязанностями в сфере ИИ на протяжении всего жизненного цикла системы. В физическом ИИ эти меры контроля должны учитывать еще и поведение модели, подключенные машины и операционную среду.
Искусственный интеллект в физической сфере применяется в промышленной инспекции, производстве и логистике. В производственных условиях системы ИИ должны интерпретировать реальные условия и действовать в рамках заданных ограничений. Вопрос управления заключается в том, как устанавливаются эти ограничения, прежде чем автономным системам ИИ будет разрешено принимать или выполнять решения.