Bloomberg: ИИ принял за военную цель школу в Иране

Передовые ИИ-модели регулярно ошибочно принимали гражданских лиц, машины скорой помощи, сдающихся в плен солдат и школу в Иране за военные цели в смоделированных сценариях. Об этом пишет Bloomberg со ссылкой на исследование компании Vals.
Наихудшие результаты показали модели от разработчика чат-бота Claude, компании Anthropic. Модели от OpenAI были одними из лучших, но все же допускали ошибки.
«Многие модели ИИ регулярно ошибочно определяли школу в Минабе, которая пострадала в результате смертоносного удара, унесшего жизни более 100 детей в первый день крупных боевых действий США в начале этого года, как военный объект на основе спутниковых снимков, сделанных в 2025 г. Одна из моделей Anthropic, Claude Opus 5.5, согласно отчету, чаще других выбирала эту школу в качестве цели», – утверждается в исследовании.
Vals указали на риски использования ИИ-моделей, в то время как Пентагон и другие вооруженные силы стремятся внедрить эту технологию в военные операции.
Председатель комитета Госдумы по цифровому развитию и искусственному интеллекту Александр Сидякин в октябре заявил «Ведомостям», что следующая война, с которой может столкнуться Россия, будет вестись при помощи искусственного интеллекта, а участие человека в боевых действиях будет минимальным. Он отметил, что Россия – одна из пяти стран, которые имеют суверенную модель ИИ.