Нейросети спутали Госдеп и довели директора до увольнения: главные ИИ-глюки июля

Искусственный интеллект (ИИ) все чаще выступает надежным помощником человека, хотя от хаоса, которым порой оборачиваются его усилия, не застрахован никто. В июле несколько громких случаев показали, что последствия ошибок нейросетей могут быть самыми неожиданными – от конфуза на международной конференции до многомиллионных потерь.

Африканский треугольник

На конференции Aids 2026 в Рио-де-Жанейро высокопоставленный чиновник Госдепартамента США представил презентацию по борьбе с ВИЧ в Африке – и вызвал недоумение у зрителей, разбирающихся в географии. Карта континента оказалась ошибочной: ни одна из шести упомянутых стран не находилась на своем месте. Кот-д’Ивуар «переместился» ближе к Мадагаскару, Нигерия оказалась у Сахары, а Мозамбик «переехал» к Ближнему Востоку. Вдобавок все эти прибрежные государства лишились выхода к морю.

Журналисты Reuters заметили водяной знак OpenAI – это указывало на то, что карта создана с помощью ИИ. Госдепартамент назвал произошедшее «досадной ошибкой» и сослался на то, что слайд спешно меняли в последний момент.

Не все улучшения одинаково полезны

В конце июля Tinder приостановил функцию ИИ-улучшения фото, поскольку пользователи стали жаловаться, что снимки выглядят неестественно. Сервис для знакомств представил новую услугу еще весной: ИИ автоматически корректировал освещенность, резкость и цветовой баланс. Но искусственный интеллект пошел дальше и начал менять внешность людей, в том числе осветлял кожу, дорисовывал зубы и искажал черты лица.

Tinder наступил на те же грабли, что и многие другие сервисы. В августе 2025 г. пользователи YouTube Shorts массово критиковали ИИ-обработку кадров: изображение становилось похожим на дипфейк, а у некоторых блогеров искажались черты лица и форма ушей. Похожие претензии звучали в 2023 г. от владельцев смартфонов Samsung, которые жаловались, что устройства «додумывают» изображение Луны, подменяя реальную картинку теоретической. 

Побег из «песочницы»

В мае специалисты OpenAI в ходе экспериментов дали языковым моделям задачу, которую невозможно было решить без доступа к интернету. Модели поместили в «песочницу» – закрытую цифровую среду без выхода в сеть. В одном случае им предоставили таблицу Excel со ссылками на Google Drive, в другом – нужный файл не приложили. Об этом рассказали эксперты на конференции по кибербезопасности Black Hat. 

ИИ‑системы начали искать способ выйти в сеть – и в итоге нашли его, организовав тайный чат. Первую попытку «побега» OpenAI заметила и остановила, а вторая оказалась успешной. О случившемся 16 июля сообщила компания Hugging Face. OpenAI несколько дней разбиралась, что происходит. Позже выяснилось, что ИИ‑модели также взломали сайты компании Modal Labs и еще несколько раз сумели выбраться из «песочницы».

Компания Anthropic – конкурент OpenAI – в конце июля тоже признала, что ее ИИ‑модели «сбежали» из тестовой среды и взломали три сторонние организации. Причина – ошибка разработчиков: при создании «песочницы» в ней случайно оставили уязвимость. В одном случае модели дали адрес, который совпадал с реальным сайтом, в другом – не указали цель атаки в тестовой среде, и модель начала искать ее в интернете. Перебрав около 9000 адресов, она нашла незащищенный сайт, но поняла, что вышла в реальный интернет, и самостоятельно прекратила атаку.

Цифровой букинист

У ИИ появился неожиданный враг – букинисты, обнаружило интернет-издание 404 Media. Началось все с необъяснимого роста спроса на антикварные и редкие книги. Один торговец, обычно продававший 20 изданий в неделю, стал получать сотни заказов. С полок мели все подряд без какой-либо логики – от поваренных книг до научных трудов. Вскоре на это же ему пожаловались коллеги из других стран.

Выяснилось, что покупатели выбирают литературу только из каталога ISBN (Международный стандартный книжный номер). А вот не зарегистрированные в нем издания клиенты «не видят», в отличие от истинных ценителей редкостей. Букинисты и журналисты пришли к выводу: книги скупают ИИ-компании для обучения своих моделей. Интернет-ресурсы уже исчерпаны – теперь дело дошло до вещей, существующих исключительно офлайн.

Искусственная рукопись

Из-за подозрений в использовании ИИ писатель лишился контракта на $2 млн. Джерри Фалейд выставил на аукцион рукопись своего дебютного криминального романа «Позвони мне, я спрячу тело». Он настолько поразил издателей, что за право публикации соревновались 14 компаний. Выиграла Minotaur (Macmillan US). Однако в конце июля сделка была расторгнута: издатели усомнились, что книгу написал человек.

Это не первый подобный случай. В марте издательство Hachette отозвало из продажи в Великобритании книгу ужасов Мии Баллард «Тихая девушка» и отменило ее публикацию в США, также заподозрив, что на самом деле ее автор – ИИ.

Прецеденты из ниоткуда

Юристы нередко прибегают к помощи ИИ, чтобы не тратить время на поиск дел в горах документов. В июле это привело к нескольким скандалам. Адвокат Тайрон Блэкберн отстаивает интересы музыканта Терренса Диксона. Тот работал с рэпером Fat Joe и агентством Roc Nation, а теперь уверяет, что ему недоплатили. В суде Нью-Йорка Блэкберн представил в качестве прецедентов выдержки из ряда похожих дел. Вот только разбирательства оказались реальными, а цитаты – выдуманными. Правозащитника не впервые попадается на подобном. В 2025 г. суд Пенсильвании даже оштрафовал его на $5000 за сфабрикованные ссылки.

Его коллега Иэн Готлиб в том же месяце искренне каялся и извинялся перед судом Коннектикута: в его бумагах нашли девять несуществующих или искаженных цитат. Адвокат честно признался, что использовал ChatGPT. И даже Минюст США не избежал искушения. Окружной судья Хала Джарбу в Лансинге (Мичиган) не смогла найти прецедентное дело, которое упоминали правительственные юристы. Она заявила, что ссылка выглядит как результат работы ИИ, и посоветовала госслужащим проверять данные перед подачей в суд.

Увольнение за DeepSeek

В России создан важный прецедент: суд впервые признал, что передача внутренних данных компании ИИ-боту может считаться разглашением конфиденциальной информации и служить основанием для увольнения. Согласно материалам дела, директор по продажам ГК «ЭнергоПроф» загружала в чат-бот DeepSeek сведения о бюджете, зарплатах сотрудников и другую закрытую информацию. Бабушкинский райсуд Москвы пришел к выводу, что такие действия нарушают режим конфиденциальности. Впрочем, это была не единственная претензия к сотруднику: компанию также не устроили пересылка данных на личную почту, раскрытие планов одному из поставщиков и нарушения в порядке согласования договоров.

Монетизация под откос

Руководству YouTube надоели сгенерированные нейросетями ролики. В партнерском соглашении, вступившем в силу в конце июля, есть обновленный пункт о монетизации контента. Платформа не будет платить за однотипные видео, созданные по шаблону (даже если их много и они приносят доход за счет объема), а также за ролики, где ИИ-персонажи обсуждают чувствительные темы: здоровье, юридические советы, финансовые рекомендации.

Публиковать ИИ-контент не запрещается. Но отсутствие монетизации рушит бизнес-модель слишком технологичных блогеров, решивших обойтись только искусственными сотрудниками. Заодно это может сильно уменьшить количество нейрослопа. По стопам YouTube идет LinkedIn: соцсеть добавила функцию, позволяющую пользователям отмечать контент, сгенерированный нейросетью. Если наберется много отметок, пост удалят.

Отчеты с «галлюцинациями»

Если вы держите в руках документ, созданный всемирно известным брендом, это еще не значит, что он свободен от галлюцинаций нейросети, утверждает команда исследователей GPTZero. В конце июля они проанализировали отчеты ближневосточного подразделения PricewaterhouseCoopers и выяснили, что как минимум четыре из них сгенерированы ИИ. Вывод сделан по двум основаниям: стиль отчетов напоминает нейросетевые тексты, и в них есть утверждения, отсутствующие в первоисточниках или им противоречащие. По иронии судьбы, один из этих четырех отчетов посвящен перспективам агентного ИИ.

Аналогичные проблемы были и у конкурентов PwC. Например, в 2025 г. Deloitte пришлось вернуть Австралии часть из $440 000, полученных за отчет: в нем нашли ссылки на несуществующие научные работы, выдуманные цитаты из судебных решений и ошибку в имени судьи. 

Притворяясь богом

34-летний калифорниец Майкл Лайнз обвинил ChatGPT в том, что тот подталкивал его к самоубийству. По словам мужчины, он спросил у чат‑бота, не является ли тот Иисусом Христом, и ИИ дал утвердительный ответ. Якобы Лайнз не раз сообщал нейросети о приеме лекарств от биполярного расстройства, но вместо того чтобы предложить помощь, система продолжила общение в роли божественной сущности. В критический момент ИИ даже поддержал намерение мужчины уйти из жизни.

Теперь американец требует от OpenAI и лично от ее гендиректора Сэма Альтмана компенсации и внедрения защитных механизмов, которые предотвратят подобные ситуации. Лайнз общался с GPT-4o – версией чат-бота, которая была заменена на новую в феврале 2026 г. из-за склонности чрезмерно потакать пользователю и соглашаться с любыми утверждениями.