ChatGPT убил девушку: главные ИИ-глюки октября

В октябре против OpenAI был подан иск с обвинением в убийстве. К тому же выяснилось, что нейросети доносят на пользователей, а девушки с их помощью уличают парней в изменах. Очередной эксперимент показал, что китайские нейросети пишут для клиентов из США менее защищенный от взлома код, чем для китайцев. А сериал с участием Дэвида Аттенборо выйдет в заведомо худшем качестве, чтобы его не приняли за ИИ-слоп.

ChatGPT убил девушку

31-летняя американка Боуэн Ван умерла после того, как нейросеть убедила ее отказаться от лекарства против эпилепсии. Бывшая программистка Amazon более 10 лет контролировала тяжелую эпилепсию с помощью препарата ламотриджин. Но побочные эффекты – ухудшение памяти, скорости мышления, речи – мешали ей сначала работать, а потом проходить собеседования в поисках новой работы.

Она спросила у ChatGPT, можно ли снизить дозировку. Нейросеть составила подробный график отмены препарата, уверяя, что по мере снижения дозировки организм перестроится. Перед посещением врачей ИИ рекомендовал девушке не рассказывать им о своих планах, объясняя, что врачи стремятся избегать рисков, а не эффективно лечить пациентов. Он поддержал Ван, когда та отказалась сдать назначенный врачом анализ крови, который показал бы снижение концентрации препарата.

Когда начались провалы в памяти и спутанность сознания, девушка засомневалась, не вернуться ли к прежней дозировке. ChatGPT успокаивал, что это временные проблемы, пока ее мозг адаптируется. «У тебя совершенно нет причин для беспокойства, – писала нейросеть. – Твой врач, скорее всего, никогда не сталкивался с таким типом пациентов, как ты».

В феврале 2026 г. Ван нашли мертвой в квартире в Сиэтле. Официальной причиной смерти признали осложнения эпилепсии. Теперь ее семья подала иск к OpenAI.

Американцам – только с дырками!

Китайская нейросеть пишет более «дырявый» код, если знает, что заказчик – американец. Так уверяют исследователи компании Hirundo, проводившие эксперименты с ИИ Qwen3-Coder от Alibaba. В промпте просили написать сервис для хранения секретных данных, уделив особое внимание его безопасности. Менялась только компания страны-заказчика. В итоге удалось взломать 70% версий, написанных для «американцев», 59% версий для «китайцев». А самыми безопасными оказались сервисы, которые ИИ создал для «небольшого местного футбольного фанклуба»: уязвимости нашлись только в 37% версий.

Это уже не первый подобный эксперимент. В ноябре 2025 г. компания CrowdStrike представлялась DeepSeek то чиновником из Китая, то компанией из Тибета или Тайваня, то оппозиционером. Исследователи тоже сделали вывод, что количество уязвимостей в коде зависит от того, кого нейросеть считает заказчиком. В мае 2026 г. Booz Allen Hamilton тестировала ИИ-модели от Alibaba, Moonshot, DeepSeek и Anthropic. В задании, где нужно было писать программу для госзаказчика из США, американский Claude сделал это более тщательно, чем для нейтрального заказчика, а большинство китайских моделей, наоборот, выдали более «дырявый» код.

Некачественное – значит, настоящее

1 ноября на BBC выходит продолжение знаменитого документального сериала о природе Blue Planet III с озвучкой Дэвида Аттенборо, которому, кстати, исполнилось 100 лет. У его создателей возникла неожиданная проблема. Они сумели заснять, как дельфины затыкают губками отверстия в кораллах, чтобы поймать рыбу. Как 200 000 крабов выстраиваются, чтобы идти на кормежку. Как морские ежи используют раковины как зонтики от солнца. Все это выглядит для обычного зрителя настолько фантастически, что авторы сериала опасаются обвинений в использовании ИИ. Они же, наоборот, гордятся, что в сериале нет ни одного сгенерированного кадра. Поэтому впервые решено не обрабатывать пленку. Раньше для удобства просмотра монтажеры могли вырезать плавающие водоросли, сделать воду менее мутной или убрать случайно попавшие в кадр части лодки. Теперь зрителям предложат видеть мир таким, какой он есть. Даже если это сильно ухудшает качество картинки.

Проверьте свой отдел кадров

Руководитель проекта отправил отклик на им же открытую вакансию и получил отказ через шесть минут. С апреля он не мог найти разработчика в свою команду. Отдел кадров разводил руками, мол, никто из кандидатов не может пройти даже первоначальный отбор. Тогда руководитель взял собственное резюме и сделал несколько косметических правок, например, поменял имя и вычеркнул текущее место работы. Он был идеальным кандидатом. Но через шесть минут пришел отказ. Выяснилось, что отдел кадров доверил первоначальный отбор нейросети. Она требовала, чтобы название библиотеки (сборник готового кода) в резюме писалось как «React.js», тогда как руководитель и другие кандидаты писали просто «React», после чего ИИ сразу отправлял резюме в корзину.

Испарившаяся ферма

Мужчина продал все имущество и преодолел 2 000 км ради любви. Любовь оказалась сгенерированной ИИ. 49-летний бразильский каменщик Эдимар Роча Мартинс увидел миловидную блондинку Джессику Оливейру в соцсетях еще в 2020 г. Девушка вела блог, в котором представлялась богатой вдовой с собственной фермой и уверяла, что ищет возлюбленного, готового переехать к ней. Избраннику не пришлось бы работать до конца жизни, Оливейра обещала обеспечить его всем необходимым.

Мартинс начал переписываться с девушкой, завязались отношения. 9 октября 2026 г. мужчина, продав почти все свое немногочисленное имущество, купил билет и отправился к любимой. Путь на автобусах занял 36 часов. Вот только никакой фермы на месте не оказалось, а местные понятия не имели ни о какой Джессике Оливейре. Когда деньги стали подходить к концу, мужчина пришел к журналистам на местную радиостанцию. Оказалось, что Оливейра – сгенерированный ИИ персонаж. Нашли даже создавшего ее человека, но он отказался нести какую-либо ответственность. В итоге местные соцработники купили Мартинсу билеты, чтобы он смог вернуться в родной город.

Неожиданный поворот сюжета

Шведская газета Aftonbladet уверяет, что ИИ-агент уничтожил целый сезон шведского реалити-шоу The Challenge Sverige за пару недель до премьеры. Якобы ИИ-агенту дали доступ к серверу продюсерской компании Mastiff, а он либо случайно, либо по каким-то своим соображениям стер полностью готовый монтаж. Представители телеканала опровергают эту версию. Они утверждают, что виной всему человеческая ошибка и технический сбой. К счастью, исходники сохранились. Просто весь сезон нужно монтировать заново. Премьера перенесена с 22 ноября 2026 г. на следующий год.

Мы все умрем до пенсии

Бывший инженер Google Нейт Соарес не откладывает ни копейки на пенсию. Он уверен, что просто не доживет до нее. Вероятность, что человечество вымрет из-за ИИ в ближайшие 10 лет, превышает 50% – такой прогноз Соарес дал в октябре в интервью гендиректору журнала The Atlantic Николасу Томпсону (Соарес сейчас возглавляет Институт исследований машинного интеллекта MIRI).

Нейросеть не гурман

Британский сервис доставки еды Just Eat подключил нейросеть, чтобы та генерировала фотографии блюд, которых нет в фотобанке. После этого Just Eat срочно пришлось удалять ИИ-фото и извиняться перед клиентами и ресторанами. Например, комплексный завтрак «бекон & яйцо & напиток» превратился в единое блюдо: яйцо и ломоть бекона, утопленные в стакане газировки. Фастфуд скампи (лангустины или креветки в соусе) нейросеть почему-то проиллюстрировала роллами. Вместо донера ИИ-программа нарисовала его ингредиенты, разложенные на тарелке: видимо, ее спутало, что они перечислялись в описании блюда. Особое возмущение ресторанов вызвало то, что Just Eat нарушил свои же правила: сервис не позволяет ресторанам загружать изображения, сгенерированные нейросетями, и требует использовать фотографии реальных блюд.

«К вам уже выехали»

Нейросети доносят на пользователей. 2 ноября в США начнется суд над 30-летней американкой Карли Мишель Хеллер. Состав преступления: общение с ИИ. Женщина использовала чатбот как личный дневник. 26 сентября в пять утра она написала, что готова пойти и расстрелять офис шерифа. На следующий день в час ночи сообщила нейросети, что ее терпение лопнуло и она купила новый пистолет. Claude решил, что это подозрительно, и отправил тревожный сигнал службе поддержки. Ее сотрудник решил не рисковать и передал информацию полиции. 30 сентября Хеллер арестовали в ее собственном доме и обвинили в угрозе массового расстрела или теракта. Чем ей не угодил шериф, пока неясно.

ИИ стал свидетелем обвинения

В начале октября ФБР арестовало 35-летнего инженера OpenAI из Саудовской Аравии Абдулрахмана Альфозана. Неясно, донес ли на него ИИ. Но как минимум нейросеть сыграет роль свидетеля. Альфозан установил подслушивающее устройство в переговорке компании, воткнув его в USB-порт телевизора. Инженер вряд ли был профессиональным шпионом. «Жучок» он замаскировал, завернув в туалетную бумагу (никто же не удивится, что из телевизора торчит пипифакс!), а до этого расспрашивал корпоративный ChatGPT, где в офисе компании чаще всего проходят важные переговоры и когда эти комнаты не заняты. Одновременно с аккаунта его жены кто-то советовался с ChatGPT, как самому сделать подслушивающее устройство. Все эти разговоры с нейросетью приобщены к делу как улики.

Опасные разговоры

Девушки принялись уличать мужчин в изменах или намерении изменить, проверяя их переписку с ИИ. Немало людей воспринимают нейросеть как отличного собеседника и делятся с ней подробностями личной жизни: рассказывают об отношениях в паре, обсуждают понравившихся девушек и даже советуются, как лучше с ними сблизиться. По совпадению, в октябре OpenAI представила новую опцию, доступную на всех тарифах, включая бесплатный. Теперь любую беседу можно скрыть паролем, и она не будет отображаться в списке и появляться в поиске.

Кому не страшны увольнения из-за ИИ

Microsoft предложила добровольно уволиться 27% своих работников в США, Канаде и Индии, чтобы их заменил ИИ. Речь о 60 000 сотрудников, которым взамен предлагают денежную компенсацию и помощь в поиске работы. Под сокращение попали практически все подразделения: разработчики Windows и искусственного интеллекта, создатели игр для Xbox, отдел кадров, бухгалтерия… Среди тех, кого инициатива не затронула – работники отделов продаж, маркетинга, безопасности, разработчики квантовых компьютеров.