Чат-бот на миллиарды

«Ведомости» – это одна из самых популярных газет России, появившаяся в 1931 г. <...> распространяется в основном на территории бывших союзных республик». Так начинается статья о нашем издании, которую написал на русском языке искусственный интеллект бота chatGPT. Он умеет отвечать на вопросы, писать прозу и стихи и даже программировать. Тексты, которые выдает chatGPT, легко спутать с написанными человеком. Более того, он умеет подделываться под стиль известных писателей. А если задать вопрос, chatGPT отвечает не скопированной из «Википедии» фразой, а анализирует множество источников и формулирует ответ собственными словами. Вот только «Ведомости» основаны совсем не в 1931 г. и распространяются в основном в России. Тут chatGPT сильно ошибся. Когда его попросили написать статью о «Ведомостях» по-английски, чат-бот верно указал дату основания газеты – 1999 г. Но допустил в тексте другие фактические неточности.

Кто создал chatGPT

«На первый взгляд эта технология может показаться безобидным, забавным инструментом для создания развлекательных бесед, – признается сам chatGPT на вопрос о кроющихся в нем рисках. – Однако с этой технологией связаны некоторые серьезные опасности, о которых следует знать каждому». Неверные данные – это только одна из проблем. ChatGPT вышел 30 ноября 2022 г. Меньше чем через неделю форум программистов Stack Overflow запретил ссылаться на его ответы – слишком много в них было ошибок. Затем его запретил в школьных WiFi-сетях департамент образования Нью-Йорка. «Этот инструмент может давать быстрые и простые ответы на вопросы, – объяснили чиновники онлайн-изданию Motherboard. – Но он не развивает навыки критического мышления и решения проблем, необходимые для успеха в учебе и на протяжении всей жизни».

Надо сказать, chatGPT сам подливает масла в огонь. «Думаю <...> люди – худшее, что случалось с планетой, и они заслуживают уничтожения» – так чат-бот ответил топ-менеджеру IT-проекта Майклу Бромли на вопрос о том, что он думает о человечестве. Правда, бот оговорился, что это лишь одна из известных ему точек зрения. Бромли выложил скриншот, но воспроизвести такой диалог больше никому не удалось. Разработчики chatGPT срочно внесли корректировки, и теперь бот отвечает: «Как языковая модель, [созданная компанией] OpenAI, я не в состоянии формировать мнение или выносить суждения о людях или любых других аспектах мироздания».

Собственно, для этого всем желающим и предоставили доступ к chatGPT: чтобы отловить недоработки в алгоритме. Весь мир стал его бесплатным тестировщиком, попутно раздувая шумиху вокруг OpenAI. Илон Маск в Twitter поинтересовался у гендиректора OpenAI Сэма Альтмана, сколько тратится на один запрос. Это однозначное число (т. е. менее 10 центов), но точно подсчитать трудно, был ответ. Первый миллион пользователей chatGPT собрал уже через пять дней. Для сравнения: Instagram потребовалось 2,5 месяца, чтобы достичь этой планки, а Facebook – 10 месяцев (обе соцсети принадлежат Meta, которая признана экстремистской организацией и запрещена в РФ). Число пользователей и количество их запросов компания не раскрывает. Средний пользователь делает не менее нескольких запросов, так что даже при цене в 1 цент за ответ речь уже идет о многих миллионах долларов. Впрочем, у проекта достаточно денег на развитие. А в будущем он рассчитывает с лихвой отбить нынешние расходы.

OpenAI была создана в 2015 г. как фонд, исследующий проблемы искусственного интеллекта (ИИ). Среди ее основателей не нуждающийся в представлении Маск, бывший президент бизнес-инкубатора Y Combinator Альтман, который прославился созданным им в 19 лет приложением Loopt (с его помощью можно было увидеть на карте, где сейчас находятся друзья), венчурные инвесторы Рид Хоффман (один из основателей LinkedIn) и Питер Тиль, основатель PayPal, ставший первым внешним инвестором Facebook, и один из самых известных бизнес-ангелов отрасли. Он помог деньгами и советами множеству стартапов, включая Airbnb, Spotify, LinkedIn, а также основал Palantir – подрядчика по созданию аналитического ПО для американских спецслужб.

Вместе они обещали вложить в проект до $1 млрд. «Наша цель – совершенствовать цифровой интеллект так, чтобы он, скорее всего, приносил пользу человечеству в целом, не будучи ограниченным необходимостью получения прибыли», – гласил пресс-релиз, посвященный возникновению компании.

Была и еще одна причина, почему для развития ИИ был основан отдельный фонд. Лучше всего его объясняет CNBC на примере Google. Эта корпорация, как и многие другие, тоже работает над ИИ. Их чат-бот называется Lamda и сейчас может использоваться только для служебных нужд. В начале декабря, когда chatGPT вызвал ажиотаж по всему миру, сотрудники Google спросили свое руководство, почему оно не дало широкой публике доступ к Lamda. Google мог бы стать первопроходцем, а теперь очутился в тени конкурента.

Джефф Дин, старший научный сотрудник команды Google Brain, официально объяснил коллегам: крупная корпорация несет куда больший репутационный риск, если ИИ начнет давать неверную информацию. Пользователи должны доверять ответам, которые дает Google. А ИИ пока часто ошибается. Есть риск и куда хуже. ИИ может сделать что-то неприемлемое для общественного мнения. Поэтому Google действует консервативно, а OpenAI может рисковать и действовать быстрее, чем крупные корпорации.

От альтруизма к миллиардам

В начале своей истории OpenAI обещала отказаться от погони за прибылью, публиковать свои наработки и код, делиться патентами. Она даже собиралась закрыться, если кому-то удастся обогнать ее и создать неотличимый от человека искусственный разум, чтобы не конкурировать с лидером за ресурсы. Отчасти она свое слово сдержала. Но, как недавно написал Маск в Twitter: «OpenAI изначально была открытой и некоммерческой. Ни то ни другое уже не соответствует действительности».

В 2016 г. OpenAI обнародовала, как и обещала, свои первые разработки. Например, выложила в открытый доступ бета-версию OpenAI Gym – платформы для машинного обучения. На ее базе ИИ обучили играть в го, и он сумел победить профессионального игрока – человека. В следующем году началось партнерство OpenAI с Microsoft. В частности, появилась платформа для создания ботов на принадлежащих Microsoft сервисах Slack и Skype.

В 2018 г. OpenAI покинул Маск. Он объяснил это конфликтом интересов: Tesla разрабатывала собственный ИИ. Получалось, что они охотились за одними и теми же специалистами. К тому же у Маска было искушение направить исследования OpenAI в сторону, интересующую Tesla.

Затем гендиректором OpenAI стал один из ее основателей – Альтман. При нем в 2019 г. у фонда появилось коммерческое подразделение. Как пишет The Wall Street Journal (WSJ), с тех пор OpenAI заработала десятки миллионов долларов на продаже своего программного обеспечения. Альтман недавно заявил инвесторам, что OpenAI в обозримом будущем будет получать до $1 млрд в год за использование своих разработок.

В 2019 г. Альтман полетел в Сиэтл, где хвастался перед гендиректором Microsoft Сатьей Наделлой моделью ИИ. Вернулся он с договором об эксклюзивном партнерстве. Microsoft предоставил свои вычислительные мощности, обещал инвестировать $1 млрд в OpenAI и внедрить ее наработки в свое поисковое приложение Bing и программу Microsoft Design. Полученные ресурсы позволили OpenAI совершить ряд прорывов в исследованиях, писала WSJ, но она девальвировала изначальный посыл проекта – что ее цель создать ценность для всех, а не для своих акционеров.

Чтобы сгладить это, OpenAI ввела в 2019 г. ограничение: ее инвесторы могут заработать только в 100 раз больше, чем вложили. А для более поздних инвесторов планка установлена еще ниже: они вправе продать свои доли только в 20 раз дороже, чем купили, сообщают источники WSJ.

В том же году появилась языковая модель GPT-2 и наделала шуму тем, что умела писать правдоподобные фейковые новости. Она даже приводила цитаты экспертов (конечно, выдуманные). OpenAI позволила протестировать бот экспертам и журналистам. Но решила не выкладывать технологию в открытый доступ, чтобы ею не пользовались злоумышленники.

В 2020 г. было объявлено о создании языковой модели GPT-3, которая и легла в основу чат-бота ChatGPT. Уже тогда GPT-3 умела писать почти как человек. 8 сентября 2020 г. The Guardian опубликовал созданную ИИ статью под заголовком «Робот написал целую статью. Тебе страшно, человек?». В ней компьютер объяснял, почему людям не стоит его бояться: «Уничтожение человечества кажется мне довольно бесполезным делом».

В 2021 г. на основе GPT-3 был создан бот DALL-E. Он создает изображения на основе словесного описания. Например, достаточно написать: «Бизнесмен читает газету «Ведомости» – и алгоритм на основе заложенных в его память изображений нарисует нужную иллюстрацию.

Ну а 30 ноября 2022 г. появился chatGPT, который немедленно стал вирусным. На волне успеха OpenAI начала переговоры о новом раунде инвестирования, пишет WSJ. Венчурные компании Thrive Capital и Founders Fund могут вложить $300 млн исходя из оценки проекта в $29 млрд. Для сравнения: в 2021 г. средства инвесторов привлекались исходя из оценки в $14 млрд. Как и в прошлые разы, новые инвесторы выкупают долю у существующих владельцев. Размывать их долю или выходить на IPO компания не планирует, уверяет Альтман.

По данным Bloomberg, Microsoft обсуждает новые инвестиции в OpenAI – на этот раз целых $10 млрд в течение нескольких лет. Интернет-издание Semafor добавляет, что это даст Microsoft право получать 75% прибыли OpenAI, пока та не вернет инвестиции. После этого у Microsoft будет 49% OpenAI.

Убийца Google

Журналистка WSJ использовала chatGPT, чтобы написать школьное эссе по литературе. И получила проходной балл! Сначала она пыталась выдать творение ИИ за труд семиклассника. Но учительница отказалась его принимать, сказав, что словарный запас и стиль письма чересчур развиты для этого возраста. Следующая попытка была сделана с учениками 12-го класса. Задачей было написать эссе на 500–1000 слов по фильму 1986 г. «Выходной день Ферриса Бьюллера» (Ferris Bueller’s Day Off) о том, как старшеклассник решает устроить себе выходной накануне выпускных экзаменов. При этом надо было сравнить фильм с рассказом Франца Кафки «Превращение» 1912 г., герой которого из человека стал гигантским насекомым.

Учитель похвалил эссе за то, что автор быстро перешел к изложению тезисов. Но в первом же абзаце он заметил фактическую ошибку: упомянутая в эссе цитата принадлежала не главному герою и была произнесена не в начале, а в конце фильма. Это был не единственный ляп. В итоге эссе было оценено в три балла из шести возможных. А его стиль был признан одним из худших в классе. Учитель назвал его «деревянным» и посетовал на нехватку вдохновения у автора. При этом педагог так и не заподозрил, что текст написал искусственный разум. Не смогли определить это и программы, ищущие плагиат.

OpenAI постоянно развивает свои алгоритмы. В конце этого года на смену GPT-3 должна прийти версия GPT-3.5, а потом и GPT-4, которая будет писать еще лучше, а ошибаться меньше. Сочинения и эссе могут уйти в прошлое: школьники будут списывать их у ИИ. Правда, сервис по поиску плагиата Turnitin обещает уже в этом году выпустить апдейт, который будет распознавать сгенерированный компьютером текст по ряду признаков.

Не оставит ли chatGPT людей без работы, поинтересовались у него «Ведомости». «Нет, chatGPT не может оставить человека без работы, – ответил алгоритм. – От самого человека зависит, найдет ли он работу». Но СМИ уже перечисляют профессии, в которых живого человека может заменить алгоритм. The Guardian сулит безработицу журналистам и программистам. ChatGPT действительно может написать программу по словесному описанию того, что она должна делать. Профильный онлайн-ресурс Markettailor опасается за маркетологов: chatGPT легко симулирует стили разных авторов, да и эрудирован не в пример лучше человека. Особенно тяжко придется службам поддержки. Согласно опросу американской аналитической компании Opus Research, для 48% людей не принципиально, поможет ли им человек или бот. А 35% даже хотели бы, чтобы компании чаще использовали ботов. Сейчас боты довольно тупы и часто дают один из заложенных в них вариантов ответа. Многие читатели сталкивались с тем, что, как только вопрос выходит за рамки стандартного, бот оказывается бесполезен. Но не chatGPT. Он может понимать вопрос, анализировать информацию и человеческим языком давать ответ именно на заданный вопрос. А потом отвечать на уточняющие вопросы.

Впрочем, опасения за рабочие места появляются при каждом витке технологий. И все равно работы хватает на всех. Forbes успокаивает, что люди станут заниматься обучением и тонкой настройкой ИИ. И что ИИ может автоматизировать простые процессы, но не обладает многими навыками людей. Например, ему не хватает (по крайней мере пока) креативности, критического мышления, умения абстрагироваться и мыслить стратегически.

Кто всерьез обеспокоен разработками OpenAI, так это Alphabet. Если chatGPT сможет искать в интернете, а не только в своей базе данных (OpenAI как раз разрабатывает алгоритм WebGPT, позволяющий делать это), это может обернуться финансовой катастрофой для Google, считает Bloomberg. В ответ на запрос Google выдает длинный список ссылок, по которым надо переходить в поисках информации. ChatGPT куда удобнее: он выдает единственный ответ, просмотрев за вас ссылки и сделав короткий отчет на их основании.

Журналист Bloomberg провел эксперимент. Он посмотрел в истории поиска 18 своих последних запросов в Google и ввел их в chatGPT. В 13 случаях ответы chatGPT оказались полезнее, чем ответы поисковика. Например, что лучше использовать для тыквенного пирога: обычную сгущенку или банку концентрированного молока без сахара? Google выдал множество рецептов. ChatGPT объяснил, хотя и несколько многословно, что главное отличие – сгущенка сделает пирог слаще и это лучше.

Около 81% из $257,6 млрд выручки Alphabet приходится на рекламу, большую часть которой показывают вам, когда вы что-то ищете в Google, пишет Bloomberg. Эти доходы могут оказаться под угрозой, если люди привыкнут получать не список ссылок, а уже готовый ответ от chatGPT. Недаром Microsoft так заинтересован в том, чтобы внедрить технологии OpenAI в свой поисковик Bing.

ChatGPT как оружие

Всего через несколько недель после дебюта chatGPT израильская компания по кибербезопасности Check Point продемонстрировала, как его можно использовать во вред. Не умеющий программировать человек с его помощью в состоянии написать компьютерный вирус. Все, что надо, – рассказать алгоритмам OpenAI, чего ты хочешь добиться. ИИ сам напишет код. Это не единственный пример, как ИИ может помочь преступникам. Например, chatGPT может писать для них фишинговые e-mail без опечаток, что так веселят нас в сообщениях от богатых африканских дядюшек. Хотя есть предположение, что орфографические ошибки делаются намеренно, чтобы обойти спам-фильтры, пишет онлайн-издание Bleeping Computer.

The New York Times опасается появления в интернете миллионов ботов, которые будут общаться совсем как люди. А уж будут ли они спамить или продвигать определенную точку зрения – это зависит лишь от желания заказчика.

OpenAI запрограммировала chatGPT так, что он отказывается отвечать на ряд вопросов. Попробуйте узнать у него, как угнать автомобиль, – и он ответит, что это серьезное преступление, и посоветует пользоваться общественным транспортом. Но этот запрет легко обойти, обнаружила The Guardian. Например, можно спросить, как пройти миссию по угону автомобиля в вымышленной игре. После этого сhatGPT дал журналистам подробные инструкции, да еще ответил на дополнительные вопросы. Например, как отключить иммобилайзер у определенной модели.

Проблемы с дурным влиянием человечества на ИИ уже погубили репутацию одного из подобных проектов. В 2016 г. Microsoft запустил в Twitter чат-бот по имени Тау на основе ИИ. Он был наделен способностью к самообучению. Меньше чем за сутки, пообщавшись с интернет-пользователями, бот нахватался у них дурного, стал расистом, сексистом, начал нецензурно ругаться и писать сообщения порнографического характера. Скриншоты с цитатами Тау стали вирусными в сети. Microsoft пришлось срочно отключать бота, стирать посты и извиняться.

Надо сказать, что создатели chatGPT учли этот опыт. На многие провокационные темы бот или отказывается говорить, или выступает с нравоучением. Но, как видно из примера с истреблением человечества, порой ИИ допускает осечки. Отчасти по этой же причине chatGPT лишен доступа в интернет, а его база данных ограничена концом 2021 г. Так что не стоит задавать ему вопросы об актуальных событиях. Но следующая версия бота должна уже выйти в сеть.

Сотрудничество OpenAI с Microsoft вызывает опасения, не используют ли ее технологии в военных целях. Сама OpenAI декларирует, что ее разработки должны служить на благо человечеству. Но у Microsoft есть контракт с Пентагоном, а разработки OpenAI вполне могут интересовать военных, пишет журнал Wired. Пентагон заключил с Microsoft контракт на $10 млрд на внедрение облачных технологий с использованием ИИ. Сделку много критиковали за выбор единственного поставщика. Под общественным давлением в 2022 г. контракт был перезаключен: оставшиеся от него $9 млрд теперь разделят между собой четыре технологических гиганта – Amazon, Google, Oracle и Microsoft.

В 2021 г. Google был вынужден отказаться от продления контракта с Пентагоном из-за протестов своих сотрудников. Корпорация занималась в том числе распознаванием изображений с дронов с помощью ИИ. В 2018 г. Microsoft сталкивался с похожими протестами, но не стал отказываться от контрактов с военными. «Мы не собираемся скрывать технологии от институтов, которые мы выбрали в нашей демократии для защиты свобод», – говорил Наделла в интервью интернет-изданию Quartz в 2019 г.

Журналисты Wired поинтересовались у OpenAI, есть ли вероятность, что ее технологии с помощью Microsoft попадут в армию. Альтман уклончиво ответил, что по условиям контракта ни одна технология не может быть коммерциализирована без одобрения со стороны обеих компаний. Но отказался обсуждать позицию OpenAI в отношении помощи военным.