Как регулирование искусственного интеллекта повлияет на IT-гигантов
Рынок разработчиков чат-ботов может сузиться до нескольких крупнейших игроков
Западные и китайские власти, а также руководители IT-гигантов не на шутку озаботились бурным ростом популярности искусственного интеллекта (ИИ) генеративного типа после того, как чат-бот ChatGPT набрал 100 млн пользователей за месяц – быстрее, чем любое другое приложение. Российский Центробанк, в свою очередь, заявил, что намерен создать центр компетенций в сфере ИИ – там согласны с тем, что эта технология несет как преимущества, так и угрозы.
Чего испугались
Управление по вопросам киберпространства КНР опубликовало проект мер по регулированию сервисов генеративного ИИ – именно такой тип технологии позволяет создавать новые сущности в виде текста и т. д. Создаваемый им контент должен отражать основные ценности социализма, не может призывать к подрыву государственной власти, свержению социалистического строя, подстрекательству к расколу страны и подрыву национального единства, уверены китайские власти. Они будут проверять сервисы на базе ИИ до выдачи им разрешения на работу в стране.
Администрация США опасается, что технология может использоваться для дискриминации или распространения вредоносной информации, а также угрожает нацбезопасности, писал The Wall Street Journal. Американское министерство торговли инициировало публичное обсуждение о необходимости сертификации потенциально рискованных новых моделей ИИ перед их выпуском. Чиновники Евросоюза уже рассматривают новый закон об ИИ, который частично запретит технологию и наложит юридические ограничения.
Тревогу забили и в мире технологий. Илон Маск, Стив Возняк и другие лидеры техногигантов подписались под петицией Future of Life Institute. Она призывает все лаборатории ИИ немедленно приостановить как минимум на полгода обучение более мощных систем, чем GPT-4. Авторы уверены, что неконтролируемая гонка лабораторий может быть опасна для общества. Шестимесячная пауза, по мнению подписавшихся (почти 24 000 человек), позволит лабораториям ИИ и независимым экспертам «совместно разработать и внедрить набор общих протоколов безопасности для усовершенствованного проектирования и разработки ИИ».
Контроль за угрозой
У властей США и Китая принципиально разный подход к регулированию, отмечает эксперт по фондовому рынку «БКС мир инвестиций» Валерий Емельянов: Китай вводит цензуру в нейросетях, а не регулирует их. Тогда как власти США больше озабочены тем, что нейросети дают заведомо ложные ответы, генерируют фейки даже в ответах на научные вопросы. Такие модели создают текст, не проверяя точность и правильность данных, хотя в основном базируют свой ответ на реальных фактах. Власти США также переживают, что нейросети будут использованы для незаконных целей, например при сдаче экзаменов, т. е. придется как-то перестраивать процесс, особенно для удаленно учащихся, объясняет эксперт.
Угрозы использования нейросетей действительно есть, считают эксперты. Например, скоро будет практически невозможно отличить правду от лжи, считает директор по развитию компании по разработке ПО «Формат кода» Александр Жуков: любой факт может быть сгенерирован. Вторая угроза – снижение количества рабочих мест для не очень «осмысленной» работы. Колл-центры, продавцы интернет-магазинов, диспетчеры, создатели отчетов будут страдать от частичной замены персонала системами ИИ. Купировать эти угрозы не нужно, считает Жуков: это изменения реальности, которые нужно принять и адаптироваться к ним.
Широкая доступность и простота использования делает злонамеренное использование этих инструментов очень легким, согласна директор по маркетингу Just AI Юлия Рыжих. Еще одна серьезная группа рисков лежит в области этических норм ИИ – они настолько далеки от человеческих, что спрогнозировать их довольно сложно.
Меры государств не остановят развитие нейросетей, потому что спрос на них огромен, считает Емельянов: они ускоряют работу многих специалистов и генерируют огромный объем контента в невиданных ранее масштабах. Компании-разработчики и IT-сектор в целом в них тоже заинтересованы. IT-гиганты ежегодно инвестируют десятки миллиардов в AI, на их долю приходится около трети американского рынка акций – у них есть возможности пролоббировать в Вашингтоне регулирование, уверен Емельянов.
По пути Китая
Россия наверняка пойдет по пути Китая – будут вводиться ограничения на то, что может выдаваться в качестве ответа, полагает Емельянов. По его мнению, государство вряд ли будет вмешиваться в саму технологию и приемы обращения с нейросетями.
В погоне за ИИ
В гонку за чат-боты на базе ИИ уже включились американские корпорации Microsoft и Google, китайские Baidu и Alibaba. Держат руку на пульсе и российские компании: «Сбер» использует ИИ в процессах ипотечного кредитования и сопутствующих услуг – от поиска недвижимости до проведения сделок с жильем. В марте российский брокер «Открытие инвестиции» внедрил облачную платформу Beorg Smart Vision на базе ИИ для автоматической оцифровки документов и распознавания изображений. «Яндекс» планирует запустить свою версию ChatGPT к концу 2023 г.
Взять под контроль распространение сервисов, подобных ChatGPT так же легко, как социальные сети интернета, поскольку таких сервисов мало из-за высоких барьеров для входа в индустрию, говорит аналитик ФГ «Финам» Леонид Делицын. Поэтому сервисами с такими возможностями будут владеть лишь очень крупные корпорации по типу «Сбера» и «Яндекса». Государство без труда находит с ними «общий язык», добавляет эксперт. Сможет ли контроль затормозить внедрение сервисов, зависит от того, кого считать пользователями, считает Делицын: если это традиционный бизнес, которому нужно выполнять одни и те же операции, на него влияния не будет. А политические технологи, которые могли бы использовать умных ботов для распространения политических идей, вполне могут быть ограничены, считает Делицын.
Российский регулятор давно стал лидером технологического развития и ко всем новым технологиям подходит осторожно и разумно, говорит директор по информационным технологиям банка «Синара» Илья Батай: тенденции у него все запретить нет, есть желание предугадать особо критичные риски и удержать и рынок, и развитие технологий. Он надеется, что регуляторы выступят не как блокаторы, а как мощная поддержка и визионер, обозначающий потенциальные риски, как партнер технологического развития.
ИИ в руках гигантов
Регулирование повлияет на IT-гигантов так же, как контроль над пользовательским контентом повлиял на операторов социальных сетей, полагает Делицын: владельцам ИИ массового пользования придется тратить на модерацию суммы, аналогичные тем, которые тратят Марк Цукерберг и Илон Маск. В этом тоже есть плюс, считает эксперт, поскольку конкуренты будут уходить с рынка не только из-за недостатка серверных мощностей, но и из-за отсутствия средств на модерацию. Монополизация рынка ИИ в конечном счете очень благотворно скажется на акциях крупнейших корпораций, считает Делицын: рынок операторов платформ ИИ может сузиться до Microsoft, Amazon и Google, а в Китае – до Baidu и Alibaba. Так что даже гиганты вроде IBM откажутся от конкуренции и будут довольствоваться системной интеграцией решений на лидирующих платформах, резюмировал он.
На 0,23%
вырос в четверг индекс Мосбиржи
Главный бенчмарк российского фондового рынка в четверг, 13 апреля, вырос на 0,23% до 2544,28 пункта. Его долларовый аналог индекс РТС прибавил 0,77%, добравшись до 982,94 пункта. Доллар за день ослаб на 55 коп. до 81,4 руб., евро, наоборот, окреп на 40 коп. до 90,39 руб. Юань ослаб на 3 коп. до 11,855 руб.
Среди лидеров роста оказались бумаги «Русагро» (4,18%), Polymetal (3,32%), «Полюса» (1,64%), «Новатэка» (1,48%) и «Интер РАО» (1,17%). В лидерах снижения «префы» «Транснефти» (-2,94%) и бумаги ПИК (-1,84%), Globaltrans (-1,72%), Ozon (-1,49%) и АФК «Система» (-1,13%).
Стоимость июньского фьючерса на нефть марки Brent потеряла 13 апреля 0,98%, опустившись до $86,48/барр. Майский фьючерс на нефть WTI потерял 0,89%, достигнув цены $82,55/барр.
Российский рынок акций в четверг торговался разнонаправленно. Импульс роста столкнулся с укреплением рубля и желанием инвесторов зафиксировать прибыль по ряду инструментов, говорит инвестиционный стратег «БКС мир инвестиций» Александр Бахтин. Лучше рынка выглядели акции золотодобывающих компаний, отыгравших рост котировок драгметалла. Откат доллара на глобальной арене после выхода данных о замедлении потребительской инфляции в США создал благоприятную почву в целом для роста котировок сырья.
Внешний фон был умеренно позитивным. Китай опубликовал сильные данные по экспорту и импорту по итогам марта. Индекс цен производителей США опустился на 0,5%, тогда как прогнозировалось его увеличение на 0,1%. В годовом выражении рост замедлился до 2,7% против ожидавшихся 3%. ОПЕК в ежемесячном отчете сохранила свои ожидания по части роста мирового спроса на нефть в 2023 г. на 2,3 млн барр./сутки до 101,9 млн барр./сутки, прогноз добычи в России не изменился – 10,28 млн барр./сутки.
В пятницу картину дополнит отчет Международного энергетического агентства. Из важной статистики конца недели Бахтин выделяет данные по розничным продажам и объемам промпроизводства в США за март. Сезон квартальных отчетностей продолжат результаты JPMorgan, Wells Fargo, Citigroup. Группа «О’кей» и «Россети Ленэнерго» обнародуют финансовые результаты по МСФО за 2022 г.
Учитывая фактор пятницы и локальную перегретость, Бахтин полагает, что в пятницу рынок может консолидироваться вблизи достигнутых уровней. Прогноз БКС по индексу Мосбиржи на 14 апреля – 2450–2570 пунктов.
Рубль в четверг нашел в себе силы отыграть часть позиций у доллара, отмечает Бахтин. Индекс американской валюты DXY опустился ниже 101 пункта. Убедительный перелом тренда в паре доллар/рубль возможен на будущей неделе, когда экспортеры начнут продавать валюту для прохождения налогового периода. В пятницу в БКС ждут доллар в диапазоне 79–82 руб.
Государства, которые введут неверные регуляторные принципы, будут останавливать собственное развитие, уверен Жуков. GPT-модель имеет четкие цели, состоящие в реалистичности генерации текста, но совершенно не способна к инсайтам и изучению чего-то нового. В этом смысле говорить о регулировании технологии AI как экстремально опасной пока рано, считает эксперт.
В Just AI не верят в реальную возможность регулирования ИИ на уровне государства. Революционные возможности новых технологий стали очевидны всем и доступны многим, говорит Рыжих. Большая гонка ИИ в самом разгаре: каждую неделю появляются новые LLM-модели (большие языковые модели). В ближайший год все крупные вендоры и компании обзаведутся собственными решениями на базе LLM, предполагает эксперт. Модели собственной разработки очень дороги и сложны, а потому доступны только элитарному клубу корпораций, добавляет Рыжих. Так что именно внутренние политики компаний по информационной безопасности и требования законодательства в этой области в первую очередь будут регламентировать использование ИИ-решений. Уже сейчас компании массово запрещают передавать в облачные LLM (тот же ChatGPT) рабочие данные и сведения с конфиденциальной информацией, резюмировала эксперт.