Искусственный интеллект снова атакует

По данным опроса Высшей школы бизнеса НИУ ВШЭ, 80% российских компаний уже применяют или собираются применять инструменты искусственного интеллекта (ИИ) в своих бизнес-процессах. ИИ – это обширная и разнородная область компьютерных наук, включающая в себя такие направления, как нейросети, машинное обучение, глубинное обучение, обучение с подкреплением, компьютерное зрение и общение на естественном языке.

Задачи, с которыми должны справляться машины, чтобы их можно было считать «интеллектуальными», – умение распознавать изображения, решать задачи, понимать человеческий язык, анализировать данные и выдавать экспертные оценки – были определены более полувека назад. Тогда же появился термин «искусственный интеллект». Ранние ИИ-разработки были сосредоточены в основном на классических играх. Именно успехи в игровом поединке с человеком считались мерой разумности машины. В 1996 г. весь мир следил за матчем компьютера Deep Blue с тогдашним чемпионом мира по шахматам Гарри Каспаровым (признан в России иноагентом). Победа Deep Blue принесла славу ее создателям и подняла акции компании IBM, вложившейся в этот проект. С конца 1950-х велись разработки в сфере машинного перевода. Это считалось стратегической задачей, решение которой продвинет военную разведку на новый уровень.

Сейчас ИИ проник во все сферы человеческой деятельности – образование, науку, искусство, промышленность и транспорт. Бизнес вступил в эпоху ИИ, после того как вычислительные мощности и продвинутые методы перестали ограничивать объемы обработки данных и компании стали производить их в невиданных прежде масштабах.

Экономика ИИ

Системы, относящиеся к классу ИИ, – многомиллиардная индустрия. По прогнозу IDC, в 2023 г. мировой объем инвестиций в ИИ достигнет $154 млрд, а к 2026 г. – $300 млрд (в оценку включены софт и «железо»). Из 36 сфер применения ИИ, выделенных IDC, cамыми популярными в 2023 г. будут умные чат-боты для поддержки клиентов, системы для анализа продаж и рынков и рекомендательные сервисы. В эти направления станут вкладываться компании всех отраслей, и в совокупности они принесут поставщикам решений примерно $40 млрд. Также значительными будут инвестиции бизнеса в технологии ИИ для оптимизации IТ-инфраструктуры, расширенной аналитики киберрисков, анализа и расследований мошенничества и обмана. Отрасли с наибольшими инвестициями в ИИ – банковский сектор и ритейл.

Исследовательские фирмы Precedence Research, Fortune Business Insights и Acumen также предсказывают бурный рост инвестиций в ИИ в 2023 г. и последующие годы. Однако исследование Стэнфордского университета свидетельствует о том, что это будет не только рост, но и восстановление: в 2022 г. корпоративные инвестиции в ИИ упали на 26,7% по сравнению с 2021 г. Этому охлаждению, однако, предшествовал серьезный рост: с 2013 по 2020 г. инвестиции корпоративного сектора в ИИ увеличились в 18 раз. Главным фактором роста был не утихающий вплоть до 2020 г. оптимизм по поводу машинного обучения и ИИ в целом.

В 2021 г. начался откат, а в 2022 г. снизилось как общее число сделок по приобретению решений с ИИ, так и количество ИИ-стартапов. Вероятно, сказалось разочарование от несбывшихся надежд – лишь небольшая доля компаний смогла нарастить доход и прибыль благодаря ИИ-решениям. В целом доля американских компаний, которые внедрили их хотя бы в одном функциональном подразделении, перестала расти: согласно опросу McKinsey, в 2019 г. таковых было 58%, а в 2022 г. – лишь 50%.

Вектор снова повернул вверх с приходом модели ChatGPT. Бизнес опять поверил в то, что ИИ-решения способны обеспечить подъем эффективности в разных сферах. Инвестиции в стартапы, которые имели в своем описании генеративный ИИ, в I квартале 2023 г. взлетели в разы – до $12 млрд. Даже без учета $10 млрд, которые компания Microsoft вложила в создателя ChatGPT OpenAI, рост год к году составил 58%. А уже летом 2023 г. американский канал CNN заговорил об ИИ-пузыре.

По мнению доцента факультета компьютерных наук НИУ ВШЭ Евгения Соколова, сейчас технологии ИИ находятся на интересном этапе развития: алгоритмы действительно работают и могут приносить пользу, но при этом мы очень мало понимаем их свойства, ограничения и потенциальные риски. «Грубо говоря, мы умеем получать гигантскую формулу, которая выдает очень неплохие решения задачи, но не можем в этой формуле разобраться и гарантировать ее корректность. А без понимания устройства этих алгоритмов невозможно говорить об их надежности, стабильности и непредвзятости», – отмечает Соколов.

Российский рынок

Лидеры финтехрынка в России инвестировали в ИИ около 600 млрд руб. за последние 10 лет, говорится в опубликованном в августе 2023 г. исследовании ассоциации «Финтех». По данным опроса, к середине 2023 г. 80% финансовых компаний имели как минимум одно подразделение по анализу данных. При этом только у 17% компаний существуют централизованные, выделенные структуры, которые специализируются на работе с решениями ИИ. 95% компаний финансового рынка уже внедрили ИИ-технологии в основные процессы. Респонденты отмечают, что ключевыми барьерами при внедрении ИИ являются дефицит профильных специалистов, а также отсутствие отечественных инструментов для работы с машинным обучением.

Глава «Сбера» Герман Греф в интервью РБК рассказывал, что в компании ИИ широко применяется в разных бизнес-функциях. По словам Грефа, у «Сбера» достаточно собственных данных, чтобы обучить свои модели, а единственное узкое место – это «железо». Свои ИИ-решения, например по Deep Learning, «Сбер» применяет в разных частях экосистемы, но не как коммерческий продукт. Перспективы развития ИИ в банковском секторе видит и Банк России. В начале апреля регулятор заявил о собственных планах создания центра компетенций по ИИ.

В «Яндексе» ИИ интегрирован во множество сервисов: собственно поиск, YandexGo, Yandex Market. «Яндекс» сообщил, что разрабатывает свою версию генеративной сети ChatGPT в рамках развития языковой модели из семейства YaLM (Yet another Language Model, нейросеть на базе решений GPT-3 от компании Open AI). Проект в итоге назвали YandexGPT. Он умеет тезисно пересказывать текст (сервис 300.ya.ru), а также генерирует тексты в режиме реального времени и форматирует их. В августе 2023 г. «Яндекс» объявил, что на технологической платформе «Яндекс Учебник» готовит образовательную нейросеть на базе YandexGPT для помощи в изучении программирования. Ожидается, что бесплатный обучающий сервис для детей и подростков появится в открытом доступе в 2024 г.

По данным CNews, российский рынок ИИ быстро растет, суммарная выручка топ-10 участников третьего рейтинга крупнейших игроков увеличилась на две трети. С 2022 г. российский бизнес активно внедряет распознавание и синтез речи, чат-боты и голосовых виртуальных ассистентов. Рост спроса на речевые ИИ-технологии в 2022 г. составил 30–50%.

Дмитрий Дырмовский, CEO группы компаний ЦРТ (занимает второе место на рынке ИИ, по версии CNews), основываясь на статистике заказчиков своей компании, сообщает о росте спроса на речевую аналитику и диалоговых ассистентов. «Направление диалоговых ассистентов – текстовых и голосовых роботов для банков, телекомкомпаний, госсектора – в 2022 г. выросло на 90% по сравнению с 2021 г., развивались проекты по голосовому заполнению медицинских протоколов», – говорит Дырмовский. Второе по количеству проектов направление внедрения ИИ в российских компаниях и госсекторе – распознавание изображений и компьютерное зрение, отмечает Дырмовский.

«Многие ведущие российские компании разных отраслей – металлурги, энергетики и даже РЖД – внедряют собственные разработки по ИИ для оптимизации IТ-архитектуры и операций, – говорит профессор департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ Петр Панфилов. – И чаще всего они пользуются библиотеками из Open Source (программное обеспечение с открытым исходным кодом. – Ред.)». По словам Панфилова, алгоритмы, на основе которых строятся ИИ-решения, универсальны – математика не делится на западную и отечественную. «Российские математики сильные, и у разработчиков ПО есть очень продвинутые решения. Наша проблема в ИИ – долгий, а зачастую и непреодолимый путь от разработки до промышленного внедрения», -– заключает эксперт.

В России фундаментальными исследованиями в сфере ИИ занимаются не только университеты, но и ряд компаний, отмечает Соколов: «К примеру, исследователи из «Яндекса», «Сбера», «Тинькофф» регулярно публикуют свои результаты на ведущих конференциях по ИИ. Уверен, что если инвестиции в такую работу сохранятся, то скоро появятся прорывные методы, разработанные уже нашими учеными».

Законы и этика

В 2022 г. в мире было принято 37 законов, регулирующих разработку и применение систем ИИ. По оценке EY, совокупные затраты компаний списка Fortune 500 на комплаенс в сфере данных в 2022 г. могли составить $8 млрд. «Сейчас более 100 юрисдикций – страны, штаты и города – вводят собственные законы о персональных данных. Это дополнительно отягощает путь сквозь лабиринт регуляторных требований, в котором может заблудиться практически любая глобальная компания, взаимодействующая с потребителем», – пишут эксперты EY. По их мнению, все это сравнимо с появлением нового налога: большие расходы, большие риски, сложность выполнения требований и невозможность от него уйти.

Одной из главных вех в регулировании этой сферы стало появление в 2018 г. общего регламента General Data Protection Regulation (GDPR) ЕС о защите персональных данных, устанавливающего штрафы за нарушения в размере от 10 млн до 20 млн евро или от 2 до 4% от глобальной выручки для компаний. За прошедшие годы примеру ЕС последовали и другие страны. В США законодательство о защите данных постоянно ужесточается, неуклонно приближаясь к европейскому.

С цифровым разумом сопряжены особые риски: несправедливость, дискриминация, неправомерная оценка и пр. В сфере найма, например, ИИ приходится специально тренировать, чтобы устранить предвзятость в отношении женщин, расовых меньшинств и людей с ограниченными возможностями – ведь у них, как правило, послужные списки хуже.

14 июня 2023 г. Европейский парламент принял проект закона об ИИ, который серьезно ограничит использование ПО с ИИ для распознавания лиц, а также потребует от создателей систем ИИ, таких как чат-бот ChatGPT, раскрывать больше информации о происхождении данных, использованных для обучения бота. Другая законодательная новелла запретит ИИ сбор биометрических данных из соцсетей. Практика прочесывания соцсетей вызвала внимание законодателей после того, как стало известно, что ею воспользовалась Clearview AI – лидер в области распознавания лиц. Кроме того, европарламентарии добавили запрет на использование технологий определения эмоций правоохранительными органами, пограничными службами, на рабочих местах и в учебных заведениях. Ожидается, что окончательный вариант закона будет принят в первой половине 2024 г.

Проект закона предполагает запрет работы в ЕС для компаний с неприемлемым уровнем ИИ-риска, а компании с высоким уровнем риска по ИИ должны будут подчиняться правилам, среди которых есть, например, такие: внедрение системы управления рисками, контроль управления данными, техническая документация, ведение разного рода журналов, кибербезопасность и др. Нарушение этих правил будет караться штрафом до 30 млн евро или 4% выручки. Ученые из Стэнфордского центра Hai (Human-Centered AI) проанализировали действующие модели ИИ с точки зрения их соответствия новым правилам ЕС. Почти половина из них не дотянула и до 24 баллов по 48-балльной шкале.

Исследовательская компания Gartner выделила в отдельный тренд 2023 г. системы управления рисками в сфере ИИ (AI Trust, Risk and Security Management – AI TRiSM). В качестве примера этического контроля ИИ Gartner приводит Датское управление бизнеса (DBA), которое разработало для этого специальные методы. Конкретные действия DBA проверяют справедливость аналитики ИИ, а также устанавливают системы мониторинга. С помощью этого подхода уже контролируется 16 моделей ИИ, которые применяются в финтехе, с совокупным объемом транзакций в миллиарды долларов.

В России законодательства в сфере ИИ не существует. По мнению руководителя практики по авторскому праву компании DRC Владимира Ожерельева, в РФ регулирование ИИ, скорее всего, пойдет по пути централизации управления нейросетями в руках государства и крупных корпораций. При этом в России существует этический кодекс для разработчиков ИИ, который, правда, не является обязательным. Ряд компаний, например «Сбер», приняли собственные этические нормы.

В августе 2023 г. конгресс США принял законопроект об ИИ, который обяжет компании бигтеха делиться датасетами с научными коллективами и стартапами, занимающимися созданием интеллектуальных систем. Сейчас финансовые ресурсы, необходимые для сбора, хранения и управления массивами из петабайтов информации, есть только у IТ-гигантов. Если доступ к этим массивам будет и у научного и предпринимательского сообщества, ИИ-разработки ускорятся.

В мае 2023 г. HBR опубликовал подборку статьей шести ведущих профессоров разных дисциплин на тему этичности систем ИИ. Их выводы пессимистичны: ИИ-приложения разрабатывают и используют без оглядки на такие моральные ценности, как справедливость и достоинство человека, достоверность информации, личная безопасность и неприкосновенность частной жизни.

«Десятилетиями в Кремниевой долине разработчики действовали по принципу «двигайся как можно быстрее, сметая все на своем пути», – пишет Маргарет O’Мара, руководитель кафедры истории Университета Вашингтона. – Видеоигры 1980-х, затем онлайн-платформы для шопинга, социальные сети, а теперь вот разговорный ИИ». Сейчас многие из создателей систем ИИ убеждают, что лучше повременить с обучением и внедрением более продвинутых версий. Но заставить бизнес Кремниевой долины снизить скорость невозможно – именно темп был его жизненным кредо на протяжении десятилетий.

Автор – ведущий эксперт Высшей школы бизнеса НИУ ВШЭ, старший редактор проекта «Новое в менеджменте»