Риски цифровизации: от этики до суверенитета

Волна цифровизации накатила еще несколько лет назад, а нынешний вирусный кризис ее лишь усилил. В этом контексте стоит сказать о ключевых, но не вполне очевидных рисках и барьерах, стоящих на ее пути. При их недоучете светлое цифровое будущее может оказаться очень далеким от ожиданий.

Первое: риск непринятия «цифровизации морали». Тема не сказать чтобы новая, но она почти не обсуждается – по крайней мере, в России. Известный пример – «проблема вагонетки», которая актуализировалась в контексте обучения беспилотных автомобилей (кого сбивать автопилоту: пожилого человека, соблюдавшего ПДД, или спровоцировавшую потенциальное ДТП беременную женщину?). Если шире, речь идет о делегировании алгоритмам права массового принятия решений, которые раньше являлись этическим выбором каждого отдельного человека. Важно, что индивидуум за свой этический выбор, каким бы он ни был, в конечном счете несет ответственность. Но кто и какую ответственность будет нести в случае принятия решения о жизни или смерти алгоритмом, если эта ответственность размазана по широкому спектру лиц и организаций? Вполне возможно, что мы так и не сможем найти единое морально приемлемое для всех решение. И беспилотные автомобили не поедут по дорогам именно по этой причине.

Второе: риск суперутечек данных. Понятно, что чувствительные данные берегут как зеницу ока, но наличие человеческого фактора и быстрое развитие технологий определяют ненулевую вероятность любой утечки. Каковы могли бы быть полные последствия утечки, скажем, секретов ФНС или Банка России? Представим себе, что завтра каждый гражданин может беспрепятственно узнать точную информацию о доходах, расходах и активах любого другого гражданина. Или – пример чуть безобиднее – о том, кто, с кем и сколько времени разговаривает по телефону. И так далее. Очевидно, что к такой «внезапной сверхпрозрачности» не готов никто, а спектр разрушительных последствий будет широк. И не исключено, что выбора здесь попросту нет: рано или поздно наступающая «абсолютная прозрачность» идет с цифровизацией в одном пакете. Осознание этой угрозы рядом лиц, принимающих решения, может ощутимо повлиять на скорость и конечные цели развития цифровых технологий.

Примечательно, что указанные риски не слишком операциональны: их надо иметь в виду, но как с ними работать и купировать, пока не вполне ясно. В рамках же конструктивной повестки в настоящий момент следовало бы сосредоточиться на перспективно важнейшем риске – утери суверенитета.

В области обеспечения цифрового суверенитета на первый взгляд достижения есть: крупнейшие отечественные IT-компании располагают широким набором сервисов, есть компетенции в обеспечении безопасности вычислительных систем и сетей, приняты меры для бесперебойности работы сетевой инфраструктуры в критических ситуациях (закон о «суверенном интернете»). Проблема, однако, в том, что большинство решений – «софтовые», не базового уровня. Своего «железа» у нас почти нет, и это ключевой риск. Показательно: на днях росчерком пера США лишили компанию Huawei только что разработанного ею процессора Kirin – и, как известно, это далеко не первая такая потеря компании.

Есть и другой аспект проблемы: какой бы продвинутой ни была антивирусная программа, она в принципе не сможет побороть вирус, если тот вшит в программное обеспечение на уровне «железа». О каком цифровом суверенитете может идти речь, если производители «харда» потенциально могут знать все о тех, кто на нем работает, и в любой момент это «железо» отключить? Никакой антивирус не поможет. Причем это не домыслы – недавно уже были обнаружены «закладки» на уровне микропрограмм жестких дисков. В этом контексте будет интересно, какие находки (уязвимости, «закладки») обнаружат при исследовании утечки 20 Гб внутренних данных Intel, о которой стало известно в начале августа.

Как в этих условиях обеспечивать цифровой суверенитет? Строго говоря, критическая цифровая инфраструктура должна быть полностью доверенной, «своей». Но это очень дорого и по средствам, видимо, только США и Китаю, да и то лишь в перспективе.

Явно требуется асимметричный ответ. Возможно, через несколько лет многие страны дозреют до необходимости создания базовой цифровой инфраструктуры на полностью открытых системах – открытый софт на открытом «железе». Это тоже небыстрый, недешевый и непростой процесс – но почему бы России не стать его зачинщиком или даже одним из лидеров? Необходимый минимум компетенций есть. И это прекрасная основа для сотрудничества, прежде всего, с Европой, у которой цифрового суверенитета еще меньше нашего. Важна и Япония с компетенциями в «железе». А круг стран – потребителей такого решения может быть весьма широк, дуополия США и Китая вряд ли всех устроит.

Но нужно понимать, что, даже если начать создавать эту альтернативу сейчас, еще минимум лет 10 ни о каком полноценном цифровом суверенитете не может быть и речи. А затем еще минимум 10–15 лет эффективность этих систем будет многократно ниже закрытых решений. Такова цена обеспечения реального цифрового суверенитета. Что поделать – этот вопрос для России был важен всегда и таковым, очевидно, и останется – как ключевое условие обеспечения целостности.