Алексей Демяненко: «Бизнес готов защищать, но не решать за абонента»

Сегодня от телекомоператоров ждут проактивной модерации, безопасной среды по умолчанию и профилактики рисков. О том, где проходит граница между защитой пользователя и вторжением в его частную жизнь, почему антифишинг должен стать бесплатным стандартом, как алгоритмы учатся распознавать мошенников за 18 секунд и кто должен быть в ответе за безопасность детей в интернете, в интервью «Ведомости&» рассказал директор по продуктам и тарифам массового сегмента «Ростелекома» Алексей Демяненко.

– Конечно. Однако в вопросах цифровой безопасности принципиально важно разделять социальную ответственность компании и попытку переложить на бизнес административную, 100%-ную гарантию защиты.

Классическая модель продажи программного обеспечения (например, антивирусов) строится по принципу as is («как есть»). Разработчик минимизирует риски, но не может гарантировать их полное отсутствие, это физически невозможно.

Мы в компании уже несколько лет последовательно занимаемся повышением цифровой грамотности населения. Но даже профильно подкованный человек может стать жертвой социальной инженерии. Тем более что сами мошенники тоже достаточно хорошо подготовлены. Так, недавно перед командировкой я получил письмо с «моим билетом на самолет», в котором совпадали число и город назначения, однако незначительно отличалось время вылета. Согласитесь, такую мелочь впопыхах можно и не заметить.

Я специально открыл письмо, чтобы на собственном опыте проверить работу антифишинга. Письмо не открылось, система сработала. Более того, чуть позже мне перезвонил наш сотрудник службы безопасности с укором, что даже я попался на крючок мошенников. Но я объяснил, что это был всего лишь эксперимент.

– Телекомрынок в России остается одной из немногих подлинно конкурентных сред. Здесь побеждает тот, кто дает лучший сервис и реальную заботу о клиенте. Как гражданин я заинтересован в защите, а как сотрудник корпорации понимаю: когда люди чувствуют эту заботу, они выбирают наши продукты. Но эта рыночная мотивация имеет свои пределы. Если попытаться законодательно закрепить за оператором 100%-ную ответственность за безопасность пользователя, отрасль столкнется с критической проблемой – неизбежным вторжением в частную жизнь.

Мы четко проводим границу там, где решение однозначно полезно для всех, и там, где оно требует личного выбора. Так, базовая защита безусловна. На всей инфраструктуре «Ростелекома», как в мобильном сегменте, так и в фиксированном широкополосном доступе, работает система антифишинга. Она включена по умолчанию для каждого абонента. С вероятностью около 99,95% переход по вредоносной ссылке будет заблокирован автоматически. Пользователю не нужно ничего настраивать или докупать. Мы взяли эти затраты на себя, потому что невозможно представить человека, которому интересно переходить на фишинговые сайты.

А вот во всем, что касается личных границ и предпочтений, оператор не имеет права принимать решение за человека. Настройка родительского контроля (к примеру, контент 18+) или блокировка игровых ресурсов остаются исключительно на усмотрение самого пользователя или его семьи. Наша задача – предоставить простой, понятный и эффективный инструмент управления этими рисками, научить им пользоваться, но не навязывать выбор.

Поэтому тезис о том, что оператор связи мог бы закрыть абсолютно все угрозы, технически неверен и социально неприемлем. Гарантировать полную изоляцию от рисков без превращения сети в систему тотального контроля невозможно. Бизнес берет на себя безусловную защиту от массовых технических угроз, сохраняя при этом право пользователя на управление своим личным цифровым пространством.

– Мы имеем дело с самообучающейся системой на базе искусственного интеллекта (ИИ). Алгоритмы постоянно эволюционируют, поэтому фиксированный список красных флагов устаревает буквально каждую неделю. Тем не менее логика работы защиты строится на анализе набора предиктов – косвенных признаков аномального поведения.

Если говорить о фишинге в сети, система анализирует совокупность факторов: схожесть дизайна страницы с известными брендами, попытки несанкционированного доступа к системным ресурсам компьютера или запросы прав, которые объективно не нужны обычному информационному сайту. Как только срабатывает определенный набор этих триггеров, доступ блокируется автоматически.

В телефонии механика сложнее и затрагивает этический вопрос приватности. Чтобы распознать мошенника непосредственно во время разговора, нейросеть должна анализировать аудиопоток. Мы считаем, что это должен быть осознанный выбор человека: абонент должен сам дать согласие в настройках приложения, понимая, что ради безопасности он передает голос системе на анализ.

С момента активации системы до момента определения угрозы с вероятностью 99,9% проходит от 15 до 18 секунд. За это время ИИ успевает обработать массив данных, который человеческий мозг просто не способен проанализировать в реальном времени. Конкретные маркеры могут быть самыми разными: нетипичная частота звонков с одного номера, использование подменных идентификаторов, технические параметры самого звонка или мессенджера. Например, аккаунт в соцсети создан две недели назад, а мне через нее звонит якобы топ-менеджер компании. Человек может догадаться об обмане интуитивно, увидев странный аватар, но машина работает иначе. Она вычисляет математическую вероятность аномалии на основе тысяч параметров одновременно.

– В операционной работе основную нагрузку по фиксации угроз несут не столько сами нейросети в их классическом понимании, сколько предзаписанные алгоритмы. Здесь важно разделять функции: ИИ необходим прежде всего для обучения и корректировки этих алгоритмов, тогда как готовая жесткая логика используется непосредственно «в поле». Мы делаем так из соображений эффективности: готовый алгоритм срабатывает значительно быстрее, а стоимость обработки данных с его помощью примерно в 10 раз ниже, чем при прямом обращении к ИИ-агентам.

Поэтому роль человека внутри процесса трансформировалась. Специалисты больше не ищут новые зацепки вручную на каждом звонке или сайте. Сегодня люди участвуют в процессе на этапе формирования модели: они размечают данные, натравливают агентов ИИ на обучение и проверяют гипотезы. Инженеры крайне редко придумывают логику обнаружения атак с нуля. Это уже задача самообучающейся системы.

Когда система находит аномалию, она выдает человеку свою логику принятия решения. Специалист либо подтверждает ее, либо отклоняет.

– Вопрос монетизации подобных сервисов должен оставаться на усмотрение каждого конкретного оператора. Здесь сталкиваются две логики: высокие затраты на инфраструктуру и рыночная конкуренция.

С одной стороны, поддержка таких алгоритмов стоит серьезных вложений. Это не просто программный переключатель, а мощная вычислительная нагрузка на сеть. С другой стороны, телекомрынок – это одна из немногих сфер российской экономики с реальной рыночной конкуренцией.

В условиях такого рынка бизнес сам решает, как конвертировать безопасность в лояльность. Кто-то может брать за это деньги напрямую, кто-то – делать полностью бесплатным сервисом для удержания абонентов. Мы идем по гибридному пути, который кажется нам оптимальным балансом. Базовый уровень безопасности предоставляется безусловно и бесплатно. Это свойство нашей сети. Любой абонент автоматически защищен от критических массовых угроз, например фишинга. Ему не нужно ничего подключать, мы берем эти расходы на себя.

Причем безусловная защита от фишинга – это пока уникальная для рынка инициатива. Делая сервис бесплатным по умолчанию, мы фактически посылаем рынку сигнал о том, каким должен быть новый стандарт качества. При этом важно понимать разницу между рыночным сигналом и регуляторным принуждением. Пытаться обязать всех операторов внедрить подобные решения административно – плохая идея. Для части мелких игроков такие капитальные затраты могут оказаться неподъемными и просто разорят их. А вот подавать пример, демонстрируя, что «безусловное свойство сети» выгодно самому бизнесу, – это правильное направление развития отрасли.

Тонкие настройки и персонализация, где требуется активное участие пользователя (например, гибкая настройка детского контента под конкретный возраст), предоставляются уже в рамках платных тарифов. Если человек хочет выйти за рамки базовой фильтрации и самостоятельно выбирать категории блокируемого контента, это будет дополнительная услуга.

– Думаю, окончательного ответа на этот вопрос индустрия не найдет никогда. Мы всегда будем находиться в состоянии динамического равновесия, это своего рода бесконечные качели.

Проблема здесь заключается в опасной зависимости: если алгоритмы начнут принимать все решения за человека, мы рискуем получить поколение, которое разучится думать критически буквально в течение нескольких лет. Чем меньше человеку нужно анализировать риски самостоятельно, тем больше решений за него придется принимать системе в дальнейшем. Это классическая антиутопия из «Машины времени» Герберта Уэллса, где общество разделилось на рафинированных элоев и обслуживающих их морлоков.

С другой стороны, игнорировать уже существующий инструментарий защиты было бы безответственно. Если у нас есть технологии, способные оградить детей от реальной травли или мошенничества, грех ими не пользоваться.

Поэтому поиск баланса будет идти только методом проб и ошибок. Важно понимать, что обе крайности губительны. Абсолютный контроль создает беспомощность, а абсолютная свобода подвергает прямой опасности. В реальности, как правило, любые экстремальные позиции оказываются нежизнеспособными, поэтому нам предстоит постоянно калибровать эту систему, стараясь удержаться в золотой середине.

– Трудно представить сценарий, при котором изучение личных сообщений ребенка может принести реальную пользу, а не подорвет доверие в семье.

Однако здесь есть важный технологический нюанс. Если мы говорим об анализе контента алгоритмами, то они могут работать по принципу врачебной или адвокатской тайны. Система способна зафиксировать аномалию (например, признаки травли или суицидального поведения) и подать сигнал родителю, не раскрывая саму фактуру переписки: с кем именно общается ребенок и какие конкретно слова использует. Это позволяет обезопасить ребенка, не нарушая его личные границы. Мне кажется, что, если алгоритмы будут следовать правилам этической конфиденциальности, это поможет защитить детей, не превращая родителей во всепроникающих контролеров. В противном случае мы рискуем вырастить поколение людей, у которых в принципе отсутствует понятие личного психологического пространства.

– Мы вряд ли сможем точно угадать вектор будущих угроз. Здесь всегда будет действовать классическая схема «догоняющего», которую хорошо иллюстрирует старый фильм «Берегись автомобиля»: пока одни придумывают новые способы отъема денег, другие учатся их блокировать.

Главное требование к нам как к лидеру рынка телекома – способность реагировать максимально быстро. Еще 10 лет назад было невозможно представить, что мы сможем в режиме реального времени анализировать голосовой поток и пресекать мошеннические звонки до того, как человек успеет отдать деньги.

А сегодня это уже не научная фантастика, а повседневность. Более того, у нас появился специальный детский продукт про безопасность – подписка «Защита для ребенка» объединяет все необходимые сервисы кибербезопасности (защиту звонков в реальном времени, фильтрацию опасного и нежелательного контента, инструменты для защиты от звонков и sms мошенников из-за рубежа и случайных подписок) и подключается в один клик. Ведь именно эта аудитория подвержена максимальным рискам. И здесь на первый план выходят информирование и прямой диалог с родителями. Так, недавно мы завершили съемку серии уроков по кибербезопасности в рамках проекта «Дети знают».

Его уникальность в том, что о правилах поведения в сети рассказывают сами дети. Они объясняют, какие опасности подстерегают пользователей в интернете и как правильно реагировать на угрозы. Это особенно показательно, учитывая, насколько глубоко современные подростки разбираются в технологиях: они способны дать ценные советы не только своим сверстникам, но и родителям. &