ИнтервьюОбщество

«Цифровой концлагерь»

Будет ли Россия усиливать цифровую слежку под предлогом борьбы с коронавирусом по опыту Китая?

«Цифровой концлагерь»
Фото: Reuters
В последние годы мир с тревогой обсуждал стремительное превращение Китая в «цифровой концлагерь». Несколько месяцев пандемии коронавируса подтвердили эти опасения, но этическая оценка действий китайских властей в условиях чрезвычайной ситуации стала менее однозначной. На пике вспышки улицы китайских городов патрулировали дроны, а правительство внедрило систему «QR-кодов здоровья», ограничивающих перемещения людей под предлогом карантинных мер. Похожие инструменты массового контроля начинают применять во многих других странах, в том числе и в России. Насколько успешно Китай использовал цифровые сервисы для борьбы с коронавирусом и смогут ли российские власти повторить этот опыт? «Новая газета» поговорила об этом с китаистом Леонидом Ковачичем.
карточка эксперта
Леонид Ковачич — китаист, журналист-международник, колумнист, колумнист (Российский совет по международным делам, Московский центр Карнеги,). Сфера интересов: Big data и ИИ в социальном управлении
Изображение

— По официальной версии, Китай эффективно подавил распространение коронавируса, в том числе за счет цифровых технологий, которые позволили властям отслеживать цепочки заражений. Вы согласны, что это был успешный опыт?

Китайские мобильные операторы действительно очень активно используют систему отслеживания перемещений сотовых абонентов. В крупных городах при входе в офисные здания от каждого требуют просканировать QR-код. И высвечиваются данные мобильного оператора о том, как этот абонент перемещался в последние две недели. Делается это для того, чтобы понять — ездил ли человек в регионы, где есть большое число заболевших коронавирусом. Та же самая система апробируется другими компаниями, в том числе Alibaba, для перевозки пассажиров в такси — там тоже требуется сканировать QR-коды и регистрировать свои перемещения.

Кроме того, Alibaba запустила так называемый код здоровья — человек через специальную мини-программу вносит данные о своих контактах и состоянии здоровья, программа также анализирует данные геолокации, данные о покупках и присваивает человеку цветной QR-код.

Зеленый — значит, человек может беспрепятственно передвигаться по городу. Желтый — нужно самоизолироваться на 7 дней, красный — самоизоляция на 14 дней.

Нужно ли говорить, что данные, собираемые этой мини-программой от Alibaba, отправляются правоохранительным органам и органам власти.

Приложение получило широкое распространение: в городе Ханчжоу, где его впервые внедрили, еще месяц назад власти сообщали, что к нему подключилось около 90 % жителей. И многие другие города Китая стали внедрять это приложение. Правда, оказалось, что алгоритмы его непрозрачны, и люди не могут понять, почему их QR-коды меняют цвета, даже когда они сидели на карантине и ни с кем не контактировали.

Судя по всему, аналогичную систему контроля перемещения людей и соблюдения карантина с помощью QR-кодов хотят внедрить власти Москвы. Пока что официального релиза программы не было, но по описаниям это очень похоже на то, что работает в Китае. Напрягают в этой ситуации сроки, в которые власти Москвы обещают выпустить приложение.

Прибывшие на вокзал Гуанчжоу показывать зеленые QR-коды как свидетельство того, что им можно передвигаться. Фото: Reuters
Прибывшие на вокзал Гуанчжоу показывать зеленые QR-коды как свидетельство того, что им можно передвигаться. Фото: Reuters

За 1–2 недели это можно реализовать в двух случаях:

  1. если наработки делались уже давно, и власти лишь выжидали удобный момент, чтобы протестировать новую систему цифровой слежки;
  2. или же просто это будет написанный на коленке продукт, полный багов и изъянов в плане сохранности личных данных.

Но, вообще, я бы не стал абсолютизировать преимущества китайских технологий. Сами они как раз пытаются продвигать точку зрения, что благодаря тому, что в Китае есть единая сильная рука, он может построить госпиталь за 10 дней, может на карантин город закрыть и эффективно бороться с такой бедой, как эпидемия коронавируса. Но надо понимать, что ту же самую эпидемию коронавируса можно было бы избежать, если бы о первых случаях заболевания было вовремя доложено наверх, если бы вовремя были приняты меры.

Но тут случилась обратная сторона медали: местные чиновники боялись предпринимать какие-либо меры без одобрения центра.

Пока это до центра дошло, пока эта большая бюрократическая машина заработала, прошло много времени, и драгоценные первые дни, когда все можно было локализовать, были упущены.

«Это будет перепись населения»

Зачем присваивать москвичам QR-коды для выхода на улицу

— Выписали, что коронавирус обнажил технологическое несовершенство китайской «цифровой диктатуры». Что имеется в виду?

Когда говорят про Китай в контексте «цифрового концлагеря», в первую очередь имеют в виду тотальную слежку. Это большое количество камер наблюдения, установленных в городах, причем не только в крупных. Это система распознавания лиц, которой оснащены многие из этих камер. Хотя точных данных об этом нет, достаточно просто пройтись по пекинскому метро, где буквально через каждые 50–100 метров висит по несколько таких камер. Более того, во всех крупных учреждениях, во всех университетах установлены камеры. Существует система аналитики этих данных, они действительно «умные» — это не просто видеопоток, идущий в никуда.

Ситуация с коронавирусом парадоксальным образом показала несовершенство всех этих технологий в случае чрезвычайной ситуации. Вроде везде понатыканы камеры с распознаванием лиц, и не только для полицейских мер — люди в том числе платят лицом, регистрируют мобильные номера и так далее.

Но эти камеры не всегда могут распознать человека, если он в медицинской маске.

Поэтому в ход идут проверенные меры — например, поощряется слежка соседей друг за другом. На каждый квартал выделяется свой дружинник-активист, который записывает поименно всех соседей, опрашивает их в ручном режиме с ручкой и листочком бумаги — кто, откуда приехал, кто куда ходил. Кварталы огорожены, дружинники стоят там на входе и выходе, устраивают такой импровизированный чек-пойнт. И это работает, потому что, как официально заявляют власти Китая, количество новых больных уменьшается, динамика положительная.

Есть отдельный проект, который называется «Острый глаз», — это система установки камер наблюдения в сельских районах. Но там она работает в другом виде — изображения выводятся на экраны самих жителей этих деревень.

Их призывают следить друг за другом, то есть это такая система народной слежки.

Фото: Reuters
Фото: Reuters

Это все идет со времен Мао Цзэдуна. Тогда рабочее и крестьянское население призывали перевоспитывать тех, кто каким-то образом мог нести контрреволюционную опасность. Считалось, что эксперимент удался, на самом высоком уровне Мао Цзэдун это признавал. После «культурной революции» он надолго был забыт, и вот сейчас при нынешнем руководителе Китая Си Цзиньпине снова возвращается риторика о том, что неплохо бы вспомнить все достоинства этого эксперимента, но уже с применением новых технологий.

— Смесь комсомола и hi-tech… Но алгоритмы ведь можно модернизировать, чтобы они распознавали людей в медицинских масках. В России этообещалсделать Герман Греф.

Да, китайские компании, которые прицельно занимаются распознаванием лиц, например SenseTime, уже говорят о разработке таких алгоритмов. Сказать, что решение уже готово, пока нельзя. Но есть и другие алгоритмы, например для термального сканирования, которые позволяют распознать в толпе человека с повышенной температурой тела, чтобы выборочно посылать сигналы полиции или медработникам. Но точность таких алгоритмов пока не очень большая.

Прощупывая легитимность

Перед лицом опасности одни регионы оказались бессильны без указаний Кремля, а другие взяли власть в свои руки

— В России очень мало регионов, где хорошо развиты цифровые сервисы, — Москва, Санкт-Петербург, может быть, Татарстан. В Китае ситуация более равномерная?

Да, на мой взгляд, в России система слежки может еще работать в крупных мегаполисах с развитой инфраструктурой, однако ввести такую систему во всех регионах РФ не представляется возможным: просто нет ни цифровых, ни человеческих ресурсов, чтобы обеспечивать ее нормальную работу.

В Китае такого нет, что есть столица, а есть остальная часть страны. Там есть региональные центры, города первой линии, второй и так далее. Города первой линии — Пекин, Шанхай, Гуанчжоу, Шэньчжэнь — центры притяжения для своего региона, поэтому в стране нет зацикленности на одном каком-то городе.

Плюс ко всему власти Китая исходят из того, где есть потенциальный источник нестабильности, Синьцзян — это экономически отсталый район, где проживает уйгурское население, и они считают этот регион источником сепаратизма, экстремизма, терроризма, поэтому абсолютно не жалеют средств на внутреннюю безопасность в этом регионе, в том числе на установку всех этих технических средств. Именно в Синьцзяне развернуты лагеря перевоспитания для этнических меньшинств (уйгуров).

Офицер полиции сканирует прохощего с помощью «умных» очков. Фото: Reuters
Офицер полиции сканирует прохощего с помощью «умных» очков. Фото: Reuters

— По масштабам слежки Россия не скоро сравняется с Китаем, где число «умных» камер должно достигнуть 600 млн. Но по темпам роста инвестиций в эту сферу Москва, кажется, сопоставима с китайскими мегаполисами.

Да, Москва все больше начинает быть на них похожа. Например, на турникетах в московском метро появились камеры — в Пекине их тоже не так давно установили. Москва активно догоняет Китай по этому показателю. У нас есть свои алгоритмы распознавания, мы закупаем китайское «железо», именно сами камеры, а софт у нас исключительно российский — тоже, я думаю, по соображениям национальной безопасности. У нас есть свои компании — Vision Labs, NTech Lab, которые ничуть не хуже.

— Возможно ли в России введение системы социального рейтинга наподобие китайского? Многие опасаются, что именно это пытаются сделать власти под шумок эпидемии, внедряя новые приложения для контроля за режимом карантина. Даже в европейских странах и в США правительства получают новые полномочия по сбору данных граждан.

Все зависит от того, что понимать под системой социального кредита. Если считать вот эти цифровые методы слежки, то тогда да, это более чем возможно, и, как уже сказано выше, власти Москвы открыто заявляют о намерениях запустить такую систему.

Однако Китай под системой социального кредита подразумевает сложнейшую систему надзаконного социального управления, которая использует методы поощрений и наказаний для формирования определенных поведенческих паттернов у населения. Система опирается на высокотехнологическое оборудование, системы распознавания лиц, ИИ, большие данные, на олдскульную слежку соседей друг за другом, на данные из государственных и муниципальных учреждений и т. д. Так вот, такая всеобъемлющая система и в Китае по-прежнему не работает, как задумано. Она на данный момент очень фрагментарна.

В России многие ведомства не хотят делиться данными, потому что между ними существует конкуренция. А чтобы система хорошо работала, нужно, чтобы все данные сходились в какой-то один мозговой центр и там анализировались. Будет ли это осуществлено или нет — большой вопрос. У нас по-прежнему открытым остается вопрос, будет ли работать «закон Яровой» и закон о суверенном рунете. Полагаю, все зависит от того, какой ресурс будет на это затрачен. Пока что на тот же суверенный интернет выделяются большие суммы, и дело идет,

но в конце концов все может натолкнуться на технические барьеры, человеческий фактор, недостаток финансирования, банальную коррупцию, в конце концов.

Что касается блокировки телеграма, то эта идея была изначально тупиковой — заблокировать телеграм по IP-адресу. Ну и китайские системы блокировки тоже не фатальны, я, когда приезжаю, пользуюсь VPN и захожу на Facebook и YouTube. А так в китайском интернете непонятно, что делать иностранцу. Но система-то рассчитана на массовых пользователей, чтобы людям неудобно было этим пользоваться, чтобы в массе своей они не получали нежелательной информации извне.

Как у нас: не запрещен Facebook, но есть «ВКонтакте», и, хотя все знают, что он не сильно озабочен охраной личных данных, почти вся страна им пользуется. Тут же вопрос статистического масштаба.

Тема социального рейтинга важна не только с точки зрения Китая, а в принципе, как мирового явления. Международные компании, та же самая Airbnb, может отказать вам в услугах на основе данных из открытых источников, из соцсетей, интернета. Почему, на каком основании? Это тоже ведь надзаконная вещь.

Камеры наблюдения в Москве. Фото: Reuters
Камеры наблюдения в Москве. Фото: Reuters

По закону мы все имеем право пользоваться публичными сервисами, тем не менее кампании развиваются до такой степени, что начинают диктовать свои условия параллельно с законодательством.

Социальный кредит в Китае — это не проблема слежки, это проблема того, что появляется параллельно с законом еще одна надзаконная система, которая формирует паттерны поведения людей, которая занимается социальным управлением.

— Извне Китай выглядит как страна, которая уже сделала свой выбор в пользу высокотехнологичной антиутопии. Есть ли внутри Китая какое-то «цифровое сопротивление»?

Да, не только гражданские активисты, но и научное сообщество ставит под сомнение законность некоторых мер, которые принимаются Китаем. Перед Новым годом власти Пекина объявили о том, что будут использовать систему распознавания лиц, для того чтобы сортировать пассажиров в метро — кто проходит досмотр, а кто нет.

В пекинском метро есть рамки металлоискателей и рентгеновское оборудование, как в аэропорту, через которые проходит багаж. В часы пик на вход образуется большая очередь, потому что каждый проходит эту проверку. И это не всегда эффективно. Поэтому власти объявили, что будут использовать алгоритмы анализа внешнего вида людей, не только распознавание лиц, но и походки, жестов, и так далее — чтобы делать выводы, кто подозрителен, а кто — нет. И выборочно людей направлять на досмотр, а других пропускать без проверки.

Позиционировалось это как способ оптимизировать процесс и сократить очереди на вход. Но многие китайские ученые из крупнейших университетов написали публичные статьи, что это нарушение базовых прав человека. Почему людей, которые ничего не совершили, в чем-то подозревают, где презумпция невиновности, почему нужно людей сегрегировать? Притом что непонятно, как эти алгоритмы работают, они непрозрачные.

Идет дискуссия по поводу сохранности личных данных, потому что те же самые данные мобильных операторов, данные из систем распознавания лиц с фотографиями, с данными документов попадали в Сеть, люди становились жертвами мошенников. Это приводило порой к трагическим последствиям, бывали случаи суицидов среди студентов.

Но при нынешнем руководстве Китая делается акцент на безопасности, в абсолют возведена парадигма, что Китай подвергается опасности извне и внутри. Поэтому не жалеют никакие средства на меры безопасности, страна становится все больше полицейским государством. Прогресс в сторону соблюдения прав граждан если и будет, то крайне медленным.

«Люди любят Апокалипсис, тут уж ничего не поделаешь»

Автор антиутопий «Метро» и «Пост» Дмитрий Глуховский — о том, что впервые за долгое время по-настоящему волнует всех

shareprint
Добавьте в Конструктор подписки, приготовленные Редакцией, или свои любимые источники: сайты, телеграм- и youtube-каналы. Залогиньтесь, чтобы не терять свои подписки на разных устройствах
arrow