За что его жители получают «бонусы», а за что наказания
Леонид Ковачич
Пилотные проекты социального рейтинга тестируются в городах Китайской Народной Республики уже около пяти лет, а сама идея возникла еще в конце нулевых. За это время за рубежом проект оброс множеством мифов и породил дискуссии о своей допустимости. При этом конкретики внешний наблюдатель получает немного: китайские власти не стремятся детально описывать проект, а местные СМИ нечасто говорят о вещах открыто. Что происходит с системой социального рейтинга сегодня, какие ошибки властям Китая предстоит исправить и что о проекте думает общественность, ПостНауке рассказал китаист Леонид Ковачич. Этот текст — часть гида «Китайский путь».
Что такое социальный рейтинг
Социальный рейтинг, или система социального доверия в Китае, — это автоматизированная система норм, правил и ограничений: законодательных, моральных, социокультурных, этических. Архитектура социального рейтинга опирается на китайское законодательство, нормативные акты, технологии и большие данные.
Исполнение предписанных правил китайские власти планируют поощрять, а нарушение — наказывать. С помощью такого инструмента Коммунистическая партия Китая стремится сформировать у граждан определенные паттерны поведения и самоцензуру. Это значит, что, в отличие от схожей западной системы скоринга, с помощью которого банки и другие финансовые организации оценивают кредитоспособность гражданина, китайская система распространяется на все сферы жизни общества.
Предпосылки и стратегическая цель
Китай — это регион с многочисленным, разнообразным по этносу и культурным особенностям населением, поэтому поиск универсального способа управления массами — задача, которая актуальна уже несколько тысяч лет. Сегодня уровень технологического развития страны позволяет использовать для этого результаты обработки большого количества данных и обеспечивать их обмен.
Активная разработка системы социального доверия началась после прихода к власти Си Цзиньпина, примерно с 2013 года, хотя обсуждался этот проект и раньше. Стратегическая цель системы, помимо решения объективных общественных проблем (например, нравственного или криминального характера), — усилить политический контроль над жителями Китая и повысить идеологическую устойчивость среди китайских руководителей. Но особенный спрос на разработку проекта возник на рубеже веков: тогда появились опасения, что по мере экономического развития КНР в китайском обществе может возникнуть запрос на политические свободы и демократизацию. Кроме того, Си Цзиньпина могло мотивировать личное стремление к укреплению власти.
Как система работает сейчас
Первая публичная информация о пилотных проектах [1] появилась в СМИ в 2014 году. Тогда система тестировалась в отдельных регионах, а к 2021 году эксперимент постепенно охватил около сотни китайских городов и уездов. При этом центральное правительство не выработало единые критерии формирования рейтинга и не определило, что считать однозначно позитивным поведением, а что негативным. Также в официальных документах не было установлено, в какой форме должен выражаться уровень социального рейтинга: в процентах, баллах или нечисловых показателях. Поэтому практическая реализация нововведений легла на плечи властей в каждом отдельном регионе в соответствии с финансовыми и демографическими возможностями. Это традиционный для Китая подход — реализовывать план, «исходя из местных условий».
По этой причине на некоторых территориях появлялись очень экзотические варианты: например, те, кто редко навещает родственников, могли получить статус неблагонадежных людей. При этом в доступных жителям страны источниках не было информации о том, какая частота считается одобряемой.
Но самым известным примером внедрения системы стал город Жунчен [2]: дело в том, что гражданам здесь были буквально присвоены некоторые стартовые баллы. За одобряемые поступки баллы прибавлялись, и гражданин получал бонусы и выгоды: например, мог арендовать велосипед без залога, записаться к врачу без очереди. А вот у тех, кто не исполнял, например, финансовые обязательства, возникали сложности: вводился запрет на поездки на скоростных поездах, путешествия на самолете, заселение в дорогие отели, игры в гольф и так далее. Смысл таких санкций был в том, чтобы ограничить роскошную жизнь злостных неплательщиков.
В целом можно выделить пару общих правил, которые вводились почти в каждом регионе. Например, если человек задерживает отправление поезда или курит в самолете, его социальный рейтинг падает. Образцовыми же гражданами могли считаться те, кто регулярно участвует в политических культурно-массовых мероприятиях или общественной работе. Эти принципы были выработаны не системно, а «случайно» возникли как наиболее характерные нарушения и одобряемые действия в стране.
Аналогичная система в Китае действует и для юридических лиц: каждая компания, которая работает в Китае, оценивается по тем или иным характеристикам и имеет свой статус. Например, российская компания «Аэрофлот» считается благонадежной, а вот американские авиакомпании расположением не пользуются: на своих сайтах они выделяли Тайвань и Гонконг в качестве отдельных стран, а потому носят статус неблагонадежных компаний. Так китайская власть пытается оказывать административное давление на бизнес.
Что мешает распространить социальный рейтинг по всей стране
Предполагалось, что к 2020 году опыт пилотных проектов масштабируется на всю страну, но этот план реализован не был. В ноябре 2020 года правительство Китая сформирулировало [3] шесть проблем, которые важно решить перед внедрением социального рейтинга на всей территории КНР.
Первая проблема — сильная разрозненность в исполнении директивы провинциями и отсутствие централизованной унификации нововведений. Перед властями стоит задача определить, какие действия или бездействия жителя должны оцениваться системой.
Вторая проблема — отсутствие стандартов раскрытия приватной информации. Хотя традиционно считается, что китайское общество лояльно к использованию приватных данных, несколько инициатив уже получили резко отрицательную реакцию: например, в одном из городов мобильные операторы устанавливали вместо гудков предупреждение, что человек обладает низким социальным рейтингом, а в другом городе создали мобильное приложение, где указывалось местоположение «неблагонадежных» людей. В ответ на жалобы эти системы были отключены, а центральное правительство решило, что в этом направлении нужно выработать стандарты и ввести регулирующие ограничения.
Еще одна задача — разработка критериев, по которым действие или бездействие человека будет считаться серьезным правонарушением. В документах зафиксировано, что все серьезные наказания — лишение авиабилетов или запрет на поступление детей в престижные школы — применяются к серьезным проступкам с большим общественным значением. Но какие проступки серьезные, а какие не слишком, пока неизвестно.
Также существует противоречие между работой системы социального доверия и китайским законодательством — Конституцией, уголовным и гражданским кодексом. Например, сейчас за одно и то же правонарушение человек получает и юридические санкции, и наказание в системе социального рейтинга, при этом вопросы соразмерности и объективности в последнем случае еще не отрегулированы. Предполагается, что в будущем все меры должны соответствовать законам и нормативно-правовым актам: принципу соразмерности наказания и принципу его единственности.
Пятый вопрос — восстановление репутации лиц, однажды причисленных к неблагонадежным, в том числе по ошибке. Один из известных в Китае примеров был таким: в 2017 году система не зафиксировала оплату штрафа гражданина и включила его в список неблагонадежных. Тот случайно узнал о низком рейтинге, когда столкнулся с транспортными ограничениями. Позже ему пришлось бороться с различными инстанциями, чтобы доказать свою невиновность и добиться исключения из черных списков.
Наконец, последняя задача — установить стандарты информационной безопасности и уберечь личные данные от утечек, торговли ими и мошеннических схем. Сейчас власти страны активно применяют жесткие меры и штрафы в отношении компаний, для того чтобы те упорядочили оборот личных данных. Однако ограничения касаются только участников рынка: в Китае юридически закреплено, что любые данные могут быть предоставлены государственным структурам, если они важны для национальной и государственной безопасности.
Публично центральная власть Китая не огласила новые сроки, в течение которых система социального доверия должна распространиться по всей стране. Сделано это для того, чтобы избежать формализма в реализации программы и развивать этот механизм незаметно для граждан. Иными словами, китайские власти едва ли объявят о запуске проекта по всей стране в какой-то конкретный день, устроив по этому поводу торжественное мероприятие.
Что о проекте думают за пределами и внутри страны
Дискуссия о социальном рейтинге ведется в китайском обществе среди интеллигенции: ученые, профессура ведущих китайских вузов задаются вопросом, насколько он соответствует принципам прав человека даже с учетом китайских реалий.
Среди исследователей есть полярные точки зрения на этот вопрос. Некоторые считают, что механизм социального рейтинга стал серьезной «машиной», технологическим паноптикумом: за каждым жителем Китая будут непрерывно следить, его поведение будет полностью контролироваться. Но также есть мнение, что механизм все-таки направлен в основном на соблюдение китайского законодательства: ответственность за правонарушения, оплату штрафов и налогов.
Но в азиатских странах, в отличие от западных, на протяжении веков культивировалось преобладание коллективного интереса над индивидуальным. Поэтому можно сказать, что система социального рейтинга для Азии — явление идеологически не новое.
При этом важно понимать, что технические возможности, которые позволяют создать масштабную систему слежки, появились в прошедшем десятилетии во всем мире. Например, в Великобритании обсуждалась возможность использовать данные о здоровье людей (с фитнес-трекеров, по покупкам в аптеках), для того чтобы предоставлять льготы некоторым категориям жителей страны. Но на китайскую систему международное, а особенно западное общество реагирует однозначно негативно. Исследователи выделяют ее беспрецедентность и порицают тотальный контроль и ущемление прав и свобод.
В целом китайский опыт показывает, что проблему использования данных по праву можно считать проблемой десятилетия, а вопросы этики применения искусственного интеллекта и его взаимодействия с человеком — проблемой века. Мировому сообществу еще предстоит гармонизировать правила использования больших данных и искусственного интеллекта и понять, какие системы допустимы, а какие нет.
Литература
Social Credit System // wikipedia
Civilising China? A contentious social credit system moves boldly forward // CNA
China’s Social Credit System in 2021: From fragmentation towards integration // MERICS
Источник: Пост Наука https://postnauka.ru/faq/156636