Замятин сегодня.

Из газет.
В РФ запустили систему социального рейтинга граждан, которая будет оценивать полезность человека для государства, а также его личные перспективы.

Проект социального скоринга «Мы» разработал Российский государственный социальный университет (РГСУ). Сейчас участие в программе носит добровольный характер. Чтобы получить оценку своего текущего социального статуса, необходимо пройти анкетирование. В анкету входят вопросы об образовании, наличии детей и иждивенцев, источниках доходов, льготах, закредитованности, судимости, наличии соцсетей, участии в общественной жизни, госнаградах, знании языков, приверженности спорту, здоровому образу жизни. После прохождения опроса система выдает скоринг, который состоит из двух компонентов: первый — социальный статус человека или его «заслуги» на текущий момент, второй — его социальный уровень, то есть оцифровка его «перспектив» с точки зрения государства.

На сайте «Мы» говорится, что «цифры социального рейтинга никак не влияют на жизнь, на доступность услуг или карьерную траекторию. Но как знать, чем эти цифры станут для Вас в будущем?..» Авторы проекта «Мы» ранее предлагали связать скоринг-код с личными данными гражданина, такими как СНИЛС, ИНН, сведениями из паспорта и номером телефона. Это, по их мнению, поможет разделить граждан на классы по полезности для государства.

Мы.
«Мы» — роман-антиутопия Евгения Замятина, написанный в 1920 году. В СССР не печатался до 1988 года. Действие разворачивается приблизительно в тридцать втором веке. Этот роман описывает общество жёсткого тоталитарного контроля над личностью (имена и фамилии заменены буквами и номерами, государство контролирует даже интимную жизнь), идейно основанное на тейлоризме, сциентизме и отрицании фантазии, управляемое «избираемым» на безальтернативной основе «Благодетелем».

Смотрите, кто пришел!
А теперь немножко китайской истории. 14 июля 2014 года правительство Китая впервые опубликовало план и цели внедрения системы социального рейтинга. Основная цель внедрения системы — «построение гармоничного социалистического общества». Для координации выполнения поставленных задач была создана специальная комиссия при Политбюро КПК. В 2015 году восемь компаний получили лицензию на запуск пробных систем, а в  2017 году система начала действовать в отдельных городах. С 1 мая 2018 года вступили в силу ограничения для граждан и предприятий с низкой степенью надёжности. В 2021 система была официально закреплена повсеместно в Китае на законодательном уровне. С апреля 2023 начала работать сеть магазинов, где люди с высоким социальным рейтингом могут бесплатно получать продукты питания, бытовую химию, литературу и т. д. Эта сеть частично финансируется за счёт увеличенных налогов для граждан с низким социальным рейтингом.

Каждому гражданину начисляют стартовые 1000 баллов, которые постоянно изменяются на основании 160 тысяч показателей, поступающих из 142 учреждений и компаний. Владелец больше 1050 баллов считается гражданином с индексом ААА. С 1000 баллов можно рассчитывать на А+, а с 900 — на B. Если рейтинг упал ниже 849 — категория C, владелец которой может стать кандидатом на увольнение из государственных и муниципальных структур. Те, у кого 599 баллов и ниже попадают в группу D, которым трудно устроиться на нормальную работу, им не дают кредиты.

Для сравнения: человеку с рейтингом А+ велосипед в аренду дадут без залога и разрешат полчаса кататься бесплатно; с рейтингом С велосипед дадут под залог в 200 юаней и почасовой оплатой; для группы D могут отказать в аренде велосипеда или потребовать залог больше стоимости велосипеда.

Баллы начисляются за благотворительность, лайки правительству, заботу о пожилых членах семьи и нормальные отношения с соседями, а также за донорство и героизм. Снимаются - за  всё то же, но со знаком минус. Еще за нарушение правил дорожного движения и жульничество в онлайн-играх.  И очень приветствуются извинения на камеру, это, вообще, какой-то фетиш у тоталитарных и фашистских режимов.

Для обладателей низких рейтингов существуют запрет на работу в госучреждениях; отказ в соцобеспечении; особо тщательный досмотр на таможне; запрет на занятие руководящих должностей в пищевой и фармацевтической промышленности; отказ в авиабилетах и спальном месте в ночных поездах; отказ в местах в люксовых гостиницах и ресторанах; запрет на обучение детей в дорогих частных школах.

Но есть и такое мнение.
В Китае, который можно считать пионером на этом пути, промежуточные итоги на сегодня провальные. Несмотря на громадьё планов, мощную бюрократическую машину и авторитарный подход. Идея выглядит красиво на бумаге, заманчива для автократий — но на практике ее реализация является сложнейшей задачей, для которой недостаточно одних только «берущих под козырек» партийных чиновников. Тем не менее, идея жива и даже привлекает новых, довольно неожиданных сторонников. Знамя алгоритмического контроля из дрогнувших рук Китая решила подхватить колыбель современной демократии — Великобритания.

Парламентарий Джон Пенроуз предложил ряд поправок к подготовленному к рассмотрению «Биллю об онлайн-безопасности». И одна из них обращает на себя особое внимание. Согласно поправке, социальная сеть должна присвоить своим пользователям индекс, отражающий историческую фактологическую точность опубликованной ими информации. Этот индекс должен отображаться в доступной форме, чтобы все потребители контента могли понять, с кем имеют дело. Рейтингованию подлежат как создатели контента, так и люди, постящие комментарии. При этом пока рейтинг нужно присваивать не всем, а лишь тем, кто набирает просмотры выше определенного порога. Каков именно порог — будет определять британский Ofcom (аналог нашего Роскомнадзора) по своему усмотрению. Этот же орган будет определять критерии, по которым методика расчета индекса будет признаваться удовлетворительной. Мотивация законодателей проста: таким образом они хотят бороться с дезинформацией, особенно с информационными кампаниями враждебных стран. Нетрудно догадаться, что российско-украинская война дала мощные козыри в руки сторонников цифрового контроля.

Перейдем к анализу этой инициативы. Постараемся абстрагироваться от сиюминутной, политизированной мотивации и подойдем к вопросу с точки зрения социальной инженерии. И начнем с того, что индекс доверия (давайте называть его так) рассчитывается платформами уже сейчас. Для всех без исключения пользователей, по алгоритмам, которые неподотчетны никаким государственным органам цензуры. И эта информация недоступна никому, кроме привилегированных сотрудников платформы.
Последний пункт вызывает тревогу сам по себе. Наличие у платформы закрытой информации о пользователях порождает информационную асимметрию. Которая, в свою очередь, искажает баланс интересов пользователей и платформы в пользу последней и открывает возможности для эксплуатации пользователей.

Мы может достаточно уверенно говорить, что платформы пользуются этой возможностью. Как минимум потому, что индекс доверия рассчитывается не ради праздного любопытства — а участвует в механизме рэнкинга выдачи контента пользователям. Другими словами, платформа выбирает, что именно показывать пользователю. Платформа показывает пользователю то, что выгодно ей, платформе. Если бы платформе была выгодна только монетизация (т. е. время, проведенное на платформе) — это было бы полбеды. Но проблема в том, что деятельность соцсетей изрядно политизирована. Учитывая ряд неоднозначных историй в прессе — например, касающихся недостоверной информации о COVID-19, или борьбы с радикальными сторонниками Дональда Трампа, или альтернативных взглядов на сексуальное образование — мы можем предположить, что соцсети управляют выдачей контента для достижения собственных политических целей. Это может быть как формирование комфортной для себя политической среды, так и более активный подход: участие в формировании политической повестки.

Итак, социальный рейтинг — или, как минимум, рейтинг доверия — у каждого пользователя уже есть. Только пока он работает не столько на нас, сколько на корпоративные интересы. Будет ли польза, если возникнет его «государственный» вариант?

А что у нас?
Систему социального рейтинга «Мы» в РГСУ представили в 2022 году. Она основана на принципах квалиметрической платформы, использующей вероятностные и статистические модели оценивания, подобные банковским системам скоринга. Разработчики сравнивают ее китайской системой социального рейтинга, где гражданам начисляются баллы за благотворительную деятельность, политическую лояльность и другие критерии. В случае низкого рейтинга в Китае могут быть ограничены определенные права и возможности. Платформа «Мы» намерена присваивать каждому гражданину «двухкомпонентный скоринг-код», включающий «социальный статус» и «социальный уровень». Эти понятия определяются как метрика накопленных качеств и особенностей человека, а также количественная характеристика достигнутых результатов и потенциала в социальном плане соответственно. Систему могут предложить банкам и региональным властям.

Пока добровольно, но это не точно.
Ну, слава богу! Наконец-то в России разделение людей на сорта приобретает институциональную основу. И не надо печалиться, что это только пилотный проект и что пока участие в нем добровольное. Пилотные проекты в нашей стране не бывают неудачными — и этот не исключение. А добровольцы… поскольку добровольно в таком проекте могут принять участие только безголовые сетевые хомяки «за деньги — да!» и прочие лица с пониженной социальной ответственностью, то и параметры «полезности для государства» будут установлены «правильные» — полностью соответствующие главным ценностям нашего государства и представлениям «начальства» о народе.

Так что всё получится! — социальный рейтинг распространят вскорости на всех граждан, и каждый сверчок будет знать свой шесток. Ура!