Чем могут быть опасны системы социального рейтинга

Гендиректор Instagram Адам Моссери в интервью The New York Times рассказал, что на решение запустить скрытые «лайки» в сервисе повлиял один из эпизодов сериала «Черное зеркало», в котором изображен мир, где статус человека, его богатство и авторитет зависят исключительно от популярности в соцсети. Глава Instagram подчеркнул, что компания скрыла «лайки», чтобы это не привело к печальным последствиям. При этом в реальном мире похожая система социального рейтинга уже используется в Китае. Насколько оправданны опасения Моссери?

В первой серии третьего сезона сериала «Черное зеркало» герои при помощи смартфонов в реальном времени ставят друг другу оценки от 1 до 5 за любую совершенную коммуникацию: это приводит к тому, что люди становятся неискренними и ведут себя неестественно — едят только медленно и красиво, всегда улыбаются, глупо посмеиваются и не показывают негативных эмоций. Любая внештатная ситуация в таком мире приводит к тому, что рейтинг человека падает, и он опускается на социальное дно, где нельзя даже приобрести билет на рейсовый автобус.

Что-то похожее уже существует в реальном мире, только оценки выставляют не пользователи, а государство: такой эксперимент уже несколько лет проводят в Китае. Существующая там система социального скоринга учитывает, например, как человек оплачивает налоги и кредиты, соблюдает правила дорожного движения и ведет себя в соцсетях. На основе этих и многих других параметров он получает определенный рейтинг: за низкий балл человек лишается возможности купить билет на поезд или самолет и устроиться на руководящую должность, а за высокий — получает доступ к люксовым номерам в отелях и даже может претендовать на более выгодную ставку по кредиту.

Минус такой системы в том, что она не учитывает множество сложных факторов: как люди меняются, как ведут себя в конкретных ситуациях. Например, человек может с опозданием оплачивать ЖКХ, но при этом оставаться отличным специалистом, мастером спорта и меценатом. Блогер и автор книги «Дзен в большом городе» Елена Володина рассуждает, что с распространением такой системы на весь мир появились бы новые опасности: «С введением оцифрованного социального капитала, или личного онлайн-рейтинга, как показывали в “Черном зеркале”, люди, возможно, будут меньше хамить, станет меньше обидных комментариев в интернете — то есть в этом могут быть и положительные стороны. В то же время может вырасти спрос на анонимность, и его стоит по-настоящему опасаться: с одной стороны, это возможность для человека быть самим собой, а с другой — проявить свои худшие черты, пока никто не видит».

Насколько вероятно, что другие страны возьмут пример с Китая?

У государств все больше возможностей собирать и анализировать данные о гражданах, поэтому технологически внедрение системы кредитно-социального рейтинга вполне возможно и в США, и в Европе — дело только за законодательством. Писатель-фантаст Леонид Каганов сомневается, что такое будущее когда-нибудь наступит, по крайней мере, в Европе: «Государство, которое заявляет, что все люди равны, в принципе не должно делить их на касты — даже Индия от этого уже отошла.

Мировой тренд — это отсутствие каст: британский принц берет в жены девушку без рода и даже не британку, и королевская семья, немного помявшись, соглашается и признает, что время изменилось.

В Китае такая система имеет смысл, потому что это во многом тоталитарное государство, которое находится под управлением очень сильной централизованной власти».

В России идею социального рейтинга уже критиковали на уровне правительства: бывший вице-премьер Максим Акимов заявлял, что такая система принесет разрушительные последствия. Впрочем, после недавней отставки кабмина ему не удалось сохранить свой портфель — теперь Акимов возглавляет «Почту России». Интересно, как проходили бы отставки и назначения, если бы социальный кредит появился и у чиновников.

Официальных данных о том, сколько китайцев лишились каких-либо социальных благ из-за низкого социального-кредитного рейтинга, нет. Однако в отчете Национального центра публичной кредитной информации Китая (National Public Credit Information Center), выпущенном в феврале прошлого года, говорится о 23 млн человек, которым отказали в покупке ж/д или авиабилетов из-за низкого балла в системе в 2018 году.

Глеб Силко