Большой брат 2.0

Представьте себе мир, в котором за вашими ежедневными действиями постоянно наблюдают: что вы покупаете в магазинах и через Интернет, где вы находитесь в определенный момент, кто ваши друзья и с кем вы из них общаетесь, что вы просматриваете в Интернете, исправно оплачиваете счета и т. д. Это не так уже и трудно представить…

Большой брат 2.0

ИТ-корпорации, в частности Facebook или Google, гигант розничной торговли Amazon и многие другие тщательно отслеживают активность своих пользователей.

А теперь представьте, что всю эту информацию вносят в единую базу данных, обрабатывают с помощью специальных алгоритмов и ставят вам положительную или отрицательную оценку, от которой зависит ваша жизнь.

Звучит, как сюжет из какой-то мрачной фантастики.

А вот и нет! Это социальный эксперимент под названием «Система социального кредита», который уже сегодня активно внедряют в Китае, а с 2020 года он должен заработать по всей Поднебесной (кроме Гонконга и Макао). Что это? Цифровая диктатура, которой не мог представить себе даже Джордж Оруэлл? Возможно ли, неизбежная реальность жизни в информационном обществе? Разберемся с тем, что сейчас происходит в Китае.

14 июля 2014 года правительство КНР опубликовал документ под названием «Основные принципы построения системы социального кредита». Он достаточно большой и многословный. Его формулировки длинные и нечеткие. Но в нем есть одна радикальная идея. А что если ввести единый «индекс доверия» для всех 1,3 млрд. китайских граждан, а также юридических лиц, и рассчитывать его количественно? Такой индекс позволял бы не только вознаграждать тех, кто имеет высокое доверие, и использовать санкции против тех, кто ее потерял, но и контролировать поведение людей и компаний, чтобы побудить их действовать так, как этого хочет государство. «Мы хотим, чтобы те, кто имеет доверие, ходили везде под небом, а те, кто ее потерял, не смогли ступить ни одного шага», — сказано в документе.

В окончательном варианте «Система социального кредита» должно выглядеть так. Каждый гражданин получает одинаковую сумму баллов кредита доверия. Далее, в зависимости от его поведения, рейтинг растет или снижается. Разрозненная информация от работодателей, правоохранительных органов, коммерческих и муниципальных структур, публичных и собственных электронных устройств, камер слежения и т. д. поступает в единую базу данных, в которой ее разрабатывают специальные алгоритмы и переводят в единый показатель кредита доверия. Построение такой системы — это одна из приоритетных целей 13-го пятилетнего плана КПК на 2016−2020 года. В официальных документах Коммунистической партии о ней сказано как о «неотъемлемой составляющей будущего социалистической рыночной экономики».

Система социального кредита в Китае

Что же будет зависеть от этого показателя социального кредита?

Он будет влиять на возможность взять кредит, получить страховой полис и много других социальных благ. Работодатели не будут брать людей с низким рейтингом на работу, а также им будет запрещено работать в отдельных отраслях, таких как государственная служба, журналистика или право. Им не будут продавать авиабилетов и билетов на скоростные поезда, их дети не смогут учиться в престижных государственных школах. Такие граждане станут социальными изгоями, ведь от их рейтинга будет зависеть также рейтинг их родственников и друзей.

Партия даже предусмотрела различные методы публичного унижения «нарушителей доверия». Их фамилии будут выставлять на всеобщее обозрение, а когда же вы звонить кому-то из них, сигнал в телефоне будет прерывать сообщение, что вы звоните человеку, который, например, «злостный должник». Все это точно напоминает эпизод «Nosedive» из сериала «Черное зеркало», с той, однако, разницей, что граждан оценивает государство, а не они сами друг друга. Снизить рейтинг может не только какое-то серьезное правонарушение, но и, например, такие мелочи, как неявка в ресторан без предварительного отмены заказа, жульничество в онлайн-играх, фальшивый отзыв на продукт на форуме или переход улицы на запрещающий сигнал светофора.

Единой модели системы социального кредита сегодня еще не существует. Пока что китайская власть применяет подход «смотри и учись». В сочетании коммунистического надзора и капиталистической инициативы она позволила восьмерым частным компаниям протестировать различные элементы системы с различными алгоритмами и наборами данных.

Среди этих компаний основная роль принадлежит двум — социальном мессенджеру WeChat с более 850 млн. активных пользователей и приложению для онлайн-платежей и перевода средств Alipay, принадлежащий китайскому интернет-гиганту Alibaba.

В частности, в 26 городах Поднебесной вместе с мегаполисами Шеньчженем и Сианем правительство проводит эксперимент, заменяя государственные карточки социального обеспечения аккаунтами в WeChat, которые теперь используют для официальной идентификации граждан. На основе информации в WeChat в 2015 году Министерство общественной безопасности КНР начало масштабный проект по созданию базы данных лиц всех 1,3 млрд. граждан Китая и алгоритмов их распознавания с 90% точностью. Кроме того, закон обязывает WeChat и другие сервисы для обмена сообщениями хранить записи разговоров, которые власть может при необходимости проверить.

Впрочем, основным прототипом «системы социального кредита» являются не эксперименты с WeChat, a приложение для онлайн-платежей Alipay-китайский вариант PayPal, создавший собственную систему рейтингования клиентов под названием Sesame Credit. Принцип напоминает кредитный рейтинг FICO, который на Западе используют банки для оценки платежеспособности клиентов, но учитывает гораздо более широкий спектр показателей.

Смысл эксперимента заключается в максимальном расширении данных, которые собираются, чтобы они содержали не только финансовую историю, но и социальное поведение человека, и оценивали ее по шкале от 350 до 950 баллов. Даже такие, казалось бы, невинные характеристики, как покупательские предпочтения, Sesame Credit превращает в мерило человеческого характера.

«Кто-то, кто играет в видеоигры по десять часов в день, является лентяем. Зато человек, который часто покупает подгузники, скорее всего, имеет ребенка и наделен чувством ответственности», — объясняет технологический директор Sesame Ли Инюнь.

Индентификация личности

Sesame Credit

Система не только исследует поведение — она еще и детерминирует ее, «подталкивая» к тех действий, которые желательны для государства. В частности, она создала целую систему вознаграждений и привилегий для клиентов, которые подтвердили свое доверие. Добейтесь 600 очков — и сможете получить разовый кредит в размере 5 000 юаней на покупку в Alipay; 650 — и сможете взять напрокат автомобиль без залога. Если ваш рейтинг поднимается до 666 и выше, вы можете получить наличную ссуду в сумме до 50 000 юаней. Получите 700 — и можете путешествовать в Сингапур без сопроводительных документов. А если у вас 750, вы без очереди сможете получить шенгенскую визу для путешествия по Европе.

Sesame Credit вознаграждает еще и тем, что профили клиентов с высоким рейтингом размещаются выше в самом популярном в Китае сайте знакомств Baihe. За любые проступки Sesame Credit снимает баллы. Ее менеджеры, например, обращались в пекинские университеты, чтобы те предоставили им списки студентов, которые списывают на экзаменах.

Уже сегодня в Китае Sesame Credit является не только средством получить блага от Alibaba, но и самоцелью. Высокий рейтинг — это признак престижа, поэтому граждане конкурируют за то, у кого он выше. Появляются способы искусственного повышения рейтинга, например, умышленная покупка определенных товаров. Скорее всего, в будущем люди будут манипулировать своим рейтингом — так же, как, например, покупают лайки в Facebook или подписчиков в Twitter. Хакеры могут похищать защищенную цифровую информацию. Возможно, появится даже новый вид профессии — консультант по рейтингу Sesame, по аналогии с нынешними финансовыми консультантами.

В «Черном зеркале» все это уже есть.

«Социальный кредит» в историческом разрезе

«Система социального кредита» основывается на многих практиках, которые уже имеют длительную историю в Китае. Так, в частности, еще в III веке до нашей эры император Цинь Ши Хуанди, который впервые объединил Китай и вошел в историю благодаря своим жестоким методам правления, поделил всех своих подданных на группы по десять человек и заставлял их следить друг за другом, донося обо всем подозрительном.

Идею собирать всю информацию о человеке в единый архив, который по-китайски называется «данган», ввели уже коммунисты в годы правления Мао Цзэдуна. Еще одно традиционно китайское понятие, которое связано с этим экспериментом, — конфуцианская добродетель «гуаньси», которую можно описать как кредит доверия одного человека к другому. Если вы делаете кому-то услугу, вы инвестируете в свое «гуаньси»; если услугу делают вам — вы занимаете в долг «гуаньси» и обязаны вернуть долг.

Sesame Credit

«Система социального кредита», по сути, объединяет в одно целое и переводит на язык цифр и алгоритмов эти три традиционные китайские практики. Впрочем, ее все-таки нельзя считать сугубо китайским изобретением. Правительства и корпорации по всему миру уже давно используют инструменты слежения и рейтингования граждан.

А что же Западный мир?

В частности, в Соединенных Штатах Агентство национальной безопасности — совсем не единственный «цифровой глаз», который следит за гражданами. В 2015 году Администрация транспортной безопасности предложила идею распространить стандарты безопасности PreCheck также на записи в социальных сетях. Пока что от идеи отказались из-за значительной критики, но это не значит, что она мертва. Мы уже живем в мире прогностических алгоритмов, которые рассчитывают, что вам нравится и что вы, возможно, купите, вам можно доверять, вы грозите себе или другим.

«Старший брат» 2.0 пристально следит за каждым из нас через поисковые системы и социальные медиа, однако большинство из нас даже не знает, какие именно приватные данные «жертвует» корпорациям, создавая аккаунт в социальных сетях или давая согласие на участие в каком «невинном» квесте.

Facebook, например, собирает информацию о том, где вы живете (ваше теперешнее местонахождение), возраст, пол, образование, место и особенности работы, язык, тип устройства, который вы используете, уровень доходов, отношения и их особенности, жизненные события, политическое участие, потребительское поведение, тип вашего автомобиля, банк, в котором лежат ваши деньги, ваши теле — и музыкальные предпочтения и многое другое. Корпорация также анализирует то, что вы просматриваете, в частности на какие сайты вы заходите, когда залогирываны в Facebook, и т. д.

Все это используется для расчета вашего характера, дохода и интересов. Интересно, что все эти данные вы предоставляете добровольно, когда кликаете на кнопку «согласовывают» (Agree) под документом под названием «Условия использования» (Terms of Service). Этот большой и сложный для понимания текст читает, разумеется, мизерный процент из более чем 1,3 млрд пользователей Facebook. Для корпорации вы такая «информационная молекула», которую нужно изучать под микроскопом ради максимизации прибыли.

Некоторые левые критики (Кристиан Фукс в статье «Новые медиа, Web 2.0 и наблюдения») даже сравнивают Facebook с рабовладельческим обществом, в котором деятельность, которая приносит прибыль, никак не вознаграждается (Facebook на нас зарабатывает, но нам за это не платит), тогда как в капитализме она вознаграждается, но сумма вознаграждения не эквивалентна стоимости произведенного продукта (марксистское понятие «прибавочной стоимости»).

Кадр из фильма «1984»

Массовый сбор информации вместе с технологиями ее автоматического анализа позволили отдельным теоретикам сформулировать тезис, что мы входим в новую эру экономики, названную «капитализмом наблюдения» (surveillance capitalism).

Профессор Гарвардской бизнес-школы Шошанна Зубофф, например, утверждает, что онлайн-мир, который изначально был пространством анонимности и свободы, теперь становится миром, в котором интенсивно развивается капитализм, причем путем сбора данных, что порождает интенсивную концентрацию власти и угрожает базовым ценностям, таким как свобода и приватность.

Она выделяет такие характеристики этого нового типа экономики:

  • Движение в направлении все большего сбора и анализа данных;
  • Развитие новых форм договора на основе компьютерного мониторинга;
  • Стремление персонализировать товары и услуги, которые предлагают пользователям цифровых платформ;
  • Использование технологической инфраструктуры для проведения постоянных экспериментов над пользователями и потребителями.

В ХVIII веке британский философ Джереми Бентам предложил концепцию идеальной тюрьме, которую он назвал паноптикумом, состоящей из центральной башни с надзирателем и камер с заключенными, которые окружают ее по кругу. Паноптикум устроен так, что надзиратель может постоянно наблюдать за каждым из узников, но при этом оставаться для них невидимым. Бентам отмечал, что дизайн паноптикума можно использовать не только для тюрьмы, но и для больницы, школы, фабрики, концлагеря и любого здания, в которой осуществляется контроль над поведением.

В ХХ в. Мишель Фуко предложил взгляд на паноптикум как универсальный механизм «дисциплинарной» власти, которая:

  • устанавливает правила;
  • изучает, соответствует ли поведение индивидов этим правилам;
  • силой распределяет награды и наказания за выполнение или невыполнение правил.

По его мнению, паноптикум — это технический принцип власти, которая влияет на сознание и создает такие условия, при которых индивиды самостоятельно и добровольно выполняют правила, которые устанавливает власть. Паноптикум был изобретением эпохи Просвещения с ее стремлением к рационализации человеческой деятельности, и его можно поставить в один ряд вместе с технологическим прогрессом, развитием науки и капитализма.

Цифровой паноптикум

Систему социального кредита можно было бы рассматривать как цифровой паноптикум с прозрачными стенами и электронными устройствами, которые заменяют башню из надзирателям. Но вывод о том, что мир движется в сторону таких цифровых тюрем, не является таким однозначным. Система социального кредита уже дала ряд положительных результатов. Коррупция, кумовство, недобросовестный бизнес, загрязнения окружающей среды являются большими проблемами для сегодняшнего Китая. Даже на начальном этапе среди граждан, которые «потеряли доверие», были более 1100 коррумпированных чиновников. Недобросовестным фирмам теперь будет гораздо тяжелее не выполнять контрактов, загрязнять окружающую среду, подделывать товары и продукты питания.

Немало теоретиков утверждают, что сбор данных и создание на их основе репутационной системы является не зловещим «Старшим братом», а неизбежной реальностью жизни в информационном обществе. Когда люди жили в небольших сообществах, они прекрасно знали, кому можно доверять, а кому нет, кому одолжить деньги в долг, а кому не стоит. Во времена, когда экономика, а также много других сфер человеческой жизни переходят в Интернет, это становится невозможно, цифровые способы определения доверия и добропорядочности можно рассматривать как предпосылку ведения бизнеса и, в общем, жизнь в «глобальной деревне» Интернета.

Большой брат следит за тобой...

Информационная эпоха становится неизбежной. Чтобы прогресс цифровых технологий не превратился в «Старшего брата 2.0», нужно, чтобы выполнялись хотя бы такие условия.

Во-первых, все пользователи сети должны участвовать в выработке алгоритмов, по которым их оценивают. Это то же самое, что голосовать за демократическую власть. Нужно приложить максимум усилий, чтобы эти правила стали универсальными и не вобрали в себя расовых, гендерных, религиозных, социальных и прочих стереотипов.

Во-вторых, каждый должен четко осознавать, к каким данным предоставляет доступ. Использование непрозрачных и манипулятивных методов получения персональных данных без сознательного согласия неприемлемо.

В-третьих, нужны четкие механизмы защиты частной информации.

По мнению профессора философии и этики Оксфордского университета Лучиано Флориде, в истории человечества было несколько фундаментальных трансформаций, которые кардинально меняли то, как мы осознаем себя и взаимодействуем с внешним миром. Первой стала гелиоцентрическая модель Коперника, которая пошатнула нашу веру в то, что мы являемся центром Вселенной. Второй — теория естественного отбора Дарвина, после которой мы уже не считаем, что есть чем-то принципиально отдельным от естественной эволюции. Третьей — психосексуальная теория Фрейда, заставившая усомниться в том, что нашим поведением руководит исключительно ум и этические стимулы.

Сегодня, по мнению Флориде, происходит четвертая трансформация, в которой физический мир соединяется с виртуальным, а жизнь становится инфосферой — смесью физического и виртуального опыта. Нашу физическую личность теперь дополняет онлайн-двойник, который может отличаться от того, кем мы являемся в реальной жизни.

Кажется, мы находимся в самом начале осознания того, насколько грандиозны эти изменения и как они радикально изменят наши жизни.

1

Комментарии


Чтобы оставить комментарий, пожалуйста, авторизируйтесь!
  • А вообще страшно становится с таким развитием технологий. Это тоталитаризм с полным контролем