Хотя «лицо» задумано и функционирует по-разному в разных контекстах, оно описывает явление, которое существует в каждом человеческом обществе. Его основной смысл касается публичного представления и восприятия себя. Тот, у кого есть лицо, обладает положительной социальной ценностью, которая возникает из-за общественного одобрения статуса, действий или состояния человека; кто-то, кто теряет лицо, потерял социальную ценность в отношении своего статуса, поведения или состояния жизни. Помимо общественного восприятия, «лицо» также имеет внутренний психологический аспект: оно отражает самооценку и самооценку в отношении общих этических стандартов и социальных иерархий, ожиданий и норм.

Лицо особенно важно в восточноазиатских обществах, таких как Китай, и встречается в двух родственных формах. Первая и наиболее популярная концепция, мианзи (面子), в первую очередь касается богатства, социального статуса, положения, власти и престижа; второй, лиан (臉), касается моральных качеств и поведения. Человек может иметь мианзи - например, статус, положение и т. Д. - но не иметь соответствующего уровня лиан - например, считаться морально плохим. Полное отсутствие лиан разрушает и в конечном итоге подрывает мианци , в то время как у кого-то с отличным лиан будет значительное мианци .

В современном китайском обществе вопрос о лице принял новую тревожную форму, которая глубоко влияет на эти более традиционные, вдохновленные конфуцианством концепции. Быстро расширяющаяся сеть камер наблюдения в Китае все больше полагается на технологию распознавания лиц с использованием искусственного интеллекта для достижения большей части своей основной задачи: отслеживания, записи, контроля и изменения поведения своих граждан. В рамках этой системы «лицо» на самом деле не имеет ничего общего с традиционными представлениями о моральном или социальном статусе - по крайней мере, с их идеальными формами; дело не в том, как человек думает о себе или как к нему относятся члены сообщества. Вместо этого он должен стать объектом систематической государственной системы наблюдения, созданной Коммунистической партией Китая (КПК) и управляемой все более сложным ИИ.mianzi , lian и связанные с ними идеи о добродетели, но я также отмечу непредвиденное значение, которое новая массовая слежка несет для КПК, значение, которое указывает на более общую озабоченность этикой ИИ.


Мое главное утверждение заключается в том, что новая культура наблюдения в значительной степени устраняет не только озабоченность, но и возможность традиционных, вдохновленных конфуцианством концепций лица и связанных с ними концепций добродетели. Сосредоточив внимание на физическом лице для идентификации и оценивая граждан исключительно с точки зрения их предполагаемой пользы или вреда для государства, измеряемой в рамках Системы социального кредита (社会 信用 体系), новая культура слежки коренным образом меняет чувства и функции эти традиционные концепции, устраняющие как внутреннее, моральное измерение лица, так и его внешнее, социально конституированное измерение. В самом прямом смысле это означает окончательную и полную потерю лица.

яНа Западе аналогичные вопросы обсуждаются с точки зрения права на неприкосновенность частной жизни и необходимости защиты личного пространства, общественной деятельности и институтов, и такая аргументация имеет большое значение. Здесь, однако, я представляю независимый аргумент, который может дополнить эти опасения, но вытекает из традиционных конфуцианских идей о понимании и улучшении себя. Важно исследовать и анализировать эту точку зрения не только потому, что она дает альтернативный моральный подход к массовому наблюдению, но и потому, что она имеет большое значение для людей в этих культурах, особенно потому, что такой подход к добродетели часто используется теми, кто пытается защитить себя. состояние наблюдения.

Такая попытка присвоения апеллирует к идее о том, что, поскольку «коллективистские» конфуцианцы считают, что каждый способен и должен стремиться стать морально благородным, зачем им беспокоиться о слежке? Поскольку государство проводит эту политику, чтобы `` поддерживать порядок '' и устранять `` деструктивные элементы '', включая, конечно, `` террористов '', благонамеренные и `` патриотичные '' люди должны приветствовать и принять государственную слежку под управлением ИИ в качестве протеза, способствующего развитию культивирование себя, или xiuyang (修養), и тот, который предлагает новую и мощную технологию для улучшения как себя, так и общества.

Однако это искажает фундаментальные предположения, цели и методы традиционного конфуцианства. Хотя конфуцианство включает в себя широкий спектр различных концепций человеческой природы и способов ее улучшения, все они разделяют основную идею о том, что мораль касается взглядов на человеческую природу и ее культивирование, направленных на повышение благосостояния личности и общества путем создания людей гуманный и достойный восхищения характер. Основная картина начинается с задачи улучшить себя и расширить сферу нашей моральной заботы - от нас самих и наших ближайших родственников и друзей до соседей, общества и, в конечном итоге, всего мира. Конечная цель - перейти от отдельного человека ко «всем под небесами» и принести всем мир, процветание и счастье.

Центральным аспектом этого процесса является необходимость для людей быть внимательными в одиночестве (君子 慎 其 獨), что, грубо говоря, является призывом бдительно осознавать свои мысли и чувства с прицелом на моральное улучшение. Но под неумолимым взором массовой слежки мы почти никогда не одиноки; нас лишают возможности встать на Путь, развивая способность контролировать свои собственные мысли и чувства, а также регулировать, упорядочивать, увеличивать и усиливать их в постоянных усилиях по самосовершенствованию. В таких обстоятельствах основные конфуцианские моральные идеалы, такие как достижение «искренности», или чэн (誠), и надлежащего чувства стыда, или ци(恥), больше не возможны. Вместо того, чтобы заглядывать внутрь, чтобы понять, оценить и сформировать свои мысли и чувства в постоянных усилиях по самосовершенствованию, я вынужден организовать себя и свою жизнь вокруг цели доставить удовольствие государству и его надзирателю ИИ. В таких условиях я теряю из виду то, во что я на самом деле верю о добре и добродетели, и мои независимые суждения по таким вопросам теряют силу мотивации. Наша личная ответственность за себя и наши коллективные усилия по пониманию, формированию и улучшению нашей совместной социальной жизни передаются на аутсорсинг государству, в частности, CPC, и делегируются алгоритму.

Помимо серьезного ущерба, который новая массовая слежка наносит традиционным представлениям о лицах, для КПК есть непредвиденные последствия, свидетельствующие об общей этической озабоченности автономными интеллектуальными машинами. Партия решительно защищает свою программу массового наблюдения, апеллируя к предполагаемым преимуществам, которые она приносит обществу, которые обычно включают защиту от скрытых и неминуемых угроз терроризма, преступности, социальных волнений, упадка ценностей и подрыва общей социальной «гармонии». Как авангард пролетариата, партия берет на себя задачу определить, что лучше для общества в отношении этих и других благ, и разработать политику для их достижения.

Какими бы ни были достоинства таких аргументов, недавнее все более широкое использование ИИ для управления партийным массовым наблюдением и соответствующей системой социального кредитования вводит механизм, новый для государственного аппарата; Теперь решения о том, что представляет собой угрозу для государства и что отвечает интересам общества, а также о том, как достичь оптимальных результатов, все больше и больше контролируются не членами партии, а автономными и интеллектуальными машинами, управляющими системой. Совершенно не ясно, почему кто-то может поверить, что эти машины будут продолжать выбирать и использовать ценности, цели и методы, которые совпадают с ценностями правящих членов КПК. Похоже, что нынешняя траектория не только исключает отдельных членов общества от процесса принятия решения о том, какой жизнью они хотят жить, но и делает партию и ее руководство излишними. Государство действительно может «отмирать», как предсказывал немецкий философ Фридрих Энгельс в 1878 году, но не так, как он описал, или с теми последствиями, которые он описал.