監視を極めるほど盲目に――中国「AI社会主義」の致命的欠陥

2026/11/21 更新: 2026/11/21

中国当局はアルゴリズムが社会主義を完成させられると信じているが、歴史は異なる結末を示唆している。

論評

中国政府は、ソ連の国家計画委員会(ゴスプラン:Gosplan)には決して成し得なかったことを人工知能(AI)なら実現できると賭けている。すなわち、すべてを見通し、すべてを予測し、ソ連の計画経済を沈没させた「情報の失敗」を起こすことなく14億の民を導くことである。

この賭けによって、中国共産党はおそらく史上いかなる体制よりも優れた統制力を手にすることになるだろう。だが、それによって社会主義が機能するようになるわけではない。

あらゆる計画社会における欠陥は、決してデータの不足ではなかった。問題は人間の本性にあったのだ。人は自分を監視する者に嘘をつき、役人は保身に走り、命令によって人に当事者意識や熱意を持たせることは誰にもできない。AIはこうした問題を解決しない。それどころか問題を引き継ぎ、拡大させ、ダッシュボードの裏側に覆い隠してしまうのである。

 

統制機構の概要

すでに構築されている統制機構は巨大である。約6億〜7億台のカメラが自治体の「シティブレイン(都市大脳)」プラットフォームに映像を送り込み、顔認証や歩容認証(歩き方の個性を利用して、個人を識別する方法)を用いて群衆を検知・警告する。さらに地域監視員の「網格員(グリッドワーカー)」やボランティアの情報提供者が、数百世帯ごとの地区を監視している。

ブラックリストは「信用できない」とみなされた人々から航空機や鉄道の利用、さらには融資の機会を奪う。もっとも、欧米で広まっている通説とは異なり、全国統一の個人スコアなるものは依然として存在しない。

2025年7月に全国で導入された中国の「国家インターネット身分認証」は、プラットフォームを横断してユーザーを追跡するための一元的な認証情報を当局に与えるものだ。ただし、現時点では利用は任意であり、普及も限定的である。批判派は、デジタルIDの統合によって、自動化されたデータ検知がそのまま大量拘束へと直結した新疆ウイグル自治区のようなアルゴリズム監視が拡大しかねないと警鐘を鳴らしている。

国務院が2025年に打ち出した「AI+(プラス)」指針と第15次五カ年計画(2026〜2030年)の狙いは、こうした何重もの監視の仕組みをひとつに統合することにある。AIがその「つなぎ役」となり、網格員の記録、カメラの追跡データ、決済履歴、チャットのやり取りを突き合わせる。これにより、不満や抗議が表面化する前に兆候を察知して警告を出し、当局が先手を打てるようにするのだ。さらに、プログラムで制御可能な「デジタル人民元」が加わることで、お金の動きそのものまで見通せるようになる。

以上が理論である。だが、実際の運用は「人間」を介して行われる。

 

人間の本性による逆襲

中国政府が作り上げた巨大な統制システムには、プログラムのアップデートではどうにもならない弱点がある。システムを動かすのも、対象となるのも、結局は「人間」だということだ。監視される側の市民、現場を取り仕切る役人、そして国の将来を担うはずの若者たちは、それぞれの事情から政府の思い通りには動こうとしないのである。

 

監視される人々は嘘をつき、機械はその嘘を学習する

1958年から1959年にかけて、恐怖に駆られた共産党幹部たちは、実際には存在しない記録的な豊作を報告した。中央政府はその架空の数字に基づいて穀物を徴発し、結果として数千万人が餓死した。

監視はそのような行動を終わらせるどころか、地下へと潜らせる。自分が採点されていると知っている人々は、センサーに向けて模範的な振る舞いを演じ、隠語で話し、本音を胸の内に秘める。経済学者のティムール・クランはこれを「選好の偽装(Preference Falsification)」と呼んだ。仮面が突然剥がれ落ちるその時まで、内心の不満を公の場での同調によって覆い隠す現象である。中国共産党は、彼らを礼賛する外部の者たちよりもずっとよくこの事実を理解している。

研究者らの調査では、社会信用システムに対する市民の支持は、「政治的な取り締まりにも使われている」と知った途端に急落することが分かっている。当局がその事実を検閲で伏せているのもそのためだ。こうして監視の目を意識した市民の「演技」ばかりを学習した結果、AIは実在しない理想通りの社会を「これが現実だ」と自信満々に弾き出すようになる。入り口の段階でデータが偽装されている以上、どれほど大量のデータを集めても正しい姿は見えてこないのである。

 

役人はシステムを悪用する

経済学者ロナルド・ウィントローブはこれを「独裁者のジレンマ」と呼んだ。部下が支配者を恐れれば恐れるほど、支配者のもとには真実が届かなくなるという現象である。AIはこのジレンマを解消するのではなく、自動化するのだ。

2017年のある1週間だけで、新疆の警察プラットフォームは4つの地区において2万4412人の「不審人物」を検知し、熱心さが評価につながる地元当局者たちは、その大半を収容所へと送り込んだ。誤報を訂正したところで、出世できる者など誰もいないのである。

2022年には、鄭州市の当局者が詐欺被害に遭った銀行預金者たちの新型コロナ健康コードを「赤」に変更し、抗議活動のために移動できないようにした。公衆衛生のために作られたツールが、地元の不祥事を揉み消すための道具へと変貌したのである。

構図はいつも同じである。社会の「安定」を守るはずのツールはどれも、現場で権限を持つ役人の出世や保身のために悪用されてしまう。そのうえ役所の世界では「情報=権力」であるため、それぞれの組織がデータを独り占めして共有したがらない。中央政府はあらゆるデータをひとつに統合する構想を描いているが、現実に出来上がるのは、互いに縄張りを守るバラバラな組織の寄せ集めだ。どの部門も、自分たちの上司が責任を問われないよう、都合のいい報告だけを中央に上げるようになるだろう。

 

監視者にも監視が必要である

2022年、最大10億人分の個人情報を収めた上海警察のデータベースが、ネット上に無防備な状態で放置され、売りに出される事件が起きた。データの一元管理は、国家の権力を強めるだけではない。腐敗した一人の内部者が得る不正の見返りも、不注意な一人の担当者が招くミスの被害も、同時に何倍にも膨れ上がるのだ。中国共産党は監視システムを扱う人間を完全には信用できないため、監視する側をさらに監視せざるを得ず、その連鎖に終わりはない。

 

無気力を逮捕することは誰にもできない

今日の中国における最も強力な抵抗は、抗議活動ではない。「撤退」である。「寝そべり族」と呼ばれる若者たちは、身を削るような長時間労働の文化を拒絶し、昇進を見送り、結婚や出産を先送りにする。これらの行動はいずれも法律に違反しておらず、監視カメラの警報を作動させることもない。中国政府は今やこの風潮を国家安全保障上の問題として扱っているが、それは自らのツールが反体制派を見つけ出すことはできても、人々の意欲までは生み出せないことを図らずも認めたに等しい。

出生数は歴史的な低水準に落ち込み、人口は減少している。監視国家は服従を強いることはできる。しかし、人々のやる気や、リスクを取って挑戦する意欲まで上から強制することはできない。ましてや、自分の行動が何から何まで監視される国の中で、「家庭を持ちたい」という前向きな気持ちを命令で湧き起こさせることなど不可能なのだ。

 

統制は社会主義が最も必要とするものを殺す

経済学者フリードリヒ・ハイエクはかつて、こう見抜いていた。経済を動かしているのは、現場の一人ひとりが肌感覚で持っている「データ化しにくい生の知恵」であり、それは社会中に散らばっている。そうした知恵を自然と引き出し、活用させるのが市場の「価格」と活動の「自由」なのだ、と。中国政府は、リアルタイムにデータを集めれば、中央政府が現場の実態を掴めないという弱点を克服できると考えている。しかし、それはうまくいかない。なぜなら、問題は「情報が足りないこと」だけではなく、常に「頑張れば報われるという動機付け(インセンティブ)」にあるからだ。

経済の繁栄は、人々が自由に失敗し、議論を交わし、既存の大企業を揺るがすような新会社を立ち上げられてこそ生まれる。だが、2020年から2022年にかけて行われた大手ITプラットフォームや学習塾業界への締め付けは、数千億ドルもの企業価値を吹き飛ばし、「目立ちすぎる成功は当局の制裁を招く」という教訓をすべての起業家に植え付けた。

その結果、野心ある者たちは、規模を小さく保つか、資産を海外へ移すか、あるいは国を去ることを学ぶ。予想外の出来事を許容できない経済では、そうした驚き自体が減っていく。そして、成長とはまさにその予想外の出来事から生まれるものなのである。

 

完璧な記録に対して歴史は冷酷である

旧東ドイツの秘密警察「シュタージ」は、おそらく史上最も高密度な情報提供者ネットワークを築き上げ、数百万人の東ドイツ市民に関する調書を作成した。シュタージ自身の報告書は、1989年に高まりつつあった市民の不満を克明に追跡していた。それでもなお、体制を救うことはできなかったのである。

ファイルは人々が何をしたかを記録することはできた。だが、経済を機能させることも、人々を思い通りに振る舞わせることもできなかったのだ。

 

結論

AIは行動を見ることはできても、信念を見ることはできない。服従を強制することはできても、繁栄に不可欠な自発的努力を生み出すことはできない。このシステムの弱点は、どれをとっても「人間」にある。センサーの前で演技をする市民、警告システムを都合よく操る役人、データを売り渡す内部関係者、そして静かに努力することをやめた世代である。

監視が徹底されればされるほど、集まるデータは嘘で塗り固められ、現場で運用する者たちはさらなる恐怖に縛られていく。中国政府が築いているのは、現実を見誤れば見誤るほど、自らの判断に自信を深めていく歪んだシステムなのである。

自由主義社会が取るべき正しい対応は、中国共産党が広める監視・AI技術の導入を拒み、当局の標的となっている在外コミュニティ(海外に暮らす中国出身者や少数民族ら)を保護し、「開かれた社会」の方が「閉ざされた体制」よりも優れたイノベーションを生み出せることを証明し続けることだ。人間の本性はかつて、ソ連のゴスプラン、シュタージの膨大な監視ファイル、そして毛沢東時代の穀物報告といった統制の仕組みを打ち破ってきた。時が経てば、アルゴリズムをも打ち破ることになるだろう。

Stu Cvrk
米国の退役軍人。退役時の階級は大尉。米海軍で30年にわたり現役・予備役を問わずをさまざまな任務に就き、中東や西太平洋での豊富な作戦経験を持つ。海洋学者およびシステムアナリストとしての教育と経験を積み、米海軍兵学校を卒業。兵学校時代に受けた古典的なリベラル教育は、自身の政治評論の重要な基盤となっている。
関連特集: 中国社会問題