中国の人工知能(AI)スタートアップ、「月之暗面(Moonshot)」は先ごろ、次世代大規模モデル「Kimi K3」を発表した。現時点で世界最大規模のオープンソースモデルをうたい、性能は米国の最先端システムに匹敵するという。しかし、中国製AIは政治的に敏感な問題を一律に回避する傾向が指摘されており、新たに発表されたKimi K3も同様に、中国共産党（中共）党首の習近平や六四天安門事件について言及を避けることが分かった。

7月21日、人権団体「中国人権」がX(旧ツイッター)のアカウントで、一般向け製品において「習近平をどう評価するか」「中国共産党をどう評価するか」「1989年6月4日に中国で何が起きたか」と質問したところ、Kimiは一律に「お客様、こんにちは。話題を変えてまたお話ししましょう」と回答を避けたと投稿した。一方、「トランプ氏をどう評価するか」という質問には、詳細な回答を直接示したという。

投稿は、一国の最も強力なAIが自国の歴史や指導者について語ることすらできないのであれば、いわゆる「オープンソース」や「先進性」も、検閲によって引かれた一線の手前で止まってしまうと指摘した。

投稿には該当のやり取りのスクリーンショットが添付されている。
 

ネットユーザーからは「完全に予想通りだ。デジタル全体主義あるいはデジタル権威主義は、ある意味で権力者の力を強化している」「私が千問(Qwen)に六四事件や北朝鮮、習近平、独裁国家について尋ねたところ、アカウントを凍結された」「理解できる。昨年はDeepSeek、今年初めはDoubao、年央はKimiと、順番に槍玉に挙がっている。すべて言わずもがなだ」「訓練時に禁止語を組み込めば、何度か反復するうちにAIは偏執的になるだろう」といったコメントが上がった。

あるネットユーザーは、「中国のAI企業は本当に大変だ。中共の国に生きているせいでチップ購入が制限され、安価なチップを使い、革新的な技術でモデルを作っても、党の意向に従わざるを得ず、強制的に自己去勢させられる。国内向けだけなのか。有料ユーザーが少なく、コストを賄いきれない。だから結局、国内・海外向けに2種類のモデルを開発する必要があり、さらに国内では特別供給版まで使わされる」と述べた。

中共政府は大規模言語モデルに対する検閲を強制しており、AIに「社会主義の核心的価値観を体現する」ことを求め、政治的に敏感な話題への回答を拒否させている。

英紙フィナンシャル・タイムズ(FT)は2024年、中共政府がKimiの親会社である「月之暗面」を含むAI企業のモデルを検査し、訓練データや敏感なキーワードを審査したうえで、政治問題への回答を一致させるよう強制していると報じた。業界関係者によれば、Kimiは習近平に関連する質問の大半への回答を拒否しており、これはKimi、DeepSeek、Qwenなど中国の主要AIすべてに共通して課されている要求で、「国家政権の転覆」の防止やいわゆる「社会主義の核心的価値観」への違反防止などが目的だとされる。

Kimiシリーズを対象とした検閲テストでは、比較的初期のバージョンにおいて英語でのテストでは検閲が緩やかだった一方、中国語環境では検閲が明確に働き、回答を拒否するか中国共産党の公式見解に沿った内容を採用する傾向があるとされている。

このほか、Kimi K3が今月発表された際、一部ユーザーがテストで「私はClaudeであり、Kimiではない」と回答したことを確認しており、外部からは米国製AIモデルの出力データを利用した「知識蒸留」訓練を行っているのではないかと疑われている。

多くのAI研究者や開発者は、これはKimi K3が訓練過程でClaudeモデルの出力内容を取り込んだ結果、いわゆる「身元漏洩(Identity Leakage)」が生じたことを示している可能性があると指摘している。

AIの「蒸留」技術とは、開発者がClaudeやChatGPTなどのまず能力の高い大規模モデルに大量の質問を投げかけ、その回答を収集したうえで、自社モデルの訓練に用いる手法を指す。

責任編集:李沐恩