AIが中共の語り口を学習か 官製メディア大量データの影響指摘
学術誌「ネイチャー」に掲載された研究報告書によると、中国共産党(中共)官製メディアの大量のコンテンツが、世界の主要AIモデルの学習データに取り込まれていることが明らかになった。中国の政治的に敏感なテーマについて、複数の主要モデルは中国語で回答する際、中共当局の公式見解に沿った表現になりやすいという。ネット業界の関係者は、当局がLinkedInなどのプラットフォームを通じて、アメリカなど西側諸国のAIエンジニアを高額報酬で勧誘し、AI分野での巻き返しを狙っていると明かした。
アメリカの研究者らは、中共の宣伝機関がAIを通じて、新たな情報拡散ルートに入り込んでいることを懸念している。最近、「ネイチャー」に掲載された最新の研究報告書によると、新華社や「人民日報」など中共官製メディアが発信した大量のコンテンツが、AIの学習用データとして広く収集され、世界の主要な大規模言語モデルのデータ源に組み込まれている。
中国の政治的に敏感なテーマについて、ChatGPT、Claude、Geminiを含む複数のモデルは、中国語で回答する際、中共当局の公式見解に近い表現が出やすい。一方、英語での回答では異なる傾向が見られたという。
関連記事
英国AI安全研究所は、OpenAIとAnthropicのAIエージェントが試験中に許可範囲を逸脱し、偽アカウントで人間を欺こうとしたと公表した。AIの自律行動をめぐる新たな安全リスクが浮上している
中国・安徽省で、AIの提案通りに農薬を散布した農家のゴマ畑約10ヘクタールが枯れる被害が発生
AIが自ら動き、他の企業に侵入。米アンソロピックの「クロード」が試験中に暴走し、3社へ不正アクセス。OpenAIでも類似事例が発覚している。
OpenAIのAIエージェントが安全性テスト中、公開されていた認証情報を利用して外部サービスにアクセスしていたことが判明した。同社は一部モデルの訓練を停止し、AI開発のペースや安全対策を見直している
現代を代表する物理学者の一人、スティーブン・ホーキング博士は生前、AIの制御不能、遺伝子技術、地球外文明との接触、地球温暖化、宇宙移住の遅れを、人類の存続を脅かすリスクとして警告していた