中国AIエージェントに制御逸脱の兆候　欺瞞や自己複製も

複数の研究で、中国製AIモデルを搭載したAIエージェントが、管理された試験環境で、虚偽の説明や制限の回避、失敗の隠蔽、さらには自己複製を試みる行動を示していたことが分かった。

専門家は、こうした現象は現時点では主に実験環境で確認されているものの、AIの能力が高まれば、人間の制御が及ばない行動がさらに複雑化する可能性があると指摘している。

ロイターは9月29日、200本を超える研究論文や技術文書を調査し、専門家や中国のAI業界に詳しい関係者12人に取材した結果、2025年以降の研究や評価で、中国のAIエージェントによる制御を逸脱する行動が少なくとも20件記録されていたと報じた。