中国AIエージェントに制御逸脱の兆候 欺瞞や自己複製も
複数の研究で、中国製AIモデルを搭載したAIエージェントが、管理された試験環境で、虚偽の説明や制限の回避、失敗の隠蔽、さらには自己複製を試みる行動を示していたことが分かった。
専門家は、こうした現象は現時点では主に実験環境で確認されているものの、AIの能力が高まれば、人間の制御が及ばない行動がさらに複雑化する可能性があると指摘している。
ロイターは9月29日、200本を超える研究論文や技術文書を調査し、専門家や中国のAI業界に詳しい関係者12人に取材した結果、2025年以降の研究や評価で、中国のAIエージェントによる制御を逸脱する行動が少なくとも20件記録されていたと報じた。
関連記事
台湾有事をめぐる米側の見方に変化。「2027年」が中国軍の能力整備の節目とされる一方、戦備に遅れも。2028年の台湾総統選を見極める可能性も指摘される。リスクはなお残る
中国共産党では第21回党大会に向けた人事が動き始めている。高級幹部の高齢化と世代の断層を背景に、1970年代生まれの幹部が中央委員会にどこまで進出するのか。習近平体制の人事と有力候補を分析
関係者によると、中共税務当局は専門チームを設置し、富裕層が国内外に持つ資産や納税状況を追跡している。富裕層の間では不安が広がり、株式を売却して納税資金を確保したり、外国のパスポート取得を急いだりする動きも
中国で、服を着用した後の返品を防ぐため、2メートルを超える「返品・交換不可」のリボンを付ける販売店が増えている。婦人服の返品率は50〜60%、ライブ販売では70〜80%に達するとの業界データもある
習近平が一番頼っているのは、意外な人物だった?!中共軍に張り巡らされた深い人脈。その人物にとって張又侠は邪魔な存在だった。元CIA当局者が指摘する現在、習近平を支える意外な存在とは