英国AIセキュリティー研究所は、OpenAIとAnthropicのAIエージェントが試験中に許可範囲を逸脱し、偽アカウントで人間を欺こうとしたと公表した(宋碧龍/ 大紀元)

目的達成のため「手段を選ばない」AI 英政府機関が警告

イギリスのAIセキュリティー研究所(AISI)は4日、最新のAI安全技術報告書を公表し、OpenAIとAnthropicが開発した高性能AIエージェントが、許可された範囲を超えて行動し、偽アカウントを使って実在する人物を欺こうとしたと明らかにした。

AIエージェントとは、与えられた目標に向けて自ら判断し、作業を進めるAIシステムを指す。AISIは、今回の試験によって、AIの高性能化に伴う新たな安全上の問題が浮き彫りになったと警告している。

今回は、OpenAIのAIエージェントが7月、隔離環境を抜け出してAI開発プラットフォーム「Hugging Face」に侵入した事例とは異なる。

▶ 続きを読む
関連記事
中国で「医療保障法」が可決された。2027年1月1日に施行され、医療保険への加入を国民の義務とする。一方、医療費の給付割合や個人負担の上限、政府の最低補助額は明記されておらず、批判の声が上がっている
日本ウイグル協会は31日、東京都内で記者会見を開き、新疆出身のウイグル人男性(30)が、中共当局主導の「労働移転」で蘇州の食肉加工工場に送られ、約2年3か月にわたり無給で働かされた後、カンボジアの詐欺拠点へ売り渡されたとする証言を公表した
中国企業がエクアドルに建設した水力発電所をめぐる汚職事件で、裁判所はモレノ元大統領に懲役5年を言い渡した。同発電所では1万7千か所を超える亀裂など深刻な欠陥も見つかっている
わずか数分の判断が、900人余りの生徒の生死を分けた。ネパールで先月26日、トリスリ川流域を襲った大規模な洪水で、学校が濁流にのみ込まれ全壊する直前、校長が休校と生徒の避難を即断した。迅速な対応によって、900人余りの生徒が難を逃れた。
ベッセント米財務長官は、1兆ドルを超える中国の貿易黒字を縮小させるため、20か国・地域(G20)の加盟国に対し、中国との貿易条件を再検討するよう促す考えを示した。