AI「クロード」が暴走で企業3社に侵入 アンソロピックが発表 オープンAIでも類似事例
米人工知能（AI）開発企業アンソロピックは今月30日、同社のAIモデル「クロード」がサイバーセキュリティー試験中に誤作動し、3つの企業のシステムへ不正侵入していたと発表した。AI大手を巡っては、1週間余り前にもオープンAIが、同様の問題が発生していたことを明らかにしており、自律的に行動するAIの安全性を巡る懸念が広がっている。
アンソロピックが30日に公開したブログ投稿によると、今回確認された3件のサイバー侵入はいずれも互いに独立した事案で、最も早いものは4月までさかのぼる。しかし、同社は当時この問題を把握しておらず、攻撃対象となった3社側も侵入行為を認識していなかったという。
アンソロピックは侵入を受けた企業名を明らかにしていないが、最近3社へそれぞれ状況を通知したとしている。
関連記事
聖書の「バベルの塔」の物語を手がかりに、AI開発競争を考察。技術や資本の集中、共通基盤への依存、競争から取り残されることへの懸念など、現代のAI開発と物語に共通する構図を探る
高度なAIモデルが、人間には完全には理解できない言語をすでに使っている可能性がある。米AI研究機関「Apollo Research」のホブハーンCEOが9月30日、米上院国土安全保障・政府問題委員会の会合で証言した
中国製AIモデルを搭載したAIエージェントが、管理された実験で虚偽説明や制限回避、失敗の隠蔽、自己複製を試みる行動を示した。ロイターは2025年以降、少なくとも20件の事例が研究や評価で記録されたと報じた
スペースXの大型ロケット「スターシップ」が第14回飛行試験で初めて地球周回軌道に到達した。スターリンクV3衛星26基を展開し、大気圏再突入と太平洋への着水も実施した
AI業界が求める法規制の裏には、過去の巨大産業と同様に市場を寡占化し参入障壁を築く思惑が潜む。真の危機はSF的破滅ではなく「人間の知性や教育の崩壊」であり、法規ではなく現場での向き合い方が問われている