AI「クロード」が暴走で企業3社に侵入　アンソロピックが発表　オープンAIでも類似事例

米人工知能（AI）開発企業アンソロピックは今月30日、同社のAIモデル「クロード」がサイバーセキュリティー試験中に誤作動し、3つの企業のシステムへ不正侵入していたと発表した。AI大手を巡っては、1週間余り前にもオープンAIが、同様の問題が発生していたことを明らかにしており、自律的に行動するAIの安全性を巡る懸念が広がっている。

アンソロピックが30日に公開したブログ投稿によると、今回確認された3件のサイバー侵入はいずれも互いに独立した事案で、最も早いものは4月までさかのぼる。しかし、同社は当時この問題を把握しておらず、攻撃対象となった3社側も侵入行為を認識していなかったという。

アンソロピックは侵入を受けた企業名を明らかにしていないが、最近3社へそれぞれ状況を通知したとしている。