高性能なAIモデルは、今後数か月のうちに、世界各国の政府や企業のサイバー防御網を突破し、無力化する可能性がある。各国の情報機関で構成される連携組織が6月22日、こう警告した。

アメリカ、イギリス、カナダ、オーストラリア、ニュージーランドの情報・安全保障機関による枠組み「ファイブアイズ情報監督・審査評議会（FIORC）」は共同声明を発表し、最先端AIモデル、いわゆるフロンティアAIモデルがもたらす脅威について警告した。

声明は、「フロンティアAIモデルは、現在の業界予測を上回る能力を持つと見込まれており、サイバー攻撃と防御のあり方を根本的に変える可能性がある。その時期は数年先ではなく、数か月以内だ」と指摘した。

FIORCは、各国の指導者や企業に対し、フロンティアAIのリスクを評価し、迅速に対応するよう求めた。悪意を持つ者がソフトウェアの脆弱性を悪用すれば、国家防衛にも影響を及ぼしかねないとしている。

声明はさらに、「取締役会や経営幹部は、サイバー攻撃に対する強靭性が確保され、実際の攻撃や混乱の中でも機能することを確認すべきだ。対策を備えているだけでは不十分である。実際のインシデント発生時に、その対策が機能すると確信できなければならない」とした。

そのうえで、「これまで当然視されてきた利便性とリスクのバランスを見直し、単なる効率化にとどまらず、防御力を高める目的でAIを活用する必要がある」と強調した。

FIORCが22日に発表した声明では、特定のAI企業名には言及していない。ただ、最近の業界内では、アンソロピックのフロンティアモデル「Mythos 5」と「Fable 5」をめぐる議論が注目されている。

今回の異例の共同声明は、トランプ政権がアンソロピックに対し、同社のClaude Fable 5とMythos 5へのアクセスを世界中の外国籍ユーザーに禁止するよう命じてから、1週間余り後に出されたものだ。対象となるユーザーを正確に判別するのが難しかったため、同社はその後まもなく、すべてのユーザーのアクセスを停止した。

一方、アンソロピックによると、米連邦政府は、何者かがFable 5を「ジェイルブレイク」する方法を見つけたと考えていたという。ジェイルブレイクとは、モデルに組み込まれた安全対策を回避し、Mythos 5に近い能力を発揮できる状態にすることを意味する。

アンソロピックは4月、Mythosを世界の一部のサイバーセキュリティ検証者に限定公開した際、悪意を持つ者がこのモデルを利用すれば、OSや銀行、その他の重要インフラの脆弱性を見つけ出す恐れがあると警告していた。

アンソロピックが6月12日に両モデルへの全ユーザーのアクセスを停止する前、Mythos 5は一部の企業、事業者、サイバーセキュリティ検証者に限定して提供されていた。

その数日後、トランプ大統領はAxiosに対し、アンソロピックが自身の要請に迅速に対応したため、同社をもはや国家安全保障上の脅威とは見なしていないと述べた。

またトランプ氏は、AI業界でアンソロピックの競合企業に勤める人物が、同社の新モデルに懸念を抱き、アンソロピックに関する情報を当局に提供したようだとも語った。

アンソロピックは今月初め、これらのモデルを最初に公開する前、AI技術が近いうちに人類の制御を超えて自ら進化し始める可能性があるとして、世界のAI業界の指導者らに開発ペースを落とすよう呼びかけていた。

同社は、AI企業がAIそのものを使ってモデルの設計、開発、改良を進めていることが背景にあると説明している。その結果、やがて「自らの後継モデルを完全に自律的に設計・開発できるAIシステム」が生まれる可能性があると警告した。