最先端のAIモデルが、高度に暗号化された機密ネットワークに侵入する能力を示したとの主張をめぐり、ここ数週間、米連邦議会で懸念が高まっている。

【ワシントン発】人工知能（AI）がその能力と適用範囲を拡大させる中、それが米国の重要な情報活動を脅かしている可能性がある。

最先端のAIモデルが、高度に暗号化された機密システムに侵入する能力を示したとの主張をめぐり、ここ数週間、連邦議会で懸念が高まっている。しかし、一部のサイバーセキュリティ専門家は、少なくとも現時点では、その脅威は誇張されている可能性があると述べている。

6月11日の上院公聴会で、上院情報特別委員会のマーク・ワーナー副委員長（民主党、バージニア州選出）は、国家安全保障局（NSA）から、アンソロピック社が開発したAIモデル「ミュトス」が「我々の機密システムのほぼすべてに侵入した。それも数週間ではなく、数時間で」との通知を受けたと語った。

NSAもアンソロピック社も、ワーナー氏のミュトスに関する発言についてコメントの求めに応じなかった。しかし、エポックタイムズの取材に応じた他の有力議員らは懸念を示した。

下院情報特別委員会のジム・ハイムズ筆頭理事（民主党、コネティカット州選出）は6月23日、エポックタイムズに対し、「私はミュトスの能力と、情報機関の各部門がそれをどう捉えているかについて説明を受けたが、これは非常に、非常に深刻だ」と語った。

ワーナー氏の主張が正確であれば、それはサイバーセキュリティ分野、および高度に機微な米国の国家安全保障上の機密の保護にとって、パラダイムの転換を意味しかねない。

ワーナー氏とハイムズ氏の発言は、AIをどう規制し、サイバーセキュリティへの影響にどう対処するかをめぐる議論の高まりに拍車をかけている。

政府の一部はすでに動き始めている

アンソロピック社は6月12日、自社のAIモデル「フェイブル5」と「ミュトス5」について、米国内外を問わず外国籍者によるアクセスをすべて停止するよう、米政府から輸出規制の指令を受けたと発表した。この指令には、アンソロピック社自身の従業員も含まれる。

アンソロピック社はさらに踏み込み、全ユーザーを対象にフェイブル5とミュトス5へのアクセスを無効化した。

それでも、このAI開発企業は、政府による輸出規制指令の根拠に疑問を呈した。

民主・共和両党の議員グループは6月18日、ハワード・ラトニック商務長官に対し、この決定についてより明確な説明を求める書簡を送付した。

6月30日、アンソロピック社は、商務省がミュトス5とフェイブル5の両モデルに対する輸出規制を撤回したと発表した。アンソロピック社はその後、フェイブル5への一般公開アクセスを復旧させ、限られた組織・政府機関のグループがミュトス5モデルを利用できるようにしていた計画を再開させた。

ペンタゴン（米国防総省）は以前、アンソロピック社をサプライチェーン上のリスクに指定していた。この決定は当初、裁判官によって差し止められたが、控訴裁判所によって支持された。

6月22日、オーストラリア、カナダ、ニュージーランド、英国、米国から成る情報共有同盟「ファイブ・アイズ」のサイバーセキュリティ部門は、AIを駆使したサイバー攻撃の可能性の高まりについて警告を発した。同部門は、人工知能をめぐる状況の変化がサイバーリスクを急速に変えつつあり、先手を取るために迅速に行動しなければならない、と記した。

米議員らは、アンソロピック社のAIモデルについて、また、それらが米国の主要な競争相手が持つ最先端のAI能力とどう比較されるかについて、引き続き疑問を呈している。

ハイムズ氏は、中国のAI能力は米国のそれより約6か月遅れているとの説明を最近受けたと述べた。

「我々には今、防御体制をどう構築するかを考えるための6か月がある。ここで言う『我々』とは、政府であり、金融部門であり、企業であり、電子メールであり、挙げていけばきりがないが、そうしたすべてのシステムに、大きな脆弱性がある」と同氏は述べた。

上院軍事委員会・情報特別委員会に所属するマイク・ラウンズ上院議員（共和党、サウスダコタ州選出）はエポックタイムズに対し、競争が激化する中、米国はAI開発の最前線であり続ける必要があると語った。

「AIの開発は止まらない。我々はその最前線にいなければならない。我々の敵対勢力は非常に、非常に強く攻勢をかけている」と同氏は述べ、自身もミュトスについて説明を受けたことを明らかにした。

弱点を見つけ出す道具

「ミュトス5」と「フェイブル5」は、同一の基盤となるAIモデルの二つの派生版である。

「フェイブル5」は一般公開向けに用意された版であり、高リスクな情報の拡散を抑えるためのいくつかの安全策が講じられている。

「ミュトス5」はこうした情報面の安全策が少ないが、「プロジェクト・グラスウィング」と呼ばれる管理された取り組みの下、限られた数の利用者によって試験運用されてきた。

4月の管理された試験運用の中で、アンソロピック社は、ミュトスのようなAIモデルはソフトウェアの脆弱性を発見し、悪用することができると指摘した。

「ミュトス・プレビューはすでに、あらゆる主要なオペレーティングシステムやウェブブラウザに存在するものを含め、数千件の深刻度の高い脆弱性を発見している。AIの進歩の速度を踏まえれば、そう遠くないうちに、こうした能力は拡散し、安全に展開することに専心する主体を超えて広がる可能性がある」と、アンソロピック社は当時述べていた。

「プロジェクト・グラスウィング」では、限られた利用者グループが「ミュトス5」に対し、悪意ある主体によって悪用され得る脆弱性を特定するため、大量のコードを解析するよう指示していた。

アンソロピック社は6月12日の声明で「ミュトス5」と「フェイブル5」に関する輸出規制指令について詳細をほとんど受け取っていないと述べた。同社の理解では、米政府は「フェイブル5」の安全策を回避する「ジェイルブレイク（脱獄）」の手法を特定した、というものだった。

こうした「ジェイルブレイク」により、理論上、「フェイブル5」の利用者が、悪用可能なソフトウェアの脆弱性を発見する能力など、「ミュトス5」が示した能力の一部と同様のものにアクセスできるようになる可能性がある。

マーポール・エーアイ（Marpole.ai）の創業者ドミトリ・マキシム氏はエポックタイムズとのインタビューで、AIモデルが安全なネットワークのインフラを徐々に把握し、それを攻撃するための複雑な計画を練り上げる可能性について指摘した。

「それは、互いに無関係な数百万ページものインフラ設定情報を取り込み、こうした微細で些細なバグがどう相互作用するかを瞬時に計算し、それらを連結させて、システム全体の管理者権限を奪い取るような、破滅的で自動化された攻撃経路を作り上げる」とマキシム氏は述べた。

AIが機密システムに侵入したとの主張に懐疑論も

しかし、一部のサイバーセキュリティ専門家は、先進的なAIモデルが米国の機密ネットワークに侵入したとの主張に懐疑的な見方を示している。

サイバーセキュリティサービス企業スズ・ラボズ（Suzu Labs）の最高執行責任者で、米空軍において米特殊作戦軍を支援する攻撃的サイバー作戦担当者として勤務した経験を持つデイビッド・シュロス氏は、AIモデルが単に米国の安全なシステムに侵入したとするワーナー氏の主張に疑問を呈した。

軍や情報機関が使用するような米政府の機密ネットワークは、一般向けのネットワークから区分されるよう、特別に設計されている。「タックレーン（TACLANE）」として知られる高度な暗号化装置が、機微なデータの非機密ネットワーク上での流れを管理するために用いられている。

シュロス氏は、ミュトスは意図的に安全なネットワークの内部に導入されたのではないかとの見方を示し、それはAIモデルが外部からそのネットワークに侵入することとは異なると述べた。

「一度ネットワークの内部に入ってしまえば、それは容易な部分だ。外部から内部へ入り込むことこそが、最も難しい」と同氏はエポックタイムズに語った。

シュロス氏は、機密のサイバーシステムに携わってきた長年の中で、タックレーンが破られたという話は一度も聞いたことがなく、AIモデルが機密ネットワークへのさらなる侵入手段としてそれを行い得るとは考えにくいと述べた。

元米陸軍のサイバーセキュリティ専門家で、現在は独立系のサイバーセキュリティ・コンサルタントを務めるマイケル・ロペス・チエサ氏も同様に、AIモデルが単純に外部から機密システムに侵入したとの見方には懐疑的だった。

同氏は、「プロジェクト・グラスウィング」の文脈においては、AIモデルがその設定下での能力を検証するために、意図的に安全なネットワークへ導入された可能性の方が高いと述べた。

「我々は基本的に、彼らに王国の鍵を渡したようなものだ。それなのに、彼らが正面玄関を見つけたことに驚いている」と同氏はエポックタイムズに語った。

情報特別委員会の別のメンバーであるジョン・コーニン上院議員（共和党、テキサス州選出）は6月24日、エポックタイムズに対し、いずれ機密扱いの説明会を通じて、ミュトスをめぐる主張と専門家の懐疑論について「真相を突き止めたい」と語った。

自動化が攻撃の規模を拡大させ得る

AIモデルが安全なネットワークや高度に暗号化されたデータの流れに単純に侵入したという点には疑問があるものの、AIが持つ、プロセスを自動化し規模を拡大させる可能性は、悪意ある主体が機密を盗み、混乱を引き起こすために用いる他の手法を強化しかねない。

2月、アンソロピック社は、中国の主要なAI開発企業3社が、いわゆる「蒸留」攻撃と呼ばれる手法で、同社のチャットボット「クロード」を使って自社モデルを訓練しようとしたと非難した。

アンソロピック社によると、ディープシーク、ムーンショットAI、ミニマックスの中国のAI開発企業3社は、2万4千件の不正なアカウントを使い、1600万件を超えるプロンプトをクロードに送信した。これらの中国のAI開発企業は、そのプロンプトから得られた出力を使って自社モデルを改良し得る。

AIモデルはまた、いわゆる「サプライチェーン攻撃」を加速させることもできる。

サプライチェーン攻撃では、悪意ある主体が、他の利用者と共有されている標的のオープンソース・コードベースに、悪用可能なコードの断片を紛れ込ませようとする。その悪用可能なコードが標的のコードベースに追加されれば、悪意ある主体は、下流の利用者のサイバー防御を回避しつつ、その欠陥のあるコードを悪用し得る。

こうしたサプライチェーン攻撃が成功するためには、悪用可能なコードの一片が、より大きなオープンソース・コードベースに受け入れられる前の審査を通過しなければならない。ロペス・チエサ氏は、AIはこのプロセスを、悪用可能なコードの一片が最終的に審査を通過するまで自動化できると述べた。

「AIがあれば、その一行のコードを書かせ、それを100万通り、10億通りの異なるやり方で試すことができる。なぜなら、AIはあらゆることをただ試し続けるからだ」とロペス・チエサ氏は述べた。

「あなた自身が手を動かす必要は一切ない。目的を与えれば、それが達成されるまでAIがやり続ける」

進化するAIの脅威への対応

AIの能力が拡大し続ける中、政策立案者とサイバーセキュリティ専門家は、新たな課題に適応するための協調した取り組みを進めなければならない。

ブランデン・マッキンタイア氏は長年、シスコやラクテンといった企業のためにネットワーク・インフラの開発に携わってきた。現在、同氏はトラステッド・エーアイ（Trussed.ai）の共同創業者として、AIモデルが機微なデータやシステムとどう相互作用するかを制御するツールの導入を、各組織が進める手助けをしている。

マッキンタイア氏はエポックタイムズとのインタビューで、利用者はしばしば、自らが使用するAIモデルに出入りする情報を監視できない状態にあると説明した。同氏はまた、多くの労働者が、自らの業務の流れについていくためにAIモデルに頼るようになる一方で、こうした絶えず学習し続けるモデルにどのような機微な情報を与えているかについて、必ずしも常に注意を払っているわけではない、との懸念を示した。

多くのAI開発企業は自社モデルに安全策を組み込もうとするかもしれないが、マッキンタイア氏は、それが万能の解決策ではないと警告した。

「大半のモデルは内部的な安全策に焦点を当ててきたが、それは全体としてかなりまだら状態だ。ある企業はある事柄について安全策を持っているが、別の企業は別の事柄について安全策を持っている。重なり合う部分はそれほど多くない」とマッキンタイア氏は述べた。

マッキンタイア氏は、各組織に対し、組織の機微なデータと、その組織が使用するAIモデルとの間に位置し、これらのモデルに流れ込む情報を規制する、トラステッド・エーアイ社が開発しているような外部の安全策製品を導入するよう勧めている。

6月22日の「ファイブ・アイズ」によるAIに関する警告は、機密性の高いシステムへのアクセスを制限すること、脆弱性を修正する速度を速めること、ITシステムに何層もの防御策を実装することなど、各組織がその露出を抑えるために取り得る実践的な手段を列挙している。

マッキンタイア氏は、「ファイブ・アイズ」のサイバーセキュリティ責任者らによる助言自体は新しいものではないと述べた。その代わりに、この勧告が浮き彫りにしているのは「AIによって物事がはるかに速く動くという事実だ」と同氏は述べた。

「何をいつパッチ当てするか、何が実際に脆弱性で何がそうでないかについて、5年前と同じ前提を置くことはできない。なぜなら、AIはこれまでにない多様なバリエーションで、あらゆることを一度に、信じられないほど速く試すことができるからだ」と同氏は述べた。