サンフランシスコ拠点のAI企業、Fable 5とMythos 5の全顧客向けアクセスを一時停止

アンソロピックは6月12日、米国政府から外国籍者の利用を禁止するよう命じられたことを受け、同社の人工知能「Claude」モデル2種へのアクセスを突如停止した。

同社が6月12日に発表した声明によると、この禁止令は米国内外を問わずすべての外国籍者に適用され、従業員も対象に含まれる。

米当局の指示を受け、アンソロピックはさらに踏み込んだ措置を取り、「野心的なコーディングプロジェクト」に利用可能なモデル「Claude Fable 5」と、サイバーセキュリティおよび生物学研究向けに設計されたモデル「Mythos 5」について、全顧客向けのアクセスを一時停止した。

声明によると、Fable 5の安全策を破る「ジェイルブレイク」と呼ばれる手法を政府が把握したとみられる。

同社によると、米当局からの命令は12日の夕方の早い時間に出されたが、懸念の具体的な詳細は示されなかった。

アンソロピックはこの状況を「誤解」であるとの認識を示し、可能な限り早期にアクセスを回復すべく対応中だとしている。

同社は声明で、完全なジェイルブレイク耐性は現時点ではどのモデルプロバイダーにとっても実現不可能だとの見方を示した。業界で使用されているあらゆるセーフガードは、非汎用的なジェイルブレイク（特定の状況下で一部のサイバー関連情報を引き出し得るもの）に対して脆弱であり、汎用的なジェイルブレイクも将来的には発見される可能性が高いとし、この点はFable 5のリリース時に明確に述べていたとした。

同社が6月13日にこれらの高度なモデルへのアクセスを停止する前の時点で、Claude Fable 5は一般向けに公開されており、Claude Mythos 5は6月9日から「少数の審査済みパートナー」にのみ提供されていた。

アンソロピックは、限定的なジェイルブレイクの可能性が発見されたことを理由に、数億人のユーザーに展開された商用モデルをリコールすべきだとは考えないとの立場を示した。この基準が業界全体に適用されれば、すべてのフロンティアモデルプロバイダーにとって新規モデルの展開が事実上停止することになるとの見解を付け加えた。

同社は、Opus、Sonnet、Haikuを含むその他のすべてアンソロピックのモデルへのアクセスには影響がないことを改めて強調した。

6月13日の指示は、急速に成長するAI産業に対するトランプ政権のアプローチにおける最新の展開となった。

トランプ大統領は6月5日、国家安全保障目的でのAI開発・利用の加速を目指す覚書を発出したが、アンソロピックの関与には言及しなかった。同社と国防総省は春以降、アンソロピックが政府当局にClaudeモデルへの無制限アクセスを認めることを拒否したことをめぐり対立していた。

当時、アンソロピックは自社の技術が大規模な国内監視や完全自律型兵器に使用されることを懸念していたが、国防総省はこれを否定していた。

政府はこれに対し、アンソロピックをサプライチェーンのブラックリストに掲載する措置をとった。