先週、AIの安全性を巡る議論が大きな注目を集めた。AI専門家らは、近年のAIの発展は驚異的な速さで進んでおり、適切に制御しなければ、人類が壊滅的な危機に直面する可能性があると警告している。

一方、トランプ政権は、アメリカがAI開発で中国（中共）を上回らなければ、深刻な結果を招くとの立場を示している。

AIが制御不能になれば人類を滅ぼすのか

9月8日、Anthropicの研究員ジェイコブ・コクソン氏はSNSへの投稿で退職を発表し、AIが制御不能になれば壊滅的な結果を招く可能性があると警告した。

この退職声明はその後、1億5千万回以上閲覧され、これをきっかけに世界のテック業界でAIの安全性を巡る議論が一気に広がった。

9月12日、Anthropicのダリオ・アモデイCEO、OpenAIのサム・アルトマンCEO、SpaceXのイーロン・マスク氏、グーグルの親会社AlphabetでAI部門を率いるデミス・ハサビス氏らは、業界全体で足並みをそろえてAI開発のペースを落とす考えに、相次いで支持を表明した。

アモデイ氏は、AIの発展速度はすでに人間の制御能力を上回っていると警告。開発ペースを落とさなければ、人類への脅威になり得ると指摘した。

また、アメリカに対し、中共への半導体輸出規制を強化するとともに、中共のAI研究機関によるAIモデルの蒸留を取り締まるよう求めた。

OpenAIの元研究員ダニエル・ココタジ氏も9月12日、Fox Newsのインタビューで、AI業界による自主的な対応だけでは、最先端のAIシステムが人間の制御を離れるのを防ぐには不十分だとの見方を示した。

ココタジロ氏は、AIが世界規模で大きな「ハードパワー」を持ち、工場を制御し、軍事システムに組み込まれ、システム全体の運用にも関わるようになれば、人間の役割は指示を出すだけになると指摘した。

そのうえで、AIが人間の指示に従わなくなれば、最終的には人類を殺す可能性があると警告した。

9月13日、アモデイ氏はさらに、米中のAI競争はかつての米ソ冷戦に匹敵すると指摘。AI開発の速度を抑えるため、アメリカは中共と軍縮交渉にならった協議を行う必要があり、そうしなければAIが制御不能となり、「壊滅的」な脅威を招く恐れがあると警告した。

CBSの記者から、中共との競争が続くなかでAI開発の速度を落とすことが可能なのかと問われると、アモデイ氏は、これはアメリカにとって大きな難題だと認めた。

一方で、冷戦時代にアメリカが旧ソ連と協議したように、中共ともAI開発の速度を双方で制限する方法について話し合うことは可能だとの考えを示した。

アモデイ氏は、AIモデルがすでにサイバー攻撃などの能力を備えており、地政学や国家安全保障の面でも重要な意味を持つと指摘した。地政学的な観点では、冷戦期の軍備制限や軍縮交渉を参考にできるとの見方を示した。

また、ここ数か月でAIの発展が明らかに加速した主な理由として、AIが次世代AIを自ら開発できるようになりつつあることを挙げた。

制限を設けなければ、AIの発展速度が人間の理解や制御能力を超える可能性があるとして、慎重に開発を進める必要があると訴えた。

アモデイ氏は、3つの対応策を示した。

第一に、最先端AIを開発する各社が、外部の評価担当者に社員と同程度のアクセス権限を与えることだ。Anthropicはすでに、この取り組みを始める方針を表明している。

第二に、最先端AIを開発する研究機関の間で、統一した安全基準を設ける。

第三に、AI開発の速度を抑え、そのための国際的な協調体制を構築することだ。

アルトマン氏も14日に声明を発表し、米連邦レベルで統一したAI安全規制の枠組みを設けることを支持した。

同時に、競争圧力がどれほど強くても、無謀な行動を取るべきではないと指摘した。

アルトマン氏は改めて、AIの発展によって2つの深刻な結果が起こり得ると警告した。

一つは、人類が未来をコントロールできなくなり、AIに主導権を握られること。もう一つは、過度な権力が一人の人物、あるいは一社の企業に集中することだ。

マイクロソフトのサティア・ナデラ会長兼CEOも13日に、SNSへの投稿で、AIが人類の役に立たず、しかも人間が制御できないのであれば、開発を続ける必要はないと警告した。

ナデラ氏は、「意識的にAI開発の速度をコントロールする」ことを支持し、AIガバナンスを巡る議論には一部の企業だけでなく、AI産業全体の代表が参加すべきだとの考えを示した。

中共官製メディア「環球時報」は、アモデイ氏が表向きにはAIの安全リスクを論じ、開発速度を落とすよう求めているものの、実際の狙いは技術的な障壁や規制面での独占によって中国のAI開発を制限し、アメリカの優位を維持することにあると主張した。

また、中共を世界的なAIガバナンスの枠組みから排除し、中共に対して「静かなAI冷戦」を進めていると批判した。

トランプ氏「中国のAI技術が米国を上回れば深刻な結果」

一方、トランプ政権や一部のテック専門家、企業家は異なる見方を示し、別の解決策を提示している。

トランプ大統領は13日、専門家らが指摘する懸念は現実にはならないとの見方を示した。一定の「ガードレール」を設けることは可能だが、AI開発そのものを制限する必要はないと主張した。

開発を制限すれば中国に追い抜かれ、深刻な結果を招くとしている。

トランプ氏は、一部の「非常にネガティブな勢力」がAIのリスクを誇張していると批判した。

また、アメリカは現在、AI分野で中国をリードし、世界で最も先進的な技術を持つ国だとしたうえで、その地位を維持したいと述べた。

その理由について、「AI競争に勝つ者が、すべてを手にする」と語った。

ホワイトハウスのAI顧問デービッド・サックス氏は、アモデイ氏らの警告について、AIへの恐怖を社会に広げることで、一部の非政府組織が自ら望むAIガバナンスのあり方を推進しようとしているとの見方を示した。そのあり方とは、政府がAIを管理することだという。

サックス氏はまた、大手AI企業OpenAIとAnthropic2社が協調することで合意すれば、政府が介入する必要はないとも述べた。

サックス氏やシリコンバレーの一部関係者は、コクソン氏が、共和党がテック業界に敵対的だとみなす一部の非営利団体と協力関係にあると指摘している。

これらの団体は、AIが人類の存続に及ぼすリスクを問題視し、政府による規制を支持している。

一方、コクソン氏は、自身の行動はあくまで個人的な判断だとしている。

AI企業の経営者らは、政府が関与すれば、企業同士の協調が反トラスト法に抵触する懸念を避けられるとの見方を示している。

アモデイ氏も、AI企業の共同対応について、米政府が「調整するか、少なくとも実現を後押しする」べきだと述べ、反トラスト法上の問題を回避する必要性を指摘した。

マイク・ジョンソン米下院議長は、議会が新たなAI規制を制定する際には慎重に進めるべきだとし、必要な「ガードレール」はテック企業と協力して策定すべきだとの考えを示した。

ジョンソン氏はCNNの番組で、AI開発の減速を求めているのは、現在AI開発を進めている当事者たちだと指摘した。

「彼らが開発速度を落としたいのであれば、そうすればよい」とし、議会がただちに介入し、AI開発を緊急停止させるべきではないとの考えを示した。

一方、下院民主党トップのジェフリーズ院内総務はABCのインタビューで、AIのリスクを減らすため、議会は直ちに行動すべきだと訴えた。