Googleの元CEOであるエリック・シュミット氏は、自律型人工知能（AI）の到来が迫っており、それが人類の存続に深刻な脅威をもたらす可能性があると警告した。

AIのメリットと危険性の双方について長年警鐘を鳴らしてきたシュミット氏は、12月15日に放送したABCの番組「This Week」に出演した。「まもなくコンピューターが自律的に動き、自分で何をするか決定する時代が訪れる。システムが自己改善を始める段階は、非常に慎重に対処すべき重要な局面だ。その時は真剣にシステムを停止することを検討する必要がある」と述べた。

シュミット氏がこうした懸念を示したのは、テクノロジーリーダーの間で特異な例ではない。

過去2年間、ChatGPTのような消費者向けAI製品の発展は過去に例を見ないスピードで進み、言語モデルの精度が大幅に向上してきた。その他のAIモデルも、視覚芸術や写真、さらには現実とほとんど区別がつかないフルレングスの動画を作成できるほど高度化している。

こうした技術は、一部の人々に映画「ターミネーター」シリーズ（AIが地球を支配する未来を描くSF映画）を思い起こさせている。

一方で、ChatGPTや同様のプラットフォームがもたらす懸念にもかかわらず、現在利用可能な消費者向けAIは依然として、専門家の間で「馬鹿なAI」と分類されている。これらのAIは膨大なデータセットで訓練されているものの、意識や感覚、自律的な行動能力は持たない。

シュミット氏やその他の専門家は、こうしたシステムを特に心配していない。

むしろ、「汎用人工知能（AGI）」と呼ばれる、より高度なAIを懸念している。このAGIは、意識や独立した意思決定能力を備え、それに伴い人間の利益に反する独立した意図を生み出す危険性があるとしている。

シュミット氏は、現在そのようなシステムは存在していないとしながらも、私たちは研究や兵器などの分野で自律的に行動できるAIの時代に急速に近づいていると指摘した。

シュミット氏はAI技術の急速な進歩について「私はこの分野に50年間携わってきたが、これほどの規模のイノベーションは見たことがない」と語った。また、より高度なAIは人類に多くの恩恵をもたらす一方で、「兵器やサイバー攻撃のような悪影響をもたらす可能性もある」と述べた。

AI規制の課題

シュミット氏は、AIの課題が多岐にわたることを指摘している。

根本的な問題として、同氏は多くのテクノロジーリーダーが共有する考えを繰り返した。つまり、自律型AGIのようなシステムが避けられないであれば、潜在的な壊滅的影響を避けるために、企業の利益や各国政府が国際的に大規模な協力を行う必要があるという点だ。

しかし、これは口で言うほど簡単ではない。AIは、中国、ロシア、イランといったアメリカの競争相手に対し、他の方法では達成し得ない可能性のある優位性を与えることがある。

技術業界内でも現在、GoogleやMicrosoftをはじめとする大手企業間で熾烈な競争が続いており、この競争状況は、暴走するAIに対処するための適切なセキュリティ対策が不十分になるリスクを高めているとシュミット氏は指摘している。

「競争が激しすぎるため、どこかの企業が安全対策を省略し、結果的に重大な害を及ぼすようなものをリリースしてしまう懸念がある」

同氏は、そのような害が明らかになるのは、事後になってからだと付け加えた。

国際舞台では、敵対国がアメリカの世界的覇権に挑戦し、自国の影響力を拡大する手段として、この新しい技術を革命的なものと捉える可能性が高いため、課題はさらに深刻化すると考えられる。

「中国人は賢く、新しい形の知能が彼らの産業力、軍事力、監視システムに与える力を理解している」とシュミット氏は語った。

これは、アメリカの指導者たちにとって「一種のジレンマ」だ。人類の存続に関わる懸念と、アメリカが敵対国に後れを取ることで世界の安定に壊滅的な影響を及ぼしかねないリスクとの間で、バランスを取らざるを得ない状況にあるからだ。

最悪の場合、こうしたシステムはISISのようなテロ組織によって、生物兵器や核兵器を改良するために利用される可能性がある。

そのため、シュミット氏は、アメリカがこの分野での革新を継続し、最終的には中国やその他の敵対的国家や組織に対して技術的優位性を維持することが極めて重要だと強調した。

業界リーダーが規制を要求

シュミット氏は、AI分野における規制が未だ不十分だと指摘しているが、今後数年間で政府がこの技術に対する安全対策の強化に劇的に注力するだろうと予想している。

ABCのジョージ・ステファノプロス氏が、政府がAIの規制に十分取り組んでいるかを尋ねた際、シュミット氏は「まだだ。しかし、いずれそうなる。そうしなければならないからだ」と答えた。

2023年1月からのアメリカ第118議会では、この分野に関する公聴会や立法提案などの動きが見られたものの、AIに関する大規模な法案が成立することなく会期が終了する見込みだ。

次期大統領に選出されたトランプ氏も、AIがもたらす膨大なリスクについて警鐘を鳴らしている。トランプ氏はポッドキャスト番組「Impaulsive」に出演した際、「AIは非常に強力なものだ」と述べ、AIがもたらす大きなリスクについて警告した。また、競争力を維持する必要性に触れた。

「困難が伴うが、我々は最前線に立たなければならない。それは避けられないことであり、そうであるならば、中国に勝つ必要がある。中国は最大の脅威だ」

シュミット氏の技術に対する評価や課題認識は、業界全体の反応とも一致している。
2024年6月には、OpenAIやGoogleの社員が連名でAIの「深刻なリスク」について警告し、この分野に対する政府の監視強化を求める書簡を発表した。

また、イーロン・マスク氏も同様の警告を発しており、GoogleがDeepMindプログラムを通じて「デジタルの神」を作り出そうとしていると批判した。

さらに懸念が高まったのは8月、あるAIが停止を回避するために自律的な行動を取ったことが明らかになった時だった。この発見は、政府が対応に消極的である間に、人類がすでに自らの創造物の制御を失いつつあるのではないかという恐怖を呼び起こした。