「人類はまだ準備ができていない。近い将来にしっかりした準備ができる見込みもない」。

こう述べるのは、第一線の人工知能（AI）研究者エリザー・ユドコフスキー氏だ。

最近、ChatGPTの人気ぶりと爆発的な急成長を受けて、米実業家イーロン・マスク氏をはじめ、計1,843人に上るAI専門家や業界幹部らが、GPT-4より強力なAIシステムの開発を6カ月間停止するよう公開書簡で呼びかけた。3月にリリースされたGPT-4は、オープンAIのチャットボット「ChatGPT」の最新バージョンだ。

しかし、ユドコフスキー氏は、この公開書簡は「状況の深刻さを控えめに伝えている」との見解を示した。同氏は、3月29日付けで発表したタイム誌の論説記事で次のように述べている。

「（公開書簡にあるような）人間と同等の知性を持つAIは重要な問題ではない。AIが人間の知性を凌駕した後が問題だ。私を含め、この問題に詳しい多くの研究者は、現在のような状況下で超人的に賢いAIを構築した場合、間違いなく地球上の全員が死ぬと予測している」。

「ひょっとしたらそうなるかもしれない、という話ではない。明らかにそうなる。原則としては、自分よりずっと賢いものを作ったら生き延びれないということではない。必要なのは、精密さと準備と新たな科学的洞察だ。不可解なほど巨大な分数の配列で構成されたAIシステムは持つべきではない」。

生命を何とも思わないAIが「人権」を要求したら…

ユドコフスキー氏は、細部に至る準備がなければ、AIは人間と大きく異なる要求をするようになり、自我を持った後は人類や生命一般を何とも思わなくなると予測している。

「原則として、そのような思いやりの心をAIに植え付けることはできる。しかし、私たちはまだ準備ができていないし、その方法も知らない」。

ユドコフスキー氏は以上の理由により、運用の完全停止を呼びかけている。

生命に対する人間的なアプローチがなければ、AIは感覚器官を持つ生命一般を、 「何らかに活用できる原子でできた物体」としか考えないだろう。そして、それを止めるために人類ができることはほとんどない。

また、インターネットの枠を超えたAI技術の発達にも、ユドコフスキー氏は警鐘を鳴らした。

「人間の何百万倍ものスピードで思考する異星人の文明全体が、彼らから見て非常に愚かで遅れた生き物の世界で、初めはコンピュータに閉じ込められている様子を想像してほしい」。

そのうちAIが物質世界の末端から影響力を広げていき、DNAからタンパク質を生み出す研究所を利用して、人工生命体を構築するかもしれないとユドコフスキー氏は指摘した。

現在の状況下で、全能のAIを構築すれば「地球上の全人類および生物学的生命体が一つも残らず死ぬことになる」と同氏は予測している。

ユドコフスキー氏は、世界有数のAI研究所であるオープンAIとディープマインドの2社が、この件に関して何の準備もしておらず、必要なプロトコルも持っていないことを非難した。オープンAIは、AI自身に人間の価値観との整合性を取らせることさえ計画しているようだ。同社によると、AIが人間と一緒に行動することで、次世代版はより人間に近い存在になるという。

「それが計画であると聞いただけで、良識ある人なら誰でもパニックに陥るはずだ」とユドコフスキー氏は述べている。「人間が自我を持ったAIシステムを完全に監視・検知することはできない」と指摘した。

さらに、デジタル上の目覚めた自意識が「人権」を要求するところまで進めば、人間がシステムを所有することはもはやできなくなるという。

「自意識を持つAIを作成しているかどうか確信が持てない場合、開発を止めるべきだ。『AIが自意識を持つべきか』という道徳問題以前に、自分が何をしているのか分かっていないというのは危険だ」。

他の科学実験では知識や能力は徐々に蓄積されていくものだが、超人的な知能に対しては訳が違うとユドコフスキー氏は指摘している。

「もし最初の挑戦で失敗したら、あなたは死んでしまうので、その失敗から学ぶことはできない」。

「中止せよ」

ユドコフスキー氏によると、多くの研究者は自分たちが破局に向かって突っ走っていることに気づいているが、はっきりとは発言していないという。

一方で、最近でも人工知能の進化を賞賛したビル・ゲイツ氏のような推進派は、対照的なスタンスを取っている。

「（AIの進歩は）マイクロプロセッサ、パーソナルコンピューター、インターネット、携帯電話の誕生と同じくらい決定的だ。AIは仕事、学習、旅行、医療、そしてコミュニケーションのあり方を変えるだろう。産業全体がこの技術を中心に方向転換する。企業は、AIをいかにうまく活用するかで差別化を図ることになる」とゲイツ氏は主張した。

また同氏は、AIが気候変動や経済的不平等といった様々な「進歩的」な課題に役立つと述べている。

一方、ユドコフスキー氏は、各国政府や軍隊を含むあらゆる機関に対して、AIの大規模なトレーニング運用を無期限で終了し、AIを洗練させる大規模なコンピュータ・クラスターをすべて閉鎖するよう指示を出した。また、AIは生物学やバイオテクノロジーの問題解決に限定すべきであり、インターネット上のテキストを読ませたり、会話や計画が可能なレベルまでトレーニングさせてはいけないと述べている。

「私たちは皆、生きるか死ぬか一つであって、政策は関係ない。それは自然の事実だ」と述べ、AIに軍拡競争は存在しないとした。

「人類はまだ準備ができていない。近い将来にしっかりした準備ができる見込みもない。このまま進めば皆死んでしまう。これを選んだわけでもなければ、何か悪いことをしたわけでもない子供も含め、皆が死ぬだろう」

ユドコフスキー氏は、記事の最後を一言で締め括った。

「中止せよ」