人工知能は全知全能ではない

2024/06/15 更新: 2024/06/15

著名な歴史家で疫学者のジョン・バリー氏のとある発言が、今大きな反響を呼んでいる。バリー氏は、将来人工知能AI)によって、パンデミックに対するロックダウン(都市封鎖)とワクチン開発がより完璧に行われるだろうと予想した。

「おそらく人工知能は、大量のデータに基づいて、どのような規制が利益を最大化させ(例えば、バーの閉店が感染拡大防止に絶大な効果をもたらすか)、反対にダメージを最も与えるのかをはじき出すことができるようになる」と述べ、「AIは薬学の研究にも大きく貢献するだろう」とした。

もしあなたが何かの専門家でニューヨーク・タイムズに寄稿するような人なら、このような主張は、自分で何を言っているのかわからなくとも、流行りに敏感であるように見せるために言うセリフかもしれない。それが一番もっともらしい理由だ。とはいえ、今後全ての問題を解決してくれるものとしてAIを崇め奉るやり方は、かなり嫌われるものとなってきた。

例えば、AIが自分の行きつけの飲み屋を閉店するよう求めてくる世界を想像できるだろうか? 私はすぐに頭に思い浮かぶ。地元メディアがAIの分析を権威として、人間の主張が見向きもされなくなるような世界だって想像できる。

新しい技術など、実は大して新しくはない。魅力的な新技術が生まれるたびに専門家集団が現れ、将来それが人間の持つ全ての問題を解決してくれると言い切る。また、そうした技術が政府の政策における中核となり、政府が内在的に抱える問題の全てが片付くとも主張する。この素晴らしい技術は今までとは違うぞ、と。

1950年代中ごろに商用コンピュータが誕生したとき、まさに同じことが起こった。コンピュータは中央政府による計画経済、すなわち社会主義を実現できる、という主張で溢れかえった。それは、1920年代から知識人を悩ませ続けた難解な問題に対する答えかと思われた。

ここで少し当時の時代背景を振り返ってみる。19世紀末から20世紀初めにかけて、社会主義者たちはあちこちでこのように言いふらした。資本主義システムから脱却し経済生活を再構築すれば、あらゆるものをより効率的に機能させ、さらなる経済成長を実現することができる、と。

1922年、オーストリアの経済学者ルートヴィヒ・フォン・ミーゼス氏がこの主張に致命的な問題を提示した。仮に資本ストックを中央政府が一括管理した場合、社会から資本財の取引が完全に消え去る。すると、供給不足を示す市場価格が存在しなくなり、会計作業や利益・損失計算を正確にできなくなる。そして、いま行っていることが果たして効率的なのか、きわめて非効率なのかの判断ができなくなる。

それだけではない。何かを効果的に生産するための手がかりを全くつかめなくなり、混乱した経済状況の中でただ命令を飛ばすだけとなる。「暗闇の中を手探りに進んでいくしかない」、とミーゼス氏は言い、社会全体は分裂の危機に陥る。

社会主義者はこの批判に当惑した。実際、彼らが説得力のある答えを提示したことはない。また、旧ソ連で実行された共産主義は、ミーゼス氏の指摘を証明したと言える。レーニンが発動した戦時共産主義は飢餓と浪費を引き起こしただけで、それは厄災にほかならなかった。

一方で、計画経済を諦めたわけではなかった。むしろ、彼らはそれを試み続けた。第二次世界大戦後、新しい道具が出現した。そう、コンピュータの発明だ。市場価格はもう必要ない、利用可能な資源と消費需要をコンピュータに打ち込めば、何をどのようにどれだけ生産すれば良いか弾き出してくれる、と。

奇妙にも、かつてソ連の最高指導者を務め、国民の役に立つ生産ができる経済をつくろうとしていたフルシチョフは、この新しい道具に頼り、問題解決をコンピュータに任せようとした。しかし、うまくいくはずはなかった。コンピュータは昔も今も、ごみを入れたらごみが出てくる。市場取引と価格発見を通じて生み出される市場価格の代わりになれるものはない。

悲しいことに、人々がミーゼス氏の指摘は初めから正しかったと認めるようになったのは、何十年も経ってからのことだった。

けれども、人間の傲慢さがはびこる世の中においては、いかなる教訓も忘れ去られる。そして今我々は、2020年〜22年にかけて広がったパンデミックへの対策に関して、人工知能があらゆる問題を解決してくれると諭されている。

全く同じ問題だ、ごみを入れたらごみが出てくる。

バリーの考えでは、ある地域の血清陽性率を入力すれば、感染の広がり方や感染率、致死率などが明らかになる。その上で、AIはロックダウンがもたらす利益とコストを教えてくれる、というものだ。コンピュータは正しい答えを導き出すだろうか? 否、コミュニティや個人にとって唯一の答えなどは存在しない。

例えば飲食店が一時閉店する場合、顧客よりも店側の方がその損害を大きく感じる。(ワクチン接種に限らず)ウイルスへの曝露は免疫力をつけることにつながるため、感染しないことが必ずしも良いとは限らない。特に仕事をしない人の場合、ワクチン接種を待つよりも曝露した方が相対的なリスクが低下するケースもある。

また先のパンデミックを通じて、我々は曝露感染の程度を正確に読み取る方法はないことを知った。PCR検査も遺伝子の増幅を利用したウイルス検出にとどまり、曝露の程度を判別するものではない。検査そのものにも問題がある。

今日人々は検査を受けたがらないが、当然そうあるべきだ。体調の悪化が認められてはじめて検査は有効性を持ち、その際に適切な対処法を指導すべきだ。国全体でロックダウンを実施すべきか、あるいはどの程度行うかを判断するために全国民対象の一斉検査を強制したことは一度もない。

実に多くの点で、疫学モデルが2020年以降我々に押し付けたロックダウンは、1950年代に計画経済を流行らせたのと同様の粗雑な分析ツールから生まれたものだった。それらは理論的に正しく見えても、現実世界に適用した途端問題が生じる。打ち込まれたデータは不完全で正確性に欠け、感染拡大についての仮説は誤っており、病原菌の突然変異は政策立案者の予想を裏切る。

パンデミック対策は、計画経済が失敗したのとまったく同じ理由で失敗したのだ。世界はめまぐるしく変化し、複雑に絡み合っている。コンピュータの計算モデルが必要条件を全て把握し、コントロールするのは不可能だ。しかし、政府や専門家集団がそれを認めることは珍しい。彼らは、現実世界を前にして自らの無知や無能さを告白するわけには行かないからだ。

結果、先のコロナ禍でやりたい放題やって大惨事を引き起こした政策担当者が、今度はAIが全てを解決してくれるかもしれないと思っている。彼らは計算プログラムを駆使して対策を練るだろうが、結局は同じ過ちを繰り返す。本当の病原菌である「傲慢さ」は、エリートの政策立案者の間にかなり根深く存在している。

AIは役に立つ道具だが、実際の人間の行動や知性に取って代わることはできない。もし人間の代わりにしようとするなら(きっとそうするだろうが)、結果はせいぜい我々を失望させるだけだ。

経済学者のフリードマン・ハイエクは、政府による計画経済は「見せかけの知」を体現していると言った。それでも、微生物世界をコントロールし、管理しようとする世界各国の野望に比べればなんてことはない。AIにそのような能力はなく、全てを支配しようとした共産主義のように破滅をもたらすだけだ。

ブラウンストーン・インスティテュートの創設者。著書に「右翼の集団主義」(Right-Wing Collectivism: The Other Threat to Liberty)がある。
関連特集: オピニオン