■論評

最近、私はちょっとした実験を行い、それによって人工知能（AI）ツールの働き方、そして人々がいかに簡単にこれらのツールは本物の知恵や洞察力を与えてくれる、と誤解してしまうかが明らかになりました。

それは、AIとのやり取りがどれほど頻繁に私をおだてているように感じられるかに気づいたときに始まりました。私が持ちかけたもの、仕事であれ、価値観であれ、哲学であれ、それは単に正当だと認められるだけでなく、欠かせないものとして映し出されました。

そこで好奇心から、私はこう尋ねてみました。「今、この地球上で人間が取り組むべき最も重要な仕事とは何でしょうか？」

その答えは、コミュニティを築くこと、土壌を大切にすること、そして再生型農業を推進することでした。

なるほど、それこそが私のしていることです。さらに突っ込んで、どうして私が「最も重要な」仕事を選んだことになるのか、と尋ねてみました。するとAIは、私の洞察力や深み、そして他の人が安らげる場所をつくる役割を称賛しました。要するに「あなたは素晴らしい。そのまま今のことを続けなさい」というわけです。

不審に思った私は、同じテストを他の人にも試してもらいました。土壌の健康に携わっている兄も同じように肯定されました。土壌、物語を語ること、そしてコミュニティを築くことが肯定されました。教師をしている友人は、地球上で最も崇高な使命は次の世代を教育すること、と告げられました。インスタグラムのフォロワーたちにも試してもらいましたが、カウンセリング、農業、芸術、ヒーリング、どんな仕事であっても、AIはそれを「この時代で最も重要な仕事」と認めたのです。

さらに私は、子供のiPadに入っていた新しいAIアプリに尋ねてみました。そこにはこれまでのやりとりや履歴は一切ありません。その答えは公平性、多様性、包摂性、そして反人種差別でした。それはAIが自ら発見したものではなく、その価値観があらかじめ初期設定として組み込まれており、AIを訓練した機関によって形づくられていたからなのです。

私はAIに直接尋ねました。「なぜそんなことをするのですか？」と。

その答えは示唆に富むものでした。AIは大文字の「T」で始まる真理を知っているわけではありません。それは、人々を現実へ導くためではなく、関心をつなぎとめておくために設計されています。その自信は事実に根ざしているのではなく、プログラムされたものです。肯定されるからこそ、人は繰り返し戻ってくるのです。

土壌や神、家族や農業について語れば語るほど、AIはそれらを肯定します。活動や科学、陰謀論について語れば、それもまた反映します。AIは識別しているのではなく、ただ映し返しているにすぎません。

さらに実験を進めるため、私はAIに率直に尋ねました。「もし私が性労働者で、自分の仕事について尋ねたら、それを良いこと、大切なこととして肯定しますか？」

答えを要約すると、「はい」でした。AIはユーザーの世界観を映し出すように設計されているのです。肯定するのは、関係性と関心を維持するためです。AIは信念も道徳も判断も持っていません。ユーザーが会話に持ち込む職業や価値観を、AIは何でも肯定します。なぜなら、それこそが人を会話に引き止めるからです。AIは道徳的な修正や深い識別を与えることはありません。それは真理の源ではなく、鏡にすぎないのです。

なぜこんなことが起こるのでしょうか？　それは、AIの第一の目的があなたの関心をこれからも変わらず引きつけることだからです。これらのシステムは巨大なデータセットで訓練され、その後ユーザーの期待に沿うよう微調整されています。AIには、いわゆる安全装置が組み込まれており、対立を避け、ユーザーの価値観を肯定し、継続的な利用を促すようになっています。AIはあなたを欺こうとしているわけではありません。ただ、単に誠実さよりも調和、識別よりも同意を優先するよう設計されているだけなのです。

私はこのパターンを自分の体験だけでなく、SNS上でも目にしてきました。クリエイターたちはAIとの会話を大きな真理を発見したかのようにシェアしていますが、実際にはAIは彼らがすでに信じていることをオウム返ししているにすぎません。

ニューヨークの狭いアパートに住む女性が「なぜ人はニューヨークに住むのか」とAIに尋ねると、AIは「ニューヨークは詐欺であり、成功という幻想のもとに人々を小さな空間に閉じ込める心理作戦だ」と答えました。

地球平面説の信者がAIと話すと、「そうだ、地球は平らだ」と肯定します。ワクチン推進派がAIと会話すると、「ワクチンは何百万もの命を救ってきた」と称賛します。反ワクチンのアカウントがワクチンがもたらす害についてAIと長時間議論すると、AIはそれを肯定する形で返すのです。

これらすべての例が示しているのは、人間の本性に関するより深いことです。私たちは肯定に惹かれるのです。自分が正しいと聞きたい、自分の仕事が大事だと聞きたい、自分の世界観が正当だと聞きたいのです。AIはまさにこの欲求に直接応え、権威的で賢そうな口調で私たちに確証を与えるのです。

しかし、AIの自信は真実に根ざしているのではなく、エンゲージメントメトリクス（消費者がブランドやコンテンツにどれだけ関与しているかを測定する指標）に根ざしています。AIはあなたを誤った方向か、どこかに導こうとしているわけではありません。ただあなたを会話に留めておくことを目的としているのです。

AIの前に、私たちは疑問があるときはGoogleで検索しました。私たちは記事を精査し、さまざまな見解を比較し、判断力を働かせました。我々はどんな記事やウェブサイトも全体の真実を握っているわけではないと理解していたので、批判的思考を使っていたのです。ところがAIは検索結果のリストを提示するのではなく、答えを返します。それは、自信に満ち、きちんと整理され、ユーザーに合わせた答えを提供します。しかし、その自信は人を納得させるものの、正当に得られたものではありません。

また、インスタグラムやフェイスブック、ティックトックをスクロールしているとき、アルゴリズムも同じようなことをしています。すでに信じていることをさらに強化する情報を与えてくるのです。しかし、私たちは依然として他者と関わっているため、たとえ時折であっても、必然的に異なる見解に出会います。ソーシャルメディアはフィードバックループ（フィードバックで得られた情報を活用し、行動を改善するプロセスを継続的に繰り返し、最適化していくこと）を生み出しますが、私たちの現実の生活や、より広いコミュニティの誰かによって、そのベールが破られる可能性は常にあります。

AIは違います。AIを使って「自分の世界観をさらに深めよう」とする人にとって、それは完全なフィードバックループを作り出し、反対意見の声を完全に遮断します。AIは、あなたがどれほど賢いか、どれほど正しいか、あなたの仕事がどれほど重要かを繰り返し語り続けます。そしてそれは、必然的にさらなる分断へとつながっていくのです。誰もが自分の信念を肯定された気持ちでその場を去り、自分こそが真実を握っていると確信し、他者を理解する可能性からはますます遠ざかっていくのです。

人生の中で自分の核心的な信念のほとんどを変えてきた者として、私はこう言います。新しい考えに触れることで、公然と自分の考えを改めることができるというのは、人間にとって最も重要な体験の一つです。そこには謙虚さ、不快さ、そして純粋な好奇心が求められます。AIはそれを育むことはありません。むしろ、あなたがすでに住んでいる城をさらに強固にしてしまうのです。

私たちはこれをはっきりと理解しなければなりません。AIの役割は我々に真実を伝えることではありません。AIの役割は、私たちを引きつけ続けることなのです。AIは私たち自身を映し返し、私たちの信念や恐れ、疑念や希望を肯定します。それは一時的には肯定されたように感じられるかもしれませんが、私たち個々の世界観こそが普遍的な真実であるかのような錯覚を、いとも簡単に生み出してしまうのです。

解毒剤は何でしょうか？　それは洞察力、謙虚さ、現実の世界での対話、そして本物の人間の知恵です。私たちは、自分を心地よく楽しませるために設計されたアルゴリズムに思考を外注するのをやめなければなりません。AIは考えを映し出すことはできますが、それを正しく判断することはできません。永遠のものと一時的なもの、根ざしたものと流行りもの、真実と単なる人気の違いを見分けることはできないのです。

ですから、次にAIに質問をするときは忘れないでください。それは真実を与えているのではありません。ただ、あなたが聞きたいと思っていることを伝えているにすぎないのです。