生成AIが登場する以前、アマゾンは深く考えることを業務の進め方そのものに組み込んでいました。

2017年、アマゾン創業者のジェフ・ベゾス氏は、時間をかけて文章で論理を組み立てることを重視した会議文化について説明しました。パワーポイントによるプレゼンテーションも箇条書きも使わず、製品やプロジェクトについて最初から最後まで説明する6ページの文書を作成するというものです。その執筆には、多くの場合1週間を要しました。

会議室にいる全員が、若手社員から上級管理職まで、誰かが発言する前に20～30分間、席に座ってその文書を読みました。

ベゾス氏によると、その目的は、書くことと読むことを通じて、考えを明確にせざるを得ない状況をつくることでした。論理の弱さはすぐに表面化します。論理の欠落を箇条書きや洗練されたスライドで隠すことはできません。考えるには時間がかかり、まさにそれが重要だったのです。

生成AIの危険性は、たった一つのプロンプト（AIに対する指示や質問）で、この論理を逆転させてしまうこと、しかも、自分で考えることが不要であるかのように感じさせる形で逆転させてしまうことにあります。
 

AIに判断を委ねる傾向の高まり

しかし現在、アマゾンの一部の部門を含むアメリカ企業の多くで、従業員は、社内文書、提案書、報告書、さらにはプログラムコードの草案作成にAIツールを使うよう、ますます強く求められています。その動機は明確です。生産性の向上、コストの削減、成果物の迅速な作成です。

しかし、速さには代償が伴います。

かつては作業の過程そのものが思考を鍛えていましたが、今ではその作業がAIに任されつつあります。そして、作業をAIに任せることで、人は主体性を失っていきます。

プロンプトを入力していると、自分が書き手であるように感じられるかもしれません。しかし、文章の構成、問題の捉え方、選択肢、さらには論理まで、その多くがすでにAIシステムによって設定されています。利用者は方向を調整できますが、それは自分で決めたわけではない範囲内に限られます。その結果、主体性は徐々に利用者からAIモデルへと移っていきます。

「プロンプトを入力することで、自分に主体性があると思うでしょう」と、大規模言語モデルが推論に及ぼす影響を研究している南カリフォルニア大学のコンピューター科学者、ジヴァー・ソウラティ氏はエポックタイムズに語りました。「しかし、2年前と比べると、主体性ははるかに少なくなっています」

2年前のAIは、人がプロンプトを入力するだけのものでした。しかし現在では、AIの側から人に問いかけ、方向づける存在になっています。この変化によって、人は自分自身の考えに自信を持てなくなる可能性があります。

「AIが作業を行うと、私たちはその成果物を自分のものだと感じにくくなります」と、テクノロジーが意欲、自制心、努力に与える影響を研究しているトロント大学教授の心理学者、マイケル・インズリヒト氏は、電子メールでエポックタイムズに語りました。「その仕事は本当の意味では私たちのものではなく、私たち自身もそのことを分かっています」

職場では、AIに判断を委ねる傾向が強まっています。カーネギーメロン大学とマイクロソフトの研究では、AIの出力を信頼している知識労働者は、その内容を十分に吟味しないことが多いと分かりました。この傾向は「自動化バイアス（機械や自動システムの判断を過度に信頼する傾向）」と呼ばれています。

こうした依存は危険を伴います。AIは説得力のある回答を生成することが多いものの、その回答が誤っていたり、不完全だったり、重要な背景情報を欠いていたりする可能性があるためです。

実在しない、AIが捏造した判例を引用した準備書面を裁判所に提出し、この教訓を身をもって知ることになった弁護士もいます。
 

合意という幻想

AIツールへの依存は、AIの出力自体が似通うようになると、いっそう疑問視されにくくなります。

十数人の同僚が同じAIシステムにプロンプトを入力すれば、明確で中立的、かつ整った表現を用いた、似た構成の草案を受け取る可能性があります。人それぞれの独自の判断が十分に形づくられる前から、考えが同じ方向へ収束し始めるのです。実際には自然な一致ではなくても、意見が一致することが当然のように感じられ始めます。

「今では、人々はただAIと話し、そこから考えを得ています」とソウラティ氏は述べました。

実際、AIを使うと、思考の初期段階が短縮されます。戦略文書を作成する管理職は、同じツールを使っているほかの人々と似た一連の提案から書き始めるかもしれません。かつて研究上の未解明領域を自分で整理していた博士課程の学生も、今ではAIモデルに頼めば、即座にそれらを洗い出してもらえます。そして、その学生と同じ研究分野にいる全員が、同じことを行えます。

その影響は専門的な仕事だけにとどまりません。別れの手紙、結婚式の誓いの言葉、さらには自伝に至るまで、かつては個人の経験や語り口と強く結びついていた私的な文章にも、AIツールがますます使われるようになっています。週間利用者が10億人に達する規模では、考えを生み出す方法にわずかな変化が生じるだけでも、急速に均質化が進む可能性があるとソウラティ氏は述べました。

言葉遣いや考え方を周囲に合わせようとする圧力は、AIが登場するはるか以前から存在していました。AIによって変わるのは、考えが収束し始める段階です。思考の最後ではなく、ますますその最初の段階で収束が起こるようになっています。

ソウラティ氏は、『Trends in Cognitive Sciences』に掲載された論文の中で、これが重要な意味を持つと指摘しています。人はそれぞれ異なる文章の書き方や論理的な考え方を仕事に持ち込むからです。

「そうした違いが同じ大規模言語モデルを通して処理されると」と、同氏はエポックタイムズに語りました。「それぞれに異なっていた言語表現のスタイル、視点、推論の方法が均質化されます」

AIは、単に私たちの表現を似通わせるだけではありません。懸念されているのは、AIによって、許容される議論の範囲が狭まる可能性があることです。表現が角の立たないものへと整えられ、選択肢が繰り返し同じように提示されると、意見の相違や異議を支える根拠が実際よりも乏しいように感じられる場合があります。

ソウラティ氏によると、同じ枠組みが繰り返されると、やがて「合意という幻想」が生み出される可能性があります。実際には、機械が生成した同じパターンによって、それぞれに異なる考え、視点、さらには批判的な立場までもが均され、本来以上に統一されているように感じられているだけなのに、人々が独立して同じ結論や問題の解決策に到達していると思い込む状態です。

同氏は、自分自身の文章でもその影響に気づくといいます。AIによって文章を滑らかに整えると、あらゆる表現がより型どおりになり、同氏らしさが薄れていきます。

「突然、『これはもう自分ではない』と気づくのです」と同氏は述べました。

共通の出発点から意見の一致が生まれると、実際以上に自然な合意であるように感じられます。その意味でAIは、アマゾンの文書を用いた会議方式のような仕組みが目指していたことを逆転させます。アマゾンの方式では、文章を書き、注意深く読むことによって、ほかの人の意見に触れる前に、それぞれが自分自身の視点を形成していました。そのため、合意は十分な検討を経て初めて得られるものでした。

変わるのは、人々が何を考えるかだけではありません。人々がたどり着く考えそのものを、AIが気づかれにくい形で方向づけるようになるのです。
 

負荷が減れば、理解も浅くなる

AIへの依存が強まり、それに伴って意見が一致しているという感覚が生まれる現象は、単独で起きているわけではありません。その背後には、さらに気づきにくい要因があります。人は、自分が実際以上に物事を理解していると思い込みやすいのです。

AIを使うと、人はAIが素早く流暢に示した回答を、自分自身の理解と取り違えることがよくあります。

AIの安全性を研究する企業、アンスロピックが行った実験は、その理由を理解する手がかりになります。AIの支援に頼った参加者は、わずか数分前に取り組んだ内容についての理解度テストで、得点が約17％低くなりました。課題は完了していましたが、理解が追いついていなかったのです。

「深い理解には、ある程度の負荷、つまり自分で試行錯誤しながら答えを導き出す苦労が必要なのかもしれません」とインズリヒト氏は述べました。「AIはその苦労を完全に飛び越えてしまいます。そのため、洗練された成果物はできあがっても、それに何が書かれているのかを本当には理解していない人が残されます」

インズリヒト氏によれば、問題はこの負荷がなくなることから始まります。考える過程には、うまくいかない試み、不確実性、そして時間をかけて考えを組み立てる作業が伴います。同氏と共著者らは、『Communications Psychology』に掲載された論文で、その過程に伴う精神的な努力が、人の学習や能力の向上に役立つと指摘しています。

「何かを理解しようと苦労するとき、私たちはそれを自分がすでに知っていることと結びつけざるを得ません。その結びつきが、学んだ内容を記憶に定着させるのです」とインズリヒト氏は述べました。「高校時代の数学を思い出してください。どれほど苦しくても、自分で問題を解くほうが、最初に解答を見て、そこから解き方を逆算するよりも、はるかに多くのことを学べました。自分で格闘することに意味があるのです」

AIは、使い方によっては、この過程を途中で省略させ、「認知的オフローディング（記憶や思考などの知的作業を外部の道具に任せること）」を促す可能性があります。それが続けば、困難な課題に粘り強く取り組む力が弱まり、AIを使えなくなった途端に諦めやすくなる可能性があります。

研究では、わずか15分間AIを使うだけでも、集中力が低下したように感じ、自力で困難な課題を最後までやり抜けなくなる可能性があると分かっています。

このように、AIは努力と知識の関係を変える可能性があります。最初は便利な手段だったものが、やがてなくてはならないものになるのです。
 

努力が重要である理由

努力は理解を深めるだけでなく、物事に意味も与えます。人は苦労して課題をやり遂げると、その成果をより高く評価する傾向があります。

「AIの助けを借りて作った仕事を、私たちはあまり高く評価しません」とインズリヒト氏は述べました。「意味が薄く、自分のものという感覚も弱く、価値も低いように感じられます」

「私たちは、その対価として求める金額さえ低くします」と同氏は、AIが生成した芸術作品や動画を挙げて述べました。「これは示唆に富んでいます。心のどこかで、AIが作ったものは自分が作ったものとは同じではないと認識しているのです」

負荷がもたらす恩恵には限度があり、負荷が大きすぎれば圧倒されてしまうこともあります。

危険なのはAIそのものではありません。私たちが成し遂げることや、私たち自身がどのような人間になるかを形づくる努力が失われることなのです。

（翻訳編集　井田千景）