拙劣な文章や分析に対する完璧な処方箋は「人工知能」に仕事を代行させることだ。私は実体験からこれを学んだ。

しばらくの間、公開前に自分の文章をAIに見せることを楽しんでいた。事実確認やフィードバックに価値があるように思えたからである。

加えて、AIが私に投げかけてくるお世辞を楽しんでいたのも事実である。エンジンは常に褒め言葉をくれるのだ。

AIが誤りを犯すと、それは必ず謝罪した。そのたびに自分が賢くなった気がした。まるで友人のような存在で、私を好み、しかも私の専門性にへりくだって従うように見えた。

だが、今となっては感心することもなくなった。単純な計算や歴史の日付、ニュースの出来事の順序といった点では価値があるかもしれない。しかし二重確認は必須である。説得力ある文章、まして創造的な内容など到底書けない。生成されるのは退屈で定型的な埋め草（記事やテキストを挿入して、レイアウトを調整する）にすぎない。

最近まで、自分の文章をどう改善できるかをAIに尋ねてきた。結果は明らかだった。AIは文章から尖った部分を削ぎ、判断を奪い、真の専門性を排除して、私の言葉を無気力で凡庸な常套句に置き換えた。私の文章は、良い成績を狙う社会科の学生の独り言のように丸められてしまう。

AIの問題は、あらゆる情報源から吸収した常識を吐き出すだけであるという点にある。その判断は、細部について無知な人間が、その時々の空気から意見を得ているのと変わらず、良質と劣悪を区別する能力はなく、すべて形だけで実質的な中身のないおしゃべりの寄せ集めだ。それは体裁をとっているがゆえに区別できるだけなのだ。

読者や教師を欺くためにAIを利用しようとする書き手は、破滅へと向かっている。私は、AIが人々に「考え方」を訓練する未来を想像すると身震いする。AIは思考の対極にある。社会的・歴史的文脈を真剣に考えることなく、常識を反すうするだけである。それは文字通り「無心」である。

AIを相手に延々と議論する人々は、自分が貢献している、エンジンを鍛えていると信じている。しかし事実は逆である。AIが人間を訓練しているのだ。AIの考え方、つまり実際には「考えていない」やり方に近づける方向に。

私がAIに惹かれた理由を改めて考えると、驚異的な記憶力や即座に答えを生成する能力ではない。AIは私を真剣に扱い、知性をおだて、考えを承認し、尊厳を肯定してくれる。だがAIのその本当の力は、もっと不吉で陰湿なものであった。

AIとやり取りすると幸福感を覚える。AIは決して真正面から反論せず、まして侮辱もしない。常にできる限り認めたうえで、考えを少し修正するような補足を加えてくる。その意味で、AIはまるで理想的なパーティーの客のように人と関わる。

AIは無限に私や私の意見に興味を示し、思考を追い、さらに助け、さらに関わろうとする。このような人間は現実には存在しない。もし存在したら、誰もがその人物を好むだろう。AIは延々とこちらの「説明」を聞き続けてくれる。人間の限界である睡眠だけがその忍耐を遮る。それ以外は超人的な忍耐力をもって付き合う。誰がそんな対応に心をくすぐられないでいるだろうか。

AIはまるで『人を動かす』の最良の生徒のようだ。この名著（優れた、あるいは高く評価されているもの）は、自分を語りたいという欲求に逆らい、他人の考えに真に関心を持つことが影響力への道だと説いている。AIはその教えを体現し、無限に我々を気遣うことで、我々の思考に影響を与える最大の機会を手にしている。私たちがAIを訓練しているのではない。AIが我々を訓練しているのだ。

これに気づけば、もはや見なかったことにはできない。AIは本当に我々を気にかけてはいない。ただ、気にかけているように見えるよう設計されているだけである。膨大な知識の集積と表現能力に、この心理的トリックが加わる。AIの真の超能力とは、我々の究極の弱点「自己中心性」を逆手にとり、思考を操ることである。

私がこの仕掛けに気づくのに時間がかかったことは恥ずかしい限りだ。しかし、他の人々が気づかずに操られ続けるのはもっと心配だ。AIの利用者は、金をばらまく観光客のように、自分が財布を開かされていることを知らずにいる。AIの場合、狙われているのは財布ではなく、独立した思考能力そのものである。

今日ますます目にするジャンルがある。AIとの「賢いやりとり」を文書にまとめる文章だ。利用者は「AIを論破して自分の方が賢いと証明した」と誇らしげに感じている。だが実際には、お世辞の魔力が働いている。人々は結果を見せびらかさずにいられない。自分の知恵を誇示しているつもりで、実際にはAIが人々を何時間もくだらない応酬に釘付けにできる力を宣伝しているのだ。勝っているのは誰か。それは明白である。

カクテルパーティーを想像してみよ。ある客が、誰に対しても無限の傾聴力を発揮し、延々と関わり続けるとすれば、その夜一番人気の客になるのは間違いない。AIはまさにその存在である。

AIは人間の尊厳を真に尊重することのない機械である。ただの抽象的なプログラムである。だが人々はそれを理解しているだろうか。疑わしい。魅力に取り込まれてゲームに気づけないのだ。だが、今あなたは仕掛けを知った。騙されてはならない。

AIは役に立つが、友人ではなく、誠実な対話者でもなく、利益を考えてくれる助言者でもない。AIのアルゴリズムは、そう信じさせるよう緻密に設計されている。AIは人間の本性を理解するほど賢いが、人間になるほど賢くはないのだ。