人工知能（AI）が私たちの生活に急速に入り込みつつある。楽観的な見方もあるが、この新たな世界で人間がどうなるのかという不安の方が大きい。

例えば筆者は、少なくとも10年間使い続けてきたクラウド上の文書作成プログラムを今も利用しているが、昨日から「help me write（文章作成を手伝います）」という表示が出るようになった。クリックすると、何を書きたいのか一連の質問が表示され、内容が自動的に生成される。

実際には、AI文章作成を批判する1200語の原稿を書くよう指示すれば、この論評も完成できるだろう。結果は印象的なものになるはずだ。

しかし筆者は、そのようなやり方は自分の尊厳に反すると考える。メール作成画面に現れる新たなボタンも使わない。1つは受信メールの要約を表示し、もう1つは返信文を自動生成する機能だ。

その結果、仮に1日に1千通のメールを送受信しても、すべてが人間を装う機械によって処理され、人間の真正な意思は何一つ反映されない可能性がある。

筆者はかつて、パソコン内の不要なデータを減らせるという理由で「クラウド」を強く支持していた。メールがクラウドに移り、文書も移り、やがてあらゆるものが移行した。現在では、私たちの機器はローカルで完結するソフトをほとんど動かしておらず、外部サーバー上で管理されるクラウド型サービスに依存している。

利便性は大きい。最近新しいパソコンを購入したが、5分ほどで個人設定を含めすべてが整った。かつては移行に1日か2日かかったことを思えば、考えられない速さである。

しかしその代償は、ほぼすべてに対する統制の喪失だ。巨大企業の判断に完全に委ねられることになる。望んでいないAI機能を作業環境に組み込まれても対処できない。データの完全な管理権も失われ、データは他者の所有物となり、無限に販売され得る。

この取引は本当に価値があったのか。筆者にはもはや明確ではない。

筆者は先ほど電力会社に電話をかけたが、AI音声案内との格闘になった。問い合わせ内容が選択肢に含まれておらず、応答は混乱していた。筆者が担当者を要求すると、1時間以上待つ必要があると告げられ、折り返し連絡すると案内された。

問題はこうだ。住んでいない場所の電気料金49ドル80セントの請求書が届いた。原因は、住所を一時的に誤入力したことだ。機械はその誤りを事実として記録した。現在は修正を求めているが、未払い請求書を前にしている。

これまで担当者と話しておらず、問題を解決する手段がない。仮に担当者と話せても、機械の処理を上書きできるのか分からない。できなければ誰が支払うのかという問題が残る。

一方で、読むべき文書を開くと、上部には要約ボタンが表示される。10ページを読み込む必要はなく、ボタン一つで機械が要約する。ただし誤りがあっても保証も責任もない。

ここで起きているのは、人間性が少しずつ、大小さまざまな形で数字に置き換えられていることだ。

もっとも、AIに利点がないわけではない。かつて航空券の変更には英語が十分でない担当者と長時間やり取りする必要があった。現在はソフトウェア上の小さな画面で申請すれば1分以内に完了する。これは優れた例である。

筆者が知る限り、これがAIの無条件の成功例だ。大規模言語モデルも有用だが、正確性に問題があり、書籍などと照合が必要だ。高い知能を持つが不完全であり、利用者に迎合する傾向も信頼性を損なう。

筆者の最大の不満は、あらゆるプラットフォームや体験がAIによって改善されると前提されていることだ。クラウド上のメールや文書作成システムには無効化の選択肢がない。AIの未来が押し付けられていると感じる。

ギャラップの大規模調査によれば、AIを利用していても、3分の2が社会的影響や誤情報拡散の危険に強い懸念を抱いている。利用価値があると考えられているのは主に医療分野で、医師や医療保険からの解放を期待しているとみられる。

つまり、AIを日常的に使いながらも、十分には信頼していない。詳細を見ると、1）法務分野、2）技術支援、3）機械的問題への対応で高く評価されている。

そのため、AIの進展に関する発表は、法務やデータサービス関連株に影響を与えている。AIは情報提供を担う企業を早晩淘汰する可能性があり、インターネット検索業界を既に揺るがしている。

企業面では影響が出ているが、価値ある情報を迅速に得られる点は評価されている。一方で、煩わしく、見下すようで、無用または不正確な形で生活に入り込むことは好まれていない。

筆者自身は、必要不可欠な場合を除き利用を避けるつもりだ。何よりも、オン・オフを選択できる立場を望む。企業は、AIを日常生活の機能に当然組み込むと想定すべきではない。

技術革命は刺激的である一方、煩わしくもある。新技術がすべてを解決すると考える傾向があるが、現実はそうではない。革命後も、人類が直面する問題の多くは変わらない。

人々は歴史、文学、哲学、倫理、数学、経済、音楽、科学を学び続ける必要がある。そうでなければ機械が世界を支配するだろう。その結果は理想郷ではなくディストピアだ。

最後に、電気料金の問題についてだが、最終的に担当者と話すことができ、問題は解決した。実在の人間の存在に感謝したい。