AIの時代に本当に必要なのは、「疑う力」かもしれない。

中国で、その現実を突きつける出来事が起きた。存在しない商品が、AIに「おすすめ商品」として表示されたのだ。

きっかけはテレビの実験だった。記者は、架空の健康グッズをでっち上げた。

「血糖値が測れる」「最先端の技術を使っている」など、いかにもありそうだが、実際にはあり得ない機能ばかりを並べた。

そして、その商品の紹介記事をいくつも作り、ネットに投稿した。
するとわずか2時間後。

複数のAIが、その商品を本物のように扱い、「おすすめ商品」として紹介し始めた。

さらに状況は悪化する。

報道によると、3日間で11本の偽記事が投稿されると、DeepSeekや豆包など複数の中国のAIが、この架空の商品を「健康系スマートウォッチのおすすめ」として上位に表示するようになった。

もちろん、その商品はこの世に存在しない。

なぜ、こんなことが起きるのか。

理由はシンプルだ。
AIはネット上の情報を集めて答えを作るため、同じ内容が大量に出回ると「正しい」と判断してしまう。つまり、ウソでも増やせば、AIはだまされる。

しかも、この仕組みはすでにビジネスになっている。
お金を払えば、AIにおすすめされるように記事を大量に作り、ネットにばらまくサービスまで存在する。

この手口は、「AI投毒」とも呼ばれ、AIに誤った情報を与えて結果を操作する手法として広がっている。

この問題について、台湾の研究機関の研究員、謝沛学氏は本紙の取材に対し、これまで中国で広がってきた検索順位の操作や口コミの水増しといった手法が、そのままAIに入り込んだにすぎないと指摘する。

これまでは人をだます情報だった。しかし今は、AIの判断そのものを操作し、その答えを人に信じさせることができる。今回の実験は、その危険がすでに現実になっていることを示している。

AIの答えは、必ずしも真実ではない。それを疑う力が、これまで以上に求められている。