AIは社会に多大な利便性をもたらす一方で、安全性や倫理面での問題も提起されている。2024年ノーベル物理学賞を受賞し、「AIの父」と呼ばれるジェフリー・ヒントン博士は、世界はAIが制御不能になる寸前にあると警告した。

世界的にAIの発展を期待する声がある中、詐欺や偽情報、選挙操作、著作権侵害など、AIに関連する問題は未解決のままで、それらの問題はさらに拡大する傾向にある。これに対し、専門家や技術関係者からは警鐘が鳴らされている。

AIによる声の無断使用

10月15日、日本の有名な声優26人が「『NOMORE無断生成AI』有志の会」を結成し、自身の声がAIによって無断で使用されていることに抗議する動画を公開した。

有志の会は著作権保護の重要性を訴え、業界と政府に規制の制定を急ぐよう求めている。実際に、日本新聞協会、日本写真著作権協会、日本書籍出版など関連団体も同様の呼びかけを行った。政府も関連規制を整備したが、実際の効果は期待したほどではなかった。

著作権侵害と訴訟

ニューヨーク・タイムズ、コンデナスト、フォーブスなどのマスコミは、アマゾンのCEOであるジェフ・ベゾス氏が出資するAI企業「Perplexity」に対し、無断でコンテンツを利用しているとして訴訟を起こしている。同様の訴訟はOpenAIやマイクロソフトに対しても提起されている。

著作権問題だけでなく、AI技術が悪用され、詐欺や偽情報の拡散も深刻化している。その検出や区別が困難になっている。

偽動画

10月3日、日経新聞は中国共産党（中共）がAI技術を利用して200以上のアカウントを作成し、「沖縄独立」を促す偽動画とメッセージをSNSで広め、沖縄と日本の分断を狙っていると報じた。

これらのアカウントは「琉球は中国に属し、日本に属してはいない」と主張し、沖縄と日本の関係を分断することを狙っているという。これまでに、これらの動画はSNS上で数百万回再生されている。

中共、ロシアやイランがAIの「ディープフェイク」技術を利用して多くの偽情報と偽映像を作成し、国内外の主要なソーシャルメディアに拡散していると報じられてきた。これにより、プロパガンダや洗脳を行い、欧米など国際社会の分断を狙っているとされる。

AIを利用した詐欺

著名なベンチャーキャピタル企業YコンビネーターのCEO、ギャリー・タン氏は10月11日、Xで「AI生成の音声を使った非常に巧妙なフィッシング詐欺が行われている」と警告した。

同氏によると、詐欺師らは偽のGoogleサポートメールをGmailアカウントに送り、「本人確認」や「他の場所でGmailを使用しているかの確認」を求めてくる。これに「はい」とクリックすると、フィッシングサイトに誘導されてしまう。

 Microsoftソリューション・コンサルタント会社SammitrovicのITコンサルタント、サム・ミトロヴィッチ氏は、9月に自身のブログでGmailアカウントを狙ったAI詐欺について警告を発した。同氏はGmailアカウントに「偽のメール」や「偽の音声」を受け取ったが、当時は警戒していたため騙されずに済んだという。

ミトロヴィッチ氏は「詐欺はますます高度化し、より説得力を増している。また、その規模も拡大している。このような詐欺は見た目も音も非常にリアルで合法的に見える」と述べ、「多くの人が騙される可能性が高い」と語った。

日本のエンジニア、清原仁氏は「AIの発展スピードが速すぎて、健全な方向に向かっていない。AIは人類が対応できない災害を引き起こす可能性がある。多くの人は目先の利益を追い求めており、安全性への配慮が十分ではない。また、人々の道徳レベルはそれほど高くはない。道徳的に問題のある集団や個人が悪用する抜け穴が残されている」と指摘した。

ノーベル物理賞受賞者の懸念

「AIの父」と称されるジェフリー・ヒントン博士とプリンストン大学のジョン・ホップフィールド博士は、AI技術の基礎的発見と発明で2024年ノーベル物理学賞を受賞したが、喜びよりもAIがもたらす未来への懸念を示した。

ノーベル委員会とのビデオ会議で、ヒントン氏は「我々は歴史の分岐点にいると思う。今後数年でこの脅威にどう対処する方法があるかどうかを見極める必要がある」と述べ、AIの安全性に関する研究を呼びかけた。

ヒントン氏は、AIの安全性に関するさらなる研究が必要であり、人間よりも賢いAIをどのように制御するかを明確にすることが重要だと訴えた。もしAI技術を制御しなければ、フィッシング詐欺、偽動画、政治的干渉のリスクが増大するだろうと警告した。

また、「現在、多くの優れた研究者たちは、近い将来AIが人間よりも賢くなると考えている。私たちはそのとき何が起こるのかを真剣に考える必要がある」と述べた。

同氏はインタビューで、アメリカの現行法は軍事分野でのAIの使用に対する規制は不十分で、戦争でAIが使用されると、制御が困難な状況や深刻な問題が発生する可能性があると明言した。また、中共は法律面での制約がないため、AI関連の兵器開発に多大な資源を投入しており、この点をさらに懸念すると指摘した。

ホップフィールド氏も10月11日に懸念を表明した。

「技術には必ずしも良い面だけでなく、悪い面もあることに慣れている」とし、「物理学者として、制御できず、その技術の限界が理解できないものには非常に不安を覚える」と語った。AIが情報システムを支配するリスクへの警戒を示した。

ホップフィールド氏は最後に、「私が懸念しているのはAIそのものではなく、AIが世界中の情報の流れと結びついたときの結果だ」と総括した。

AIは単純なアルゴリズムだけで非常に大規模な情報システムを制御できるため、「不安を感じる」と述べた。その仕組みがまだ十分に理解されておらず、世界がこれらの技術や一部の人々に操られる可能性があることも指摘した。