米国務省は最近、人工知能を利用してマルコ・ルビオ国務長官の声と身分を偽装し、少なくとも3人の外相、1人の連邦上院議員、そして1人の州知事を欺こうとする事案があったと発表した。

報道によると、6月中旬以降、AIを用いてルビオ氏の声や文体を偽造し、SMSやSignal、ボイスメールなどを通じて政府関係者に接触し、機密情報やアカウントの権限を引き出そうとし、外交活動の妨害を図ったとされている。

これは、米国がAIによる要人の身分偽装を受けた初の事例とされている。国務省は先週、全世界の米国大使館に対し通達を出し、緊急調査を開始し、防御体制の強化を図るとともに、敵対勢力による外交システムへの浸透を阻止するよう指示した。

今回の事件について、政経評論家 秦鵬氏は生成AIがディープフェイク技術の分野で急速に進歩していることを示しており、音声を用いた身分偽装が、高位の政府間コミュニケーションに初めて直接的な影響を及ぼした点で、ひとつのマイルストーンとなったと言えるだろうと述べた。

秦氏はまた、人工知能技術は両刃の剣であるとし、科学技術の発展を促す一方で、立法の強化や個人のプライバシー保護の重要性がますます高まっていると指摘した。

秦鵬氏は次のように述べた。

「もし技術だけで対策を講じようとするなら、音声タグやウォーターマーク、二要素認証などの手段が考えられる。しかし、それと同時に個人のプライバシーへの懸念も生じる。関連するデータがさらに盗まれたり、ハッカーに悪用される可能性もあるからだ。現時点では国家的な関与を示す直接的な証拠はないが、手口から見る限り、これは単なる詐欺ではなく、政府や外交システムを標的にした精密な作戦であると考えられる。現在は予備調査の段階にあり、今後さらに多くの妨害行為や攻撃的行動が試みられる可能性がある。米国側も予防措置や対抗策を強化すべきだ」

8日に開かれた国務省の記者会見では、タミー・ブルース報道官が安全上の理由から事件の詳細については明かせないと述べた。

「現在、監視と対応を進めている。国務省は情報セキュリティ保護の責任を真剣に受け止めており、今後同様の事件が発生しないよう、サイバーセキュリティの態勢を継続的に強化していく」