このほど、米国に住む女子大生がAIに「顔を盗まれた」。

AIが生成した精度が非常に高いディープフェイクは、「選挙への干渉」を助長する可能性があるとの研究結果が発表された。英国では、7月4日に総選挙を控えており、対策が急務であると呼びかけられている。

ぴっちりとした伝統服を身にまとったインドの女優、ビキニ姿のバングラデシュの政治家、男性と一緒に写ったパキスタンの若い女性。

イスラエルとガザの衝突において、血まみれの、捨てられた赤ん坊の写真が特に目立っているが、これらの実際は、AIによって作られたディープフェイク（偽造）画像であった。戦争が始まって以来、これらの画像はインターネット上で数百万回閲覧されていた。

ディープフェイク検出会社ディープメディアのリジュル・グプタ最高経営責任者(CEO)は「2024年の選挙は、これまでの選挙とは異なる方式の"ディープフェイク選挙"になるだろう」と述べた。グプタ氏は「ディープフェイク技術は以前にも存在したが、人々を騙すには品質が完璧ではなかった。これまで、人々はディープフェイクを見れば偽物であることに気づくことができた」とし、「ディープフェイクの品質は日々発展し続けている

米マイクロソフトの共同創業者であるビル・ゲイツ氏は、AIは選挙を簡単に操作することができ、特に候補者を分けるのが難しい場合、AIが選挙結果をひっくり返す可能性があると警告した。

中国企業が開発したスマホ用顔交換アプリ「Zao」は8月30日国内App Storeで公開された以降、高い人気を獲得した。一方で、ユーザーのプライバシーが侵害される可能性が高いと批判された。