12月14日、 ぴっちりとした伝統服を身にまとったインドの女優、ビキニ姿のバングラデシュの政治家、男性と一緒に写ったパキスタンの若い女性──。いすれも本物ではないが、生成AIが作り出したこうした映像はあまりにリアルで、人びとの欲望や憎悪をかき立て、殺人につながることさえある。写真は2021年9月、インド・ムンバイの街頭で撮影(2023年 ロイター/Francis Mascarenhas)

アングル:広がるディープフェイク、アジア各地で女性の脅威に

[14日 トムソン・ロイター財団] – ぴっちりとした伝統服を身にまとったインドの女優、ビキニ姿のバングラデシュの政治家、男性と一緒に写ったパキスタンの若い女性。

いすれも本物ではないが、生成人工知能(AI)が作り出したこれらの映像はあまりにリアルで、人びとの欲望や憎悪をかき立て、殺人につながることさえある。アジア各地で特に女性がその脅威にさらされている。

体の線がはっきり分かるような服を着た偽動画を広められたインド映画界(ボリウッド)のスター、ラシュミカ・マンダンナさんはX(旧ツイッター)への投稿で「われわれは社会全体で緊急にこの問題に取り組み、アイデンティティーを盗まれることで影響を受ける人が私以外に増えないようにする必要がある」と強く訴えた。

ボリウッドでは、カトリナ・カイフさん、アリア・バートさん、ディーピカ・パデュコネさんといった大物俳優もディープフェイクの標的にされている。

マンダンナさんは自身の偽動画について、「(AI)技術の悪用が進んでいるので、私自身だけでなく、誰もが大きな被害を受けやすくなっている」と話す。

これまではデジタル加工された女性の動画や画像を見つけられるとしても、それはインターネットの片隅に潜んでいるのが普通だった。ところが各種生成AIツールの爆発的普及に伴い、そうした加工が簡単に低コストでできるようになっている。

そして複数の専門家によると、オンライン上に出回っているディープフェイク動画の90%以上がポルノ関連で、大半は女性だ。

デジタルの諸権利に詳しい専門家によると、特にずっと以前から女性がオンライン上での嫌がらせにさらされながらもほとんど処罰が下されなかった保守色が強い社会では、厄介な事態になっている。

パキスタンでは先月、悲劇的な殺人事件に発展するケースもあった。18歳の娘が男性と一緒にいる写真がネットに出回り、激高した父親と叔父が銃殺。これは女性の不貞行為により家族の尊厳が傷ついたことを理由とする、いわゆる「名誉殺人」だが、警察の調べでは写真は加工されたものだった。

ソーシャルメディア側もなかなか対応が追いつかない。

グーグル傘下のユーチューブと、フェイスブック、インスタグラム、ワッツアップを所有するメタ・プラットフォームズは規約を改定し、クリエーターや広告主にAIで生成したコンテンツにはそれと分かるようラベルを表示するよう義務付けている。

ただハーバード大学のAI専門家、ルマン・チョードリ氏は、実際の対応はおおむね犠牲者の負担になっていると指摘。「残念なことに生成AIはオンライン上でのハラスメントを意図したり、有害だったりするコンテンツ(の広がり)を加速させ、女性が真っ先に犠牲となっている」と述べ、誰もの身にも降りかかってきている問題である以上、アジア以外の世界も目を向けなければならないことを物語っていると強調した。

<規制整備の状況>

ディープフェイク拡散とともに、それらが嫌がらせや詐欺、性的脅迫などに悪用されることへの懸念も高まっている。

一方で規制を整備する動きがようやく見え始めた。

米国ではAIに関する大統領令でディープフェイクがもたらす危険性をカバー。欧州連合(EU)は、プロバイダーに透明性と情報開示の強化を求めるAI規制法案を提示している。

米国や英国を含む18カ国は先月、拘束力はないとはいえ、ディープフェイクを含めたAIの悪用から一般市民を守るための合意を打ち出した。

アジアでは中国がプロバイダーに、違法なディープフェイクを報告することなどを義務化。韓国は「公共の利益」を侵害するディープフェイクの流布を違法とみなして罰金ないし投獄で処罰する制度を取り入れた。

インドも新たな規制を設けて厳しい態度で臨もうとしている。

バイシュナウ電子・情報技術相は、ソーシャルメディア運営各社が問題と気づいてから36時間以内にディープフェイクを削除しなければ、サードパーティーコンテンツに関する免責待遇を失うと警告した。

ただ、デジタル諸権利の擁護団体ITフォー・チェンジのマラビカ・ラジュクマール氏は、事後的対応よりも、問題の最小化と防止に重点が置かれるべきだと批判する。

ラジュクマール氏によると、インド政府はプロバイダーとプラットフォーム運営企業にディープフェイクのクリエーターの身元開示を強制する可能性を示唆しているが、プライバシー保護と悪用防止のバランスを確保するのも重要な鍵だという。

関連記事
ワシントン - ジョー・バイデン大統領は5月7日、ユダヤ人に対する憎悪が「あまりにも多くの人々の心に深く根を下ろしている」と述べ、「米国と世界中で猛威を振るう反ユダヤ主義の潮流」に対抗するため、全米国民に本政権を支持するよう呼び掛けた。
地球温暖化による損害賠償を民間企業に義務付けるバーモント州の法案が、ビジネス環境を悪化させ、すでに資金繰りに窮している州民のエネルギー価格を上昇させるのではないかという懸念を呼んでいる。
「信念を貫き、モラルを守れ」、米最高裁判事がアメリカの現状に警鐘を鳴らした。外の世界は厳しい。おそらく、ここしばらくの間で最も厳しい状況でしょう。しかし、だからこそ、あなたの貢献が重要なのだとアリート判事は述べた。
5月13日、フィリピン政府はビデオを公開し、中共が疑念を持たれながらも、南シナ海におけるフィリピンの排他的経済水域内の島々や礁に土砂を投入し、埋め立て活動を行っていると批判しました。フィリピンは船を派遣し、中共の動向を監視している状況です。
5月5日に行われたパナマ大統領選で、ホセ・ラウル・ムリーノ・ロビラ(José Raúl Mulino Rovira)氏はサプライズ当選を果たしたが、これはバイデン政権に影響を与える可能性がある。 バイデンの綱領には、移民がアメリカ南部国境に侵入するのを防ぐためのダリエン地峡(2つの陸塊をつなぎ、水域に挟まれて細長い形状をした陸地)の閉鎖が含まれている。