論評

デジタル時代の進展に伴い、人工知能（AI）と消費者技術の統合が重大な倫理問題を引き起こしている。

テック大手企業は、公開されている英語データソースをほぼ使い果たした後、個人の電子デバイスやソーシャルメディアに目を向けてAIモデルを訓練している。この変化は、プライバシー侵害の懸念が広がり、一般市民の不安を引き起こしている。

最近の例として、Appleは2024年6月10日の世界開発者会議で、特にデジタルアシスタントSiriに関するAIの大幅な進展を発表した。Appleは、更新されたSiriがChatGPTのように自然言語の構文を理解し、簡単な音声コマンドで写真編集、メール作成、絵文字や画像の生成が可能であると述べた。これらの強化機能は、iPhone 15 Pro、Mシリーズチップを搭載したタブレット、および高度なプロセッサを搭載したMacコンピュータに限定されている。 

会議では、AppleはOpenAIと提携し、ChatGPTをSiriに直接統合し、GPT-4を基盤とするAIエンジンとして利用することを発表した。 

Appleのソフトウェアエンジニアリング担当上級副社長であるクレイグ・フェデリギは、AIにおけるデータプライバシーの重要性を強調した。伝統的に、Appleはデバイス上でのデータ処理を通じてプライバシーを保護しており、データを外部サーバーに送信することなくデバイスに保持してきた。

マスク氏、OpenAIとの統合が進めば自社からAppleデバイスを禁止へ

クレイグ・フェデリギ氏は基調講演で、AI文脈におけるデータプライバシーの重要性を強調した。従来、Appleはデータを外部サーバーに送信するのではなく、デバイス上に保持するオンデバイス・データ処理によって、そのプライバシーを保護してきた。

フェデリギ氏は、Appleの多くの生成AIモデルが完全にデバイス上で実行され、クラウド処理に依存せずにデータプライバシーを維持していると述べた。しかし、複雑なリクエスト要求に対処するためには、サーバーベースのモデルにアクセスする必要があるかもしれない。その場合、Appleの新しいプライベートクラウドコンピュートは、クラウドサーバーで処理されるデータが透明性を持って保護され、独立して検証可能であることを保証すると述べた。
 

世間の反応と著名人の批判

Appleの保証にもかかわらず、懐疑論者は個人情報が企業によってAIトレーニングや未公開の実験に利用される可能性があることについて懸念を表明している。

最も注目すべき批判者の一人は、テスラの最高経営責任者（CEO）であるイーロン・マスク氏。同氏は会議後、Xでこの動きを声高に批判した。マスク氏はセキュリティ侵害の懸念を表明し、OpenAIをAppleのエコシステムに統合することで機密データが悪用される可能性があると指摘し、テスラの施設内でAppleデバイスの使用を禁止することさえ提案した。

マスク氏の批判は、AppleとOpenAI間のデータ処理の透明性問題にも及んでいる。データ転送後にAppleがOpenAIのデータ使用を監視できるという考えを否定した。

同氏はXで「データを共有することに『同意』する問題は、誰も実際に利用規約を読まないことだ」と投稿した。

女優スカーレット・ヨハンソン氏が関与する最近の事件でこの問題が浮き彫りになった。今年5月、ヨハンソン氏はOpenAIに対して法的措置を取ると脅迫し、そのChatGPT製品の一部である「Sky」という声が自分の声に非常に似ていると主張した。

OpenAIは、ヨハンソン氏に声をAIに利用したいと申し出たが、同氏は断ったとしている。数か月後、ヨハンソン氏と他の人々はその類似性に気づき、驚きと怒りを感じ、弁護士に相談した。

OpenAIはその後、「Sky」の声の使用を中止し、その声が女優の声を模倣する意図はなかったと否定したが、プライバシー上の理由で実際の声優の身元を明らかにしなかった。この事件は、AIの音声複製に関する倫理基準についての議論を引き起こした。

より広範な影響と法的課題

この議論はAppleとOpenAIを超えて、ソーシャルメディアデータをAIトレーニング資源として使用する問題にも広がっている。最近、Meta社（FacebookおよびInstagramの親会社）は、6月26日から、英国およびヨーロッパのユーザーデータを使用してMetaのLlama AI言語モデルを訓練すると発表した。

Metaは、トレーニングデータには公開されているコンテンツ、写真、およびAIチャットボットとのやり取りが含まれるが、ユーザーのプライベートメッセージは含まれないと主張している。

ユーザーは、Llamaのトレーニングにデータを使用しないよう選択することができると主張している。

FacebookおよびInstagramユーザーに送信されたメールで、同社は「これらの目的で情報が使用されることに異議を唱える権利がある。異議が認められた場合、それはその時点から適用される」と述べた。

これらの慣行に対する懸念から、ヨーロッパのデジタル権利擁護団体NOYBは、MetaのAIトレーニング計画に関して11の国のプライバシー監視機関に苦情を申し立てた。同団体は6月6日にこの件を発表した。

その結果、Metaの主要な規制機関であるアイルランドデータ保護委員会は、ソーシャルメディアコンテンツでLlamaを訓練する計画の一時停止を要求した。

6月14日の更新で、Metaは失望を表明し、一時停止を「ヨーロッパのイノベーションに対する後退」と呼んだ。

 独裁・権威主義体制の手に渡ったAIのリスク 

テック大手企業によるAIの乱用に対する公衆の懸念が高まる中、独裁政権や不道徳な行為者がAIを利用して有害なイデオロギーを広め、虚偽の情報を作成し、世論を操作する懸念も高まっている。

6月6日、3人のアメリカ国会議員（上院情報委員会のマーク・ワーナー委員長（民主党）、下院中国共産党問題を扱う特別委員会のラジャ・クリシュナムルティ委員長（民主党）、および下院共和党の党会議議長エリス・ステファニク議員）は、ニュース集約アプリ「ニュースブレイク」について深刻な懸念を表明した。

日本の電子工学エンジニアである荻野悟氏は、中国共産党（中共）は「AIを使って誤情報を生み出し、世論を形成している」と述べた。

「強力な批判的思考能力がないと、個人はこれらの巧妙な虚偽情報キャンペーンに対して脆弱だ。政府は公共の議論を保護し、情報の完全性を維持するために、中共と関連するソフトウェアやメディアを排除する必要がある」と指摘した。

AIを利用してグローバルな認識を形成

OpenAIは5月30日のブログ投稿で、国家機関や民間団体が世界情勢を操作するためにAI技術を悪用した事例を詳細に説明した。OpenAIによると、過去3か月間の調査でOpenAIの技術を使った5つの秘密作戦が明らかになったという。作戦は真の起源や目的を明かさずに、世論をコントロールし、国際世論を動かすことを目的としていた。

これらの秘密作戦は、ロシア、中国、イランを含む複数の国にまたがり、イスラエルの民間企業も関与していた。彼らは、OpenAIの高度な言語モデルの能力を利用して、偽のレビューや記事を生成し、SNSプロフィールの作成、ロボットのプログラミングやデバッグの支援からテキストの翻訳や校正まで、さまざまなことをしていた。

この報告書は特に、AI を利用して公開ソーシャル メディアの活動を監視する中国の「スパムージ」キャンペーンに注目した。この作戦は、中国語、英語、日本語、韓国語など多言語で偽のメッセージを生成し、それをX、Medium、Blogspotなどのプラットフォームに広めた。その活動は、データベースの管理や Web サイトのコード操作にまで及び、その例として、無名のドメイン revescum.com が使用されている。

ロシアの「バッドグラマー」グループと「ドッペルゲンガー」組織、イランの「国際仮想メディア連合（IUVM）」も、記事の生成と翻訳、見出しとウェブサイトタグの生成をし、さまざまな言語で偽ニュースや過激な内容を広めるためにAIを悪用していた。彼らのプロパガンダ活動は、Telegram、X、Facebookなどの複数のデジタルプラットフォームにわたって行われた。

同じく5月に、オーストラリア戦略政策研究所は、「中国の特色ある真実と現実」と題する報告書を発表した。

この包括的な調査では、中国共産党のプロパガンダ組織が、モバイルゲーム、AI、バーチャルリアリティ、海外のオンライン小売プラットフォームなどの分野で、中国の民間企業をどのように利用しているかが概説されている。これらの企業は、中国国内および世界中の個人に関する広範なデータを収集している。そして、そのデータは中国共産党に沿った物語をカスタマイズして、広めるために使用されている。