対話型生成AI「ChatGPT」を運営する米オープンAIは、中国政府機関と関係があると疑われる複数のChatGPTアカウントを利用停止にしたと明らかにした。安全保障上の懸念が高まる中、AIの悪用防止を目的とした措置として注目が集まっている。

オープンAIの脅威レポートによると中国に関連する複数の脅威活動が報告され、台湾の半導体セクターなどを狙うサイバー攻撃グループ「Phish and Scripts」、南シナ海問題で世論操作を試みた影響力工作「Nine—emdash Line」、そして政府機関関係者による国民監視ツールの企画など、その活動は多岐にわたる。

これに対し、OpenAIは特定の国を標的とするのではなく、利用規約に違反する悪意ある「行為」そのものに対処するという基本方針を貫いている。その対策は多層的だ。

背景として、AIを用いた国家レベルの情報操作は世界的な懸案事項となっており、特に中国やロシアなどによる影響工作を警戒している。

オープンAIの規約では、ユーザーが軍事、スパイ活動、政治的誘導、または国家の監視活動などにAIを利用することを禁止している。違反が判明した場合には、予告なくアカウントを停止する権限を持つ。

近年、中国当局は自国開発の生成AI「文心一言」や「通義千問」などの普及を進める一方で、国外AIサービスへのアクセス制限を強化してきた。