高度なAI（人工知能）は人類に深刻なリスクをもたらす恐れがあるーー。イーロン・マスク氏ら技術界の実業家や有識者らは28日、予想困難な最先端AIの開発競争によって「地球上の生命の歴史」に大きな変化がもたらされるとして、開発を少なくとも6か月は中止し、外部機関や政府当局による管理のもとで研究を進めていくべきだと呼びかけた。

書簡では、人工知能研究所「OpenAI」が開発した高度対話システム「ChatGPT」をはじめとする現在のAIシステムは、一般的な課題への取り組みで普通の人間と競争的な存在になりつつあると指摘。「人間に取って代わるかもしれない人間以外の心を開発する必要があるか、文明の制御を失う危険を冒すべきか」と注意喚起を呼びかけた。

書簡は非営利団体「フューチャー・オブ・ライフ・インスティチュート」が発表。マスク氏のほかAI研究家ヨシュア・ベンジオ氏やスチュワート・ラッセル氏、アップル、スカイプ、ピンタラスト、リップルなど大手ITサービス共同創設者ら1000人以上が署名している。

マスク氏らは、最先端AI開発は確実なリスク管理のもと、その成果が社会的にプラスの作用を働くことを確信できる場合のみ開発許可があたえられるべきであり、第三者の有識者組織が最先端AI開発の安全性に関する共通規範の必要性を訴えた。

さらに政策立案者と共にAIのガバナンスシステムの早期設置を求めた。具体的にはAIの膨大な計算能力の追跡と監視、真偽を判定する仕組み、AIの安全な技術研究への公的支援、AIが引き起こす経済面・政治面（特に民主主義）の混乱に対処する制度について詳述した。

今月14日に発表されたGPT-4は司法試験や医学試験にも高得点で合格するなど能力が向上している。画像分析のほか、多言語への対応能力も向上させた。認知戦が繰り広げられるなか、高度なAI技術を用いた偽情報の発信も懸念されている。

なお、メタ（旧フェイスブック）のAI開発担当チーフでニューヨーク大教授のヤン・レクン氏や、OpenAI代表サム・アルトマン最高経営責任者（CEO）は、この書簡への署名を見送った。