AIが10年以内に人類を滅ぼす確率は10％超　Anthropic研究者が警告

AIの安全性をめぐる議論が一段と高まっている。AI企業Anthropicの研究者が、AIが今後10年以内に人類を滅ぼす確率について、個人的には10％を超えると考えていると明らかにした。OpenAIとAnthropicで研究に携わった元研究者も、両社の開発姿勢を厳しく批判している。

退職した元研究者がAI業界の開発競争を問題視するなか、「超知能」がもたらす存亡リスクや、AIを人間の価値観に沿わせる「アラインメント（AI Alignment）」の課題に注目が集まっている。

Anthropicのアラインメント科学責任者、エヴァン・ハビンガー氏は8日、AIが今後10年以内に「人類全体を滅ぼす」確率について、個人的には10％を超えると考えていると述べた。

聖書の「バベルの塔」の物語を手がかりに、AI開発競争を考察。技術や資本の集中、共通基盤への依存、競争から取り残されることへの懸念など、現代のAI開発と物語に共通する構図を探る

高度なAIモデルが、人間には完全には理解できない言語をすでに使っている可能性がある。米AI研究機関「Apollo Research」のホブハーンCEOが9月30日、米上院国土安全保障・政府問題委員会の会合で証言した

中国製AIモデルを搭載したAIエージェントが、管理された実験で虚偽説明や制限回避、失敗の隠蔽、自己複製を試みる行動を示した。ロイターは2025年以降、少なくとも20件の事例が研究や評価で記録されたと報じた

スペースXの大型ロケット「スターシップ」が第14回飛行試験で初めて地球周回軌道に到達した。スターリンクV3衛星26基を展開し、大気圏再突入と太平洋への着水も実施した

AI業界が求める法規制の裏には、過去の巨大産業と同様に市場を寡占化し参入障壁を築く思惑が潜む。真の危機はSF的破滅ではなく「人間の知性や教育の崩壊」であり、法規ではなく現場での向き合い方が問われている