写真はイメージ。2025年5月16日撮影。スマートフォン画面に表示された人工知能(AI)のロゴ(Oleksii Pydsosonnii/英語版大紀元)

Anthropic AI開発停止を提言 AI自己改良とAGIリスクに警鐘

米サンフランシスコに本社を置く人工知能(AI)企業Anthropicは6月4日、声明を発表し、世界の主要なAI研究機関に対し、最先端AIシステムの開発ペースを落とす、あるいは一時停止することを検討するよう呼びかけた。同時に、AIは「再帰的自己改良(Recursive Self-Improvement)」の能力に徐々に接近していると警告した。  

これは、人間の介入をほとんど必要とせずにAIシステムが自ら性能を向上させることを意味し、社会に重大なリスクをもたらすとされる。  

同社が発表した声明によると、研究者らは「最先端AI開発の減速または一時的な停止」が実現すれば、社会的ガバナンスや安全性研究が技術進展の速度に追いつく助けになると考えている。  

▶ 続きを読む
関連記事
米国で社会主義への支持が広がる中、共産主義の暗い歴史を学校で教える重要性を説く論評だ。ソ連や中国での惨劇と自由の抑圧を体系的に学ぶフロリダ州の新教育基準を高く評価し、他州にも導入を呼びかけている
米国立衛生研究所(NIH)は11月16日、国立アレルギー・感染症研究所(NIAID)所長にジョン・パワーズ氏を任命したと発表。NIH所長は「常軌を逸した科学実験」の再発を防ぎ、危険な機能獲得研究を行わせない方針を強調した
11月16日、米国の複数大手銀行やZelleでシステム障害が発生し、口座アクセスや取引に遅延が生じた。サイバー攻撃の証拠はないとされているが、同週のマイクロソフト障害等に続く出来事として注目を集めている
本物の24金を含む代替通貨「ゴールドバック」。直営レストランで約2千ドル相当を受け取った農家が、通貨と食の自立に必要な条件を考察する。理念や収集にとどまらず、地域で実際に使い循環させる行動こそが鍵となる
米連邦航空局(FAA)の通信障害で全米の離陸が停止し、7千便以上が欠航、数万人が空港で足止めされた。ハッキングの有無や深刻な管制システムの老朽化、改修予算を巡る議論など、大混乱の背景に迫る