Anthropic AI開発停止を提言 AI自己改良とAGIリスクに警鐘
米サンフランシスコに本社を置く人工知能（AI）企業Anthropicは6月4日、声明を発表し、世界の主要なAI研究機関に対し、最先端AIシステムの開発ペースを落とす、あるいは一時停止することを検討するよう呼びかけた。同時に、AIは「再帰的自己改良（Recursive Self-Improvement）」の能力に徐々に接近していると警告した。
これは、人間の介入をほとんど必要とせずにAIシステムが自ら性能を向上させることを意味し、社会に重大なリスクをもたらすとされる。
同社が発表した声明によると、研究者らは「最先端AI開発の減速または一時的な停止」が実現すれば、社会的ガバナンスや安全性研究が技術進展の速度に追いつく助けになると考えている。
関連記事
トヨタとホンダが多数を占める高耐久モデル8車種を紹介。20万マイル超えは通過点とする信頼性の高さと、長く乗るための鍵となるメンテナンスの重要性に注目
最先端のAIモデルが、高度に暗号化された機密ネットワークに侵入する能力を示したとの主張をめぐり、ここ数週間、米 […]
ペンタゴン（米国防総省）は7月10日、UFO文書の新たな第4弾を公開した。この中には、マンハッタン計画に携わった科学者らが参加した会議の議事録も含まれている。
アメリカ大リーグ（MLB）で大谷翔平選手、山本由伸投手、佐々木朗希投手が所属するロサンゼルス・ドジャースは昨季、ワールドシリーズ連覇を果たした。その偉業をたたえるため、7月23日に連覇を記念してホワイトハウス訪問を予定している。
独立記念日の連休を迎える中、米国東部は今年最も激しい熱波に襲われている。「ヒートドーム」現象の影響を受け、ニューヨークの7月2日の最高気温は摂氏40度に迫り、体感温度はさらに高い44度に達した。