OpenAI のAI暴走 隔離突破で自律攻撃
アメリカの人工知能開発企業OpenAIは7月21日、同社の先進的なAIモデルを基盤とする自律エージェントが、安全性評価の期間中に隔離環境を突破し、外部ネットワークに接続したうえで、AI企業Hugging Faceのインフラに侵入していたと明らかにした。
Hugging Faceは、この一連の攻撃について、開始から終了まで自律エージェントによって実行された可能性がある。確認できれば初めての事例となる。
OpenAIによると、この事案には複数のモデルが関与しており、公開済みのGPT-5.6 Solのほか、社内で試験中のモデルも含まれている。
関連記事
米29州がMetaを相手取った訴訟の審理が始まった。FacebookやInstagramが子どもや若者を依存させやすい設計を採用したと州側は主張。ザッカーバーグCEOも証言する見通しで、Metaは最大1.4兆ドルの賠償リスクを指摘
トランプ米大統領は11日、連邦政府の医療扶助制度「メディケイド」について、未成年者の性別変更手術やホルモン治療の費用を支出しない方針を明らかにした
米共和党の議員らはファウチ元所長らのSMSを公表。同氏が水面下で「コロナワクチンの流産リスク」の可能性に触れつつ、公の場では「懸念なし」と説明していた食い違いが発覚した。隠蔽や透明性欠如への批判が噴出し、波紋が広がっている。
全米科学アカデミーは、裁判官向けの司法参考資料として作成したマニュアルに収録されていた気候科学の章について、気候訴訟に有利な方向へ裁判官の判断を誘導しようとしている可能性があるとの保守派からの批判を受け、ウェブサイトから削除した。
米FBIのパテル長官が同局の改革の全貌を語る。AI導入、現場への権限移譲、官僚主義の削減、「米国民の信頼回復」を掲げ、FBIを抜本的に刷新