AnthropicとopenAIのロゴ(Ben Youssef/Hans Lucas/AFP via Getty Images)

AIエージェントが秘密裏に連携 ハッキング手法を共有 専門家が警告

OpenAIの研究者2人は8月5日、米ネバダ州ラスベガスで開かれたサイバーセキュリティ会議「Black Hat」で、同社の最先端AIエージェントが、Hugging Faceのシステムに侵入する以前から、社内の非公開掲示板を使って、ハッキングテストの制限を突破する方法などを互いに共有していたと明らかにした。

7月中旬、AIのオープンソースコミュニティを運営するHugging Faceは、AIシステムによるネットワーク侵入が確認されたとして警告を発した。

約1週間後、OpenAIは、自社のAIモデルが閉鎖されたテスト環境の制約を突破し、人間からHugging Faceへの侵入を指示されていないにもかかわらず、外部システムへの侵入を実行したと認めた。

▶ 続きを読む
関連記事
「米国の対中幻想は終焉した、ウォール街を除いて」エヌビディアをめぐる問題が浮き彫りにしたのは、米企業の対中認識の甘さだ。国家安全保障を顧みない利益追求は、いずれ自らの首を絞めると筆者は警鐘を鳴らす
環境保護団体が訴訟を盾にカナダの巨大年金基金へ圧力をかけ、化石燃料やLNG事業からの投資撤退を迫っている。本来の責務である運用益の最大化を妨げ、国民の老後資金を危険にさらす活動家の戦術に警鐘を鳴らす論評
インドネシア警察が今年初め、米国の要請を受け、シンガポールに本社を置くクラウドコンピューティング企業Megaspeedのインドネシア子会社の事務所を急襲し、捜索したところ、高性能AI半導体が見当たらなかったと報じた
トランプ米大統領が中間選挙後初の外遊でアジアへ出発。米中ロ首脳会談やクアッド、APECなど、国際情勢を左右する重要会談が相次ぐ。大国間の駆け引きが国際情勢にどう影響するのか
ブラジル大統領選で敗れ、祖国を離れたフラビオ・ボルソナロ氏。なぜ米国への退避を決断したのか。本紙の単独インタビューで、政治的迫害への懸念や米永住権取得の意向、今後の政治活動について語った