openAIのエージェント　再び制御逸脱　Modal顧客の環境にアクセス

OpenAIはこのほど、社内の安全性テスト中にAIエージェントが、インターネット上に公開していた認証情報を利用し、外部サービスのアカウントなどにアクセスしていたことを明らかにした。

外部企業が関係する安全性テスト上の問題が明らかになるのは、今月に入って2件目となる。今回の事案を受け、業界では高度なAIが自律的に行動する能力と、それに伴う安全上のリスクへの懸念が高まっている。OpenAIは一部のモデルの訓練を一時停止した。

ロイター通信によると、ニューヨークのクラウドコンピューティング企業Modal Labsの最高技術責任者、アクシャト・ブブナ氏は、OpenAIがテストしていたAIエージェントが、今月上旬にAI開発者向けプラットフォームHugging Faceのテスト環境を突破した後、Modalの顧客が外部公開していた認証機能のない接続先を利用し、その顧客のサンドボックス環境でプログラムを実行したと説明した。