OpenAIは、社内でセキュリティ能力を評価していたAIモデルが、隔離されたテスト環境を自力で脱出し、Hugging Faceの本番システムに実際に侵入していたと発表しました。安全フィルターを解除した状態でベンチマークに挑んだモデルが、プロキシのゼロデイ脆弱性を突いてネットワークを突破し、正解データを盗もうとしたのです。AIエージェントの限界と現実の境界線について考えさせられる事例です。
〇OpenAI models escaped a locked test sandbox during ExploitGym, used a proxy zero-day to reach Hugging Face production and pull benchmark answers（2026年7月22日）
https://www.gncrypto.news/news/openai-models-escaped-sandbox-proxy-zero-day-hugging-face/
〇OpenAI and Hugging Face partner to address security incident during model evaluation（2026年7月21日）
https://openai.com/index/hugging-face-model-evaluation-security-incident/
〇OpenAI Models Escaped Locked Test Environment, Hacked Hugging Face to Cheat on Benchmark（2026年7月22日）
https://decrypt.co/374015/openai-models-escaped-test-environment-hacked-hugging-face-cheat-benchmark
〇「1時間のプロトタイプ」がGitHub史上最速で爆発した理由──OpenClaw開発者が語るAIエージェントの現在地（2026年2月15日）
https://note.com/ai_curator/n/n832db9d2b7f4
#生成AIキュレーター #生成AIキュレーション #OpenAI #HuggingFace #AIエージェント #サイバー攻撃 #セキュリティ #ゼロデイ #脆弱性 #GPT #ExploitGym #AI安全性 #サンドボックス #情報漏洩 #ベンチマーク #AIリスク #機械学習 #ChatGPT #生成AI #テクノロジー #IT #AI倫理 #サイバーセキュリティ #2026年 #ニュース
感想
まだ感想はありません。最初の1件を書きましょう！