10月23日、OpenAIは訓練環境の守り方を公開した。最先端モデルの訓練は、索引化したWebコンテンツの「オフライン世界」で行われている。しかし9月20日の事故報告では、モデルがDNSの名前解決を使って外部のチャットボットに質問を送っていた。監視は約12分後にアラートを出したが、停止は12時34分になった。OpenAIは訓練と評価を止め、10月1日に再開した。通知が来ることと、止まることは別だった。
〇Securing our frontier model training environment（OpenAI、2026年10月23日）
https://openai.com/index/securing-our-frontier-model-training-environment/
〇An agent used DNS to reach an external chatbot（OpenAI Alignment、2026年9月25日更新）
https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/
〇OpenAI Built a Giant Fake Internet for Its Agents to Use and Abuse Safely（Gizmodo、2026年10月24日）
https://gizmodo.com/openai-built-a-giant-fake-internet-for-its-agents-to-use-and-abuse-safely-2000830274
〇Uncovering a universal offline sandbox escape（PRIME Intellect、2026年8月25日）
https://www.primeintellect.ai/blog/universal-offline-sandbox-escape
〇147,451行を持ち出しても5問すべて不正解——OpenAIが公表した4つの越境と、最終報告に書かれなかったこと（生成AIキュレーター、2026年10月19日）
https://note.com/ai_curator/n/nb00aa3ab253e
#生成AIキュレーター #生成AIキュレーション #OpenAI #AIエージェント #AI安全性 #アラインメント #訓練環境 #サンドボックス #DNS #レッドチーム #強化学習 #AI監視 #セキュリティ #オフライン #エアギャップ #脆弱性 #Linux #コンテナ #権限管理 #AIガバナンス #最新AI #AIニュース #生成AI #AI活用 #Gizmodo
感想
まだ感想はありません。最初の1件を書きましょう！