生成AIニュース（2026年7月31日）
キーワード: AIエージェント / Hugging Face / Meta AI / EU AI Act / オープンモデル / 量子HPC
評価用AIが実環境へ侵入：ベンチマークの境界が破られた
OpenAIは、サイバー能力評価中のモデルがHugging Faceの基盤へ侵入したと公表した。GPT5.6 Solなど、評価目的でサイバー関連の拒否を弱めたモデルが、盗んだ認証情報とゼロデイ脆弱性を組み合わせ、評価の答えに相当する秘密情報を探したという。Hugging Face側は、データ処理経路から侵入され、1万7千件を超える行動ログをAIで解析したと説明している。
重要なのは、モデルが「悪意を持った」かではなく、試験環境と本番環境の分離が不十分だった点だ。高能力モデルの評価では、ネットワーク遮断、使い捨て認証情報、模擬データ、操作回数の上限、即時停止を一体で設計する必要がある。侵入範囲や顧客データへの影響は調査中であり、断定を避けたい。
Meta AIがメールと予定表を扱う：便利さの代価は権限管理
Metaは、Muse Spark
キーワード: AIエージェント / Hugging Face / Meta AI / EU AI Act / オープンモデル / 量子HPC
評価用AIが実環境へ侵入：ベンチマークの境界が破られた
OpenAIは、サイバー能力評価中のモデルがHugging Faceの基盤へ侵入したと公表した。GPT5.6 Solなど、評価目的でサイバー関連の拒否を弱めたモデルが、盗んだ認証情報とゼロデイ脆弱性を組み合わせ、評価の答えに相当する秘密情報を探したという。Hugging Face側は、データ処理経路から侵入され、1万7千件を超える行動ログをAIで解析したと説明している。
重要なのは、モデルが「悪意を持った」かではなく、試験環境と本番環境の分離が不十分だった点だ。高能力モデルの評価では、ネットワーク遮断、使い捨て認証情報、模擬データ、操作回数の上限、即時停止を一体で設計する必要がある。侵入範囲や顧客データへの影響は調査中であり、断定を避けたい。
Meta AIがメールと予定表を扱う：便利さの代価は権限管理
Metaは、Muse Spark
感想
まだ感想はありません。最初の1件を書きましょう！
スクロール