アンソロピックの安全研究のブログが2026年10月22日、Claude CodeのAuto ModeとOpenAI CodexのGuardianを、攻撃役のAIに破らせた研究を公表しました。どちらも、行動の前に別のAIが通すか止めるかを判定する見張り役です。9月時点の本番の見張り役は、試した場面で攻撃の55%超を止められませんでした。先に無害な命令を通してから中身を書き換える手口や、改良版での対策、まだ解けていない問題まで整理します。
感想
まだ感想はありません。最初の1件を書きましょう！
スクロール