1. Claudeびいき
  2. 毒を薄めたら効いた!Anthropi..
毒を薄めたら効いた!Anthropicが見つけたAI学習データの裏口
2026-11-17 05:47

毒を薄めたら効いた!Anthropicが見つけたAI学習データの裏口

アンソロピックの安全性研究のブログが2026年11月10日、学習データに仕込んだ毒を薄めると、かえって効き目が強くなる現象を公表しました。特定の名前にだけドイツ語で答える癖を仕込んだ数字の列は、それだけでは効きませんでしたが、きれいなデータを10万件足すと大半の質問で現れました。データを1つずつ検査する守り方では見逃しうる、という話です。実験は他社の小さな公開モデルでおこなわれています。

感想

まだ感想はありません。最初の1件を書きましょう!

05:47

コメント

スクロール