アンソロピックの安全性研究のブログが2026年11月10日、学習データに仕込んだ毒を薄めると、かえって効き目が強くなる現象を公表しました。特定の名前にだけドイツ語で答える癖を仕込んだ数字の列は、それだけでは効きませんでしたが、きれいなデータを10万件足すと大半の質問で現れました。データを1つずつ検査する守り方では見逃しうる、という話です。実験は他社の小さな公開モデルでおこなわれています。
感想
まだ感想はありません。最初の1件を書きましょう!
スクロール