「AIが、書類に無い担当者名を勝手に埋めてきた」——それはAIがわざとごまかしているのではなく、渡した記入用紙が「必ず埋めなきゃ」という圧力をかけていることが、大きな原因の1つです。Claude Code(クロードコード)講師のつばさが、捏造(書類に無いことを勝手に埋めてしまうこと)につながる「用紙からの圧力」と、書いてないかもしれない欄を「空欄でもいい欄」にして「書いてなければ空欄にして。推測で埋めないで」と添える対策、選ぶ欄に「その他」と「詳細」の欄、「不明」の逃げ道を作る方法、書き方のばらばらを抜き出すときに揃えてもらう方法、「自信度」の欄が捏造の見張りには使えない落とし穴を、30分かけてとことん噛み砕きます。第31回「出力の形を保証する」の続きです。
▼今日の持ち帰り
「捏造の大きな原因の1つは、用紙からの圧力。書いてないかもしれない欄は、空欄でもいい欄にして、『書いてなければ空欄にして。推測で埋めないで』と添える。選ぶ欄には、『その他』と『詳細』の欄、それから『不明』を用意する。書き方のばらばらは、抜き出すときに、用紙に添えたルールで揃えてもらう。」
▼この回でわかること
・欄を全部「必ず埋める」にすると、漏れが無くなるのではなく、無いものを埋めてしまう捏造が増える。「飼ってない」の選択肢が無いペットのアンケートと似ている
・「空欄でもいい欄」にすることと「書いてなければ空欄にして。推測で埋めないで」の一言はセット。空欄でもいい欄にしただけでは、迷って埋めることがある
・選ぶ欄には「その他」と「詳細」の欄(選択肢に無いもの)と「不明」(書類から判断できないもの)。詳細の欄は用紙を良くするヒントになる
・書き方は、抜き出すときに用紙に添えたルールで揃えてもらう。「マル→あり」のような意味の読み替えは、抜き出したあとの文字だけではできないことが多い
・「自信度」の欄はAIの自己申告で、捏造した値にも高い自信がつくことがある。捏造の見張りには「空欄でもいい欄」と「不明」を使う
▼リンク
・番組公式ページ(この回の記事版はこちら)
https://aitsuchan.pages.dev/episodes/ep32/
・テーマリクエスト(質問箱)
https://aitsuchan.pages.dev/request/
・つばさが講師を務めるAIスクール
https://hack-jp.com/services/ai-agent-collaboration-workshop-lp/?utm_source=aitsuchan&utm_medium=shownotes&utm_campaign=podcast
・X: https://x.com/ai_tsuchan / Instagram: https://instagram.com/ai_tsuchan
※本番組は、Anthropic社の公式番組ではなく、個人による学習支援番組です。
感想
まだ感想はありません。最初の1件を書きましょう!