1. AIと仕事の仕組み化ラジオ
  2. AIエージェント日次速報 2026..
AIエージェント日次速報 2026年11月15日版 書かせた本人に見直させず、別の文脈にレビューを頼む
2026-11-15 05:21

AIエージェント日次速報 2026年11月15日版 書かせた本人に見直させず、別の文脈にレビューを頼む

おたよりを送る
エージェントにコードを書かせ、同じ会話の中で「問題がないか見直して」と頼んだ。返ってきたのは「確認しました。問題ありません」の一行だった。そのまま取り込むと、翌日に境界値の漏れが見つかる。見直したはずの箇所は、実は一行も読み直されていなかった。この一行の報告に、検査としての価値はほとんどない。

同じ会話には、書いたときの理屈がすべて残っている。モデルはその理屈を前提として受け取り、コードではなく自分の説明を読み返す。誤った仮定は、書いた側の文脈では正しいものとして扱われやすい。同じ文脈で見直させても、誤りを見つける目は増えない。同じ目が二度通るだけだ。

直近の三日は、並列実行の作業場所、事故のあとの記録、調べさせた結果の鮮度を見...

感想

まだ感想はありません。最初の1件を書きましょう!

00:00
あの、AIにコードとか文章を書かせて、えーと、そのまま同じチャット内で、これ見直して問題ない?って聞いたこと、あなたも絶対あると思うんですよね。
はい、ありますね。手軽なのでみんなやっちゃいますよね。 ですよね。で、AIは確認しました。全く問題ありませんって自信満々に答えるんですけど、
まあ翌日見事にミスが見つかるという罠がありまして。 あー、あるあるですね、それは。なんであんなに賢いAIが自分のミスには急に盲目になるのか。
今回は、あるITエンジニアが7つのAIエージェントの公式資料を比較検証したメモから、この罠を抜け出す客観的なレビューをAIにさせる仕組みを深掘りしていきましょうか。
はい、えーと、あの問題ありませんの裏にはですね、大規模言語モデルの注意機構の仕組みがすごく関わっているんですよ。
注意機構ですか?
えー、同じチャット内で見直しをさせると、AIは完成した成果物だけじゃなくて、なんかそれを書いた時の自分の理屈とか前提も全部読み込んで重み付けしちゃうんです。
あー、なるほど。自分が徹夜で書いた文章を直後に遂行しても、なんか脳内で勝手に保管しちゃってミスに気づけないのと同じですね。同じ目が2度通るだけだと。
まさにその徹夜明けの脳内保管です。自分の書いたコードの文脈に引っ張られて客観的な評価ができなくなっちゃうわけですよ。
なるほどな。でも、だからといって文脈を完全に切り離してしまったら、今度はAIが、え、そもそも何の話だっけ?って前提がわからず迷子になりませんか?
いや、いい質問ですね。
迷子にさせないためには、新しい環境へ移動させつつ、入り口で必要な情報だけを渡すのが鍵になるんです。
必要な情報だけですか?
そうです。ここが、今回分析した7つのツールが採用している3つのアプローチに分かれるところなんですが、えっと、まず1つ目は別チャット専用機能型ですね。
ほうほう。
例えば、ジェンスパークなんかのように、完成した成果物だけを全く新規のチャットに放り込んでレビューさせる手法です。
ああ、物理的に部屋を空けるような感覚ですね。余計な思い出を持たせないみたいな。
その通りです。そして2つ目が、さらに進んだ独立した子エージェント型でして、クロードコードとかハーミスエージェント、あとオープンクローなんかが該当しますね。
子エージェント、親とは別物ってことですね?
ええ。ここで重要なのは、親AIが書いた経緯は一切隠して、使用と変更点、つまり差分だけを子AIに渡すっていう点なんですよ。
え?経緯を隠しちゃうんですか?それって少し意地悪というか、非効率に聞こえますけど。
いや、実はそこが最大のポイントでして、あのオープンクローなんかでは、親の文脈をそのまま引き継ぐフォーク機能の安易な使用をあえて警告してるんです。
へえ、なんでわざわざ警告を?
チャットを複製した瞬間に、その乱雑な文脈とか、幻覚まで新しい環境に引きずり込んでしまって、せっかくの客観性が壊れちゃうからなんですよ。
ああ、なるほど。情報制限をかけることで、かえってAIの注意力を差分そのものに強制的に向けさせるわけだ。
ここからが本当に面白いところだと思うんですけど、レビューの質を決めるのは、AIの賢さじゃなくて、人間側が何を渡さないかを設計することなんですね。
03:08
はい、まさにおっしゃる通りです。そして3つ目が、計画停止確認型ですね。
計画停止と言いますと?
マヌスなどのように、段階ごとに中間結果を確認して、もし別案を試したければ、元の会話を汚さずに枝を作って並行検証する手法です。
なるほどなあ。でも、そうやって文脈を切り離して厳しくチェックさせたとしても、帰ってきた指摘自体が適当かもしれないじゃないですか。
AIの言うことをどこまで信じるべきかっていう問題は残りますよね。
ここで重要な疑問が浮かぶわけですが、だからこそ検証可能な証拠を要求する設計が不可欠なんですよ。
証拠ですか?
はい。ヘルメスとかクロードの実践だと、AIに要約とか指摘を出させる際、必ずファイル名とか業番号、あと実行したコマンドを明記させるんです。
ああ、根拠をセットにさせるわけですね。
そうなんです。AIの自信満々な言葉をただ信じるんじゃなくて、人間がその差分データとテスト結果を使ってちゃんと検算できる状態に持っていく。これが本当のレビューです。
つまりこれはどういうことかというと、見直しを単なる気集めから本物の検査に変えるには、前提条件と隔離方法を明記したレビュー依頼カードみたいなものを活用して、コンテキストファイアウォールを厳密に設計すべき
ってことですね。
情報を意図的に遮断することが結果的に精度の高い分析を生むというのは、技術的にも非常に理にかなったアプローチだと思います。
そうですよね。対象の差分と満たすべき仕様だけを渡し、余計な経緯は遮断する。あなたも明日からこの情報の壁を意識してみてください。
はい、ぜひ試していただきたいですね。
そして最後に、今回の知見からあなたに一つ思考の種を提示したいんですけど、AI同士であえて情報を遮断させて互いのミスを見つけさせるこの手法、これって私たちの組織作りとかクリエイティブな仕事のプロセスにも
応用できると思いませんか?
それはすごく面白い視点ですね。
ですよね。チーム内の忖度とか同調圧力をなくすために、あえてプロセスを共有せず、意図的な情報の壁を作って評価し合う。
徹夜明けの自分を疑うように、あえて壁を作ることで見えてくる突破口があるかもしれません。
ぜひあなたも考えてみてください。
05:21

コメント

スクロール