1. AIと仕事の仕組み化ラジオ
  2. AIエージェント日次速報 2026..
AIエージェント日次速報 2026年11月20日版 実行を始める前に、計画を読んで承認する関門を置く
2026-11-20 06:10

AIエージェント日次速報 2026年11月20日版 実行を始める前に、計画を読んで承認する関門を置く

おたよりを送る
長い作業を任せて席を離れ、一時間後に戻ると、頼んだ意図とは違う設計で三十ファイルが書き換わっている。差分を読んで捨てるのに、最初に計画を一枚読む手間の何倍もかかる。しかも捨てて終わりではない。やり直しの指示を出しても、会話にはすでに誤解にもとづく編集の履歴が積まれていて、新しい指示はその山の中に埋もれる。

原因は単純で、実行が始まった瞬間に、モデルが最初に取った解釈が会話に固定されることだ。後続の編集はその解釈を前提に組み上がり、軌道修正のたびに古い前提が顔を出す。読む側の手間も違う。計画は数十行で済むが、実行後の差分は数百行になる。誤解を直す一番安い場所は、最初のファイルが書き換わる前だ。

直近の三日は、答えの形、認証の失効...

感想

まだ感想はありません。最初の1件を書きましょう!

00:00
あの、AIに作業を任せて、ちょっと席を外して、戻ってきたら、意図と全く違う設計で、30個もファイルが書き換えられていて、絶望した。なんてこと。あなたもそんな経験ありませんか?
ああ、ええ。ありますよね。
はい。
なんか、後から誤解を解こうとしても、もう間違った前提で書かれたコードとか、編集履歴が山のように積まれていて、手遅れになりがちなんですよ。
ですよね。これって、まあ設計図を見せずに、業者にキッチンの解体を任せるようなものじゃないですか。
まさにその通りですね。
なので、もしあなたも同じ経験があるなら、AIの暴走を食い止める手立てが喉から手が出るほど欲しいはずです。ということで今回は、あるITエンジニアが、2026年11月20日に公開した、AIエージェントの
計画と実行の関門に関する記事を深掘りしていきます。
はい。よろしくお願いします。
お願いします。私たちがどうやってAIの手綱を握り続けるべきか、一緒に紐解いていきましょう。
えーと、まず今回のソースで一番の発見と言えるのが、暴走を防ぐための計画という言葉の定義についてですね。
定義ですか。
はい。これ、実はツールによって全く異なるんですよ。記事で検証された7つのツールは、大きく3種類に分かれています。
えっ、同じ計画モードって名前でも中身が違うってことですか。
まあそうなんですよ。一つ目は、クロードコードとか、アンティグラビティ、マヌスのように、承認するまで実行が完全に止まるタイプです。
なるほど。それは安心というか分かりやすいですね。
はい。で、二つ目は、コデックスやヘルメスのように、計画だけを書いて一切実行しないタイプです。
そして三つ目がちょっと厄介でして。
厄介と言いますと?
オープンクローやジェンスパークのように、計画をただの進行記録として出力して、承認を待たずにそのまま走り続けるタイプなんです。
ちょっと待ってください。ジェンスパークなんて最長2時間も動き続けるんですよね。
ええ、そうです。
なのに、計画がただの手順一覧として出るだけなんですか。いや、それこそ私たちが一番避けたい暴走状態じゃないですか。
おっしゃる通りです。
そんな観問が存在しないツールって、一体どう制御すればいいんですか?
ツール側が、人間の介入なしにタスクを完遂するっていう自立性を優先して設計されている以上、これはもう人間側で人為的な観問を作るしかないんですよ。
人為的な観問?
はい。具体的には最初の依頼文の制約欄に、実行する前に手順だけを書いて必ず止まることと明確に指示を出します。
ああ、システムに頼るんじゃなくて、運用で強制的に一時停止ボタンを作るわけですね。
その通りです。ただ、じゃあ最初からシステムとして一時停止してくれるクロードコードやマヌスを使えば安心かというと。
安心なんじゃないんですか。ちゃんと止まるんですよね。
実はそこに大きな落とし穴があるんです。承認ボタンの操作自体に予期せぬ罠が隠されていまして。
罠ですか?
例えば、クロードコードの承認ボタンは単なる計画への同意だけじゃなくて、裏側でその後の権限レベルの選択も兼ねているんですよ。
03:02
つまり、この計画はOKだけど、実行は手動で一つずつ確認しながら進めようと思って承認をしたのに。
はい。システム側は全権限をもらったと解釈して、勝手に自動モードで走り出してしまう可能性があるんです。
それは怖いですね。
さらに極端な使用を持つのがマヌスです。
もし、提示された計画が気に入らなくて、却下、ディスミスボタンを押したとしますよね。どうなると思いますか?
普通に作業がキャンセルされて、新しい計画を練り直すんじゃないですか。
開発者は、ユーザーが却下を押すのは、計画なんてまどろっこしいものは不要で、とにかく早く構築してほしいからだと解釈するように設計しているようなんです。
嘘でしょ!
つまり、マヌスにおける却下は、計画なしでいきなり構築を強行するという操作になります。
それは恐ろしいですね。旅行を中止するんじゃなくて、地図を捨てて勘でジャングルへ出発するようなものじゃないですか。
あなたがこのツールを使っているなら、絶対にハマりたくない罠ですよね。
本当にそうですね。逆に、そんな無謀な真似をシステム側で物理的に防いでくれるようなツールってあるんですか?
そこで登場するのが、先ほど触れた2つ目のタイプ、コーデックスです。
コーデックスは、意思決定と実装作業をシステム上で完全に切り離すアプローチをとっています。
なるほど。完全に切り離す。
はい。なので、人間が、「いいから急いで進めて!」なんて感情的な命令形を入力しても、そのまま実行には移りません。
あくまで実行のための計画を作る依頼としてドライに処理されるだけなんです。
人間のパニックには一切なびかないんですね。
とにかく作れって叫んでも、まずは設計図を描きましょうねって強制的に育らされる感覚だ。
ええ、まさにそんな感じです。だからこそ、本当のボトルネックはAIの処理速度じゃなくて。
私たちがちゃんと計画を読んでレビューする根気があるかどうかってことですね。
その通りです。仕事の成否を分けるのは、承認ボタンを押した回数ではなくて、実行前に計画を読んで直した回数になります。
なるほどな。
ですから、作業に入る前にそのツールが承認で止まるか、承認や却下が裏で何をトリガーするかを整理した計画カードを作っておくのが最も実践的な対策ですね。
キッチンの解体業者にまずは図面を出させて、そこに赤ペンを入れる作業を徹底するわけですね。
はい、おっしゃる通りです。
ただ、最後にもう一つ考えてみてください。もし将来、AIの立てる計画自体が、私たち人間には理解できないほど高度で複雑な次元になってしまったら、どうなるでしょう?
ああ、それは…。
私たちはこの承認の関門を諦めて、地図の読めない状態のままAIを完全に盲信せざるを得なくなる日が来るんでしょうか?
それはまあ、テクノロジーが進化するスピードを考えると、私たちが遠からず向き合うことになる究極の課題ですね。
06:01
あなたも次にAIや大きな仕事を任せるときは、焦ってボタンを押す前に一度立ち止まって、本当に地図を捨てていないか確認してみてください。
06:10

コメント

スクロール