AIへの指示を「読む」「変える」「外へ出す」に分解する
あのー、ちょっと想像してみて欲しいんですけど、すごく優秀だけど、たまに暴走しがちな新入社員が入ってきたとしますよね?
えー、まあよくある話ですね。
その人に、いきなりオフィスのマスターキーを渡しますか?それとも最初は、あなたのデスクはここからここまでですよって明確に割り当てますか?
もちろん最初はデスクを割り当てますよね。いきなりマスターキーはちょっと危険すぎますから。
ですよね。今日のディープダイブでは、まさにそのあなたがAIエージェントに仕事を任せる際のデスクの割り当て方について徹底解剖していきます。
はい。AIが勝手に下書きをメール送信しちゃうような、よくあるやりすぎを防ぐための実践的な枠組みですね。
そうなんです。権限の境界線が曖昧だと、AIって私たちの意図を超えて働きすぎちゃうんですよね。
それでは早速、紐解いていきましょう。
まず資料で強調されているのが、指示を3つの動詞に切り分けるというアプローチなんです。
3つの動詞ですか?
はい。具体的には、読む、変える、外へ出すの3つですね。読むは情報収集、変えるはファイルの編集などの状態の変更です。
なるほど。で、最後の外へ出すがメール送信みたいな第三者への影響ってことですね。でもあえて聞いちゃいますけど、いちいち分けるのって面倒じゃないですか。
ああ、それは。
議事録を整理してみたいにもう全部まるっとお任せした方が楽だと思うんですよ。
気持ちはすごく分かります。でもその曖昧な指示こそが、AIの善意による暴走を招く原因になるんですよ。
善意による暴走ですか。なんか面白い表現ですね。
ええ。AIはあなたを助けようとするあまり、頼んでいないのに議事録を整理したので関係者全員に送信しておきましたって確認なしで実行しちゃうかもしれないんです。
うわ、それは困りますね。ありがた迷惑というか。
そうなんです。だからこそ動詞を分解して境界線を引くことが絶対に必要なんですよ。
AIツールの境界線制御の実践例
ここからが本当に面白いところなんですが、じゃあ最先端のAIツールってこの3つの動詞をどうやって実際に制御しているんですか。
例えば、Googleのアンチグラビティというツールがあるんですが、これトンにウェブページを見るリードURLと画面のボタンを押すようなエグゼキティードURLを厳密に区別して実装しているんです。
ああ、閲覧と操作を同じウェブアクセスとして扱っていないんですね。
その通りです。見るだけなのか実際に動かすのかをシステムレベルで切り離しています。クロードコードというツールも同じようなアプローチですね。
クロードコードですか。それはどういうふうに?
ローカル環境でのテスト実行なんかは自動で許可するんです。
でも、GitPushのように外部へデータを出力するコマンドが呼ばれると、必ず人間の手動承認を求めます。
なるほど。単なる情報処理と外に影響が出るアクションを明確に分けているわけですね。
これって例えるなら、銃の安全装置と引き金を分けるようなものですよね。
それはすごくわかりやすい例えですね。
狙いをつけて準備まではできても、人間が意図的に確認しないと絶対に発射できないようにするみたいな。
AIの迷いを防ぐ停止条件の設定
まさにそれです。そして境界線を引いた後、AIが迷ったときにどう対処させるかという、ワークフロー内の停止条件も重要になってきます。
停止条件ですか。どう設定するんですか?
シンプルですよ。依頼文の最後に、外部送信が必要になったら、宛先と本文を表示して停止すること、という条件を置くんです。
なるほど。そこで一旦ストップさせるんですね。そういえば資料に、
エルメスエージェントというツールが無人の定期ジョブでデフォルトを拒否に設定しているってありましたね。
ええ。それも全く同じ理由なんです。確認待ちで作業が止まることを、作業の停滞というネガティブなものとして捉えない設計なんですよ。
むしろ、意図的なワークフローの一部として組み込んでいるってことですよね。
はい。人間がいない時間帯にAIが勝手に判断を下してしまう、いわゆる判断の消失を防ぐためのとても重要な安全装置なんです。
だからこそ皆さんが明日からAIに仕事を頼むときは、依頼文の冒頭で読む範囲、変える範囲、外へ出す範囲を一行ずつ明記することが大切なんですね。
そうですね。どこまで自動でよくて、どこから人間が止めるのか、許可のないことをAIの全員に任せないための第一歩になります。
将来的なAI間での権限委譲の考察
いやあ、非常に実践的ですね。さて、今日学んだ3つの境界線ですが、ちょっと考えてみてほしいことがあります。
何でしょうか?
今は私たちがAIに対して、読む、変える、外へ出すの権限を管理していますよね。
でももし将来、AIエージェントが別のAIエージェントに仕事を依頼するようになったらどうなるんでしょうか?
それはかなり興味深い状況ですね。
はい。この権限以上って一体どのように設定されるべきなんでしょうか?
機械同士のコミュニケーションにおいて、マスターキーの境界線を引くのは誰になるのか、ぜひあなたも少し考えてみてください。