00:00
想像してみてください。 あなたのアシスタントAIに、お得意先500件に、新商品の案内メールを送っておいて、って頼んだとしますよね。
はい、よくあるシチュエーションですね。 で、10分後くらいに、画面には一言、「完了しました。」の文字だけが表示されるんです。
さてここで、そこのあなたに質問なんですが、そのAIは本当に500件に送ったんでしょうか? 確かに、それは気になりますね。
何かの間違いで、5000件にご送信してないですかね? あるいは、もっと最悪なケースで、競合他社にまで機密情報を送っていないって、どうして言い切れるんでしょうか?
いやー、まさにそこなんですよね。 今のAIって、ただのチャットボットから、自分で考えて動く、いわゆるエージェントへと進化しているじゃないですか。
ええ、指示すれば何でもやってくれますよね。
だからこそ、「その完了しました。」という言葉をそのまま鵜呑みにするのは、実は今のビルネスにおいて最も危険な行為になりうるんですよ。
お聞きのあなたも、納品されたデータを前にして、えーと、本当に全部合ってるのかなとか、途中で勝手に何か変えてないよねって、フリーズしてしまった経験あるんじゃないでしょうか?
わかります。手放しでは喜べないあの感覚ですよね。
そうなんですよ。今日の深掘りは、まさにその不安を解消するためのミッションになります。
AIに仕事を丸撫でしてハラハラするのをやめて、いかにして人間が安心して受け取れる形でAIを動かすか。
はい。
その具体的な仕組みとか、裏側にある技術のロジックについて、今日もしっかり解き明かしていきたいと思います。よろしくお願いします。
よろしくお願いします。あの、AIエージェントが従来の言語モデル、いわゆるLLMと大きく違うのは、考えてから外部のツールを操作できるっていう点なんですよ。
外部のツールですか。
ええ。要するにブラウザを開いたり、ファイルを書き換えたり、実際にシステムを触れるってことですね。
ああ、なるほど。だからこそ最終的な成果物だけをドーンと渡されても、人間からするとその過程が完全にブラックボックスになっちゃうんですね。
そうなんですよ。途中でどんなデータを読み込んだのか、何を基準に判断したのかが見えないから、人間としては安心できないわけです。
つまり、AIの報告が綺麗でも仕事は半分しか終わってないってことですよね。じゃあどうすればいいんでしょうか。
結論から言うとですね、AIに受け取り用の3点セットを必ず最初に出させる。この仕組みを作ることなんです。
ちょっと待ってください。3点セットって何ですか。
いきなり成果物を出すんじゃなくて、その前にまず参照したもの、次に変えたもの、そして人に残した判断、この3つを報告させるんですよ。
なるほど。参照したものっていうのは、見に行ったURLとか読み込んだファイルのことですよね。
はい、そうです。何をインプットにしたかですね。
で、変えたものっていうのは。
これは新しくファイルを作ったのか、既存のデータを更新したのか、あるいは外部のシステムにアクセスして何か操作したのか、これを明確に分けさせるんです。
03:01
ああ、なるほど。そして最後が人に残した判断ですね。
ええ、これが一番重要なんです。AI自身が100%の自信を持てなかった部分とか、人間の最終確認がないと進められない操作をAIに自己申告させるんですよ。
うーん、なんか理屈は分かるんですけど、それってつまりAIが裏でやった作業を全部ログとして出させるってことですか?
いえいえ、違います。
だって何百行とか何千行もある機械の動作ログなんて、忙しい朝にパッと出されても読めるわけないじゃないですか。私ならそっと画面を閉じますよ。
確かにそうですよね。まさにそこがポイントでして、詳細な動作ログをそのまま吐き出すのはシステムのデバッグであって、人間の仕事じゃないんですよ。
ですよね。なんか文字の並べせを見せられてもこもっちゃいます。
だからこそ、この3つセットは膨大なログじゃなくて、人間が次にどうアクションするかを決めるための判断材料だけを抽出したものなんです。いわばレシートなんですよ。
レシートですか?スーパーでもらうあのレシート。
はい。スーパーで買い物した時ってレジの裏側のシステムがどう動いたかなんていちいち見ないじゃないですか。
見ないですね。ピッてやったら終わりというか。
でも、何を買って、いくら払って、お釣りはいくらかっていうレシートがあれば計算があっているか一目でわかりますよね。
ああ、なるほど。AIにこれを発行させるんですね。
ええ。このレシートがあればパッと見て、よし、ここは人間が引き継ごうってすぐに判断できるんです。
確かに。それなら一目でわかりますね。仕事がうまくいった時の裏付けにもなるし、もし失敗していてもどこまで進んでどこでつまずいたのかがすぐわかるってことですね。
そうなんです。問題解決のスピードが劇的に変わりますよ。
なるほど。レシートをもらって結果を確認する方法はすごく腑に落ちました。でも、ちょっと気になっていることがありまして。
何でしょうか。
AIに45分くらいかかるようなすごく重い仕事を頼んだ時ってあるじゃないですか。
はいはい、ありますね。動画の処理とか大量のデータ分析とか。
そのレシートが出てくるまで私ずっとパソコンの前で待っているわけですよね。
そうなりますね。
その間、画面に何の反応もないと、あれ、AI寝てるのかなとか、フリーズしちゃったかなって不安になって、なんか勝手に中断ボタンとか押したくなっちゃうんですけど。
いや、その真理非常によくわかります。実はそれ、システムのUI、つまり人間とAIの接点を設計する上で、今最もホットな課題の一つなんですよ。
やっぱり皆さん不安になるんですね。
ですから、最近のAI開発ツール、例えばクロードコードなどの環境では、ツールを実行している間の経過時間をライブで表示する機能が標準になりつつあるんです。
ライブ表示っていうと、チクタクと動くタイマーみたいなものですか?
そうですそうです。一見すると地味な機能に思えるかもしれないんですが、裏側でAIが膨大な計算をしている最中に、人間側に現在進行形で動いていますよというシグナルを送り続けること。これ、実務において非常に重要なんですよ。
06:06
なんでですか?
これがないとおっしゃる通り、人間が勝手にタスクをキルしてしまって、無駄な再実行によるコストとか時間のロスがものすごく発生してしまうんです。
ああ、確かに。フリーズしたロード画面の場をずっと見つめるのって苦痛以外の何ものでもないですからね。動いている証拠が見えるだけで全然違いますよ。
ええ。もう一つ、オープンクローというAIエージェントの操作画面では、さらに踏み込んだ工夫がされているんです。
どんな工夫ですか?
チャットを行う会話の画面と、AIが今処理しているタスクや人間の承認待ちになっているリストの画面を完全に分けて表示しているんですよ。
え、分けるんですか?それって同じ画面にあった方が直感的に便利じゃないですか?
それがそうとも言い切れないんです。チャット画面というのは、人間とAIがなぜこの仕事をするのか、どういう方針で行くのかという文脈をすり合わせる場所なんですね。
はいはい。理由とか目的を話す場所ですね。
一方でタスク一覧は、今物理的にどの作業が行われているかという現在地を示しているんです。
なるほど。文脈と現在地ですか。
ええ。これらを混ぜてしまうと、人間の脳は錯覚を起こしてしまうんですよ。
錯覚?どういうことですか?
AIがチャットで、完璧に理解しました。すぐに手配しますってあいそよく答えただけで。
答えただけで?
人は仕事がもう終わったかのように錯覚してしまうんです。
うわあ、心当たりがあります。あの、AIが元気よく返事したからもう大丈夫だろうってそのまま放置しちゃうこと、よくあります。
確かにそう思っちゃいますよね。
ええ。でも、システム上はまだ処理の順番待ちだったり、外部からの返答待ちだったりするわけです。
そうか。返事は良くても、まだ承認待ちの列に並んでいる状態かもしれないんですね。
その通りです。だからこそ、会話の隣に冷切なタスクリストを置いて、
口では終わったと言っているけれど、実務としての処理はまだここに滞留しているよって視覚的に突きつけるんです。
へえ、なるほど。
これが人間を安心させつつ、同時に油断させないためのインターフェースの進化なんですよね。
AIの愛想の良さに騙されちゃいけないわけですね。なんか人間同士の仕事みたいで面白いです。
本当にそうですね。
さて、AIが作業を終えてレシートを出してくれた後、いよいよ人間がそれを検証して、必要なら修正するフェーズに入ります。
ここではどんな仕組みが必要なんでしょうか。
検証において重要なのは、AIの作業プロセスを人間が確認できる客観的な証拠として残す技術なんですよ。
アンティグラビティやジェンスパークといった最近のプラットフォームは、ここを非常に重視しています。
証拠を残す?えっと、具体的にはどういうことですか?
例えばですね、AIにこのコケクリストをデータベースに入力しておいてと指示したとします。
ジェンスパークのようなシステムは、ただ入力しましたとテキストで返すだけじゃないんです。
09:02
実際にフォームに情報を打ち込んだ後の確認画面とか、送信完了画面のスクリーンショットをキャプチャして人間に提示してくれるんです。
えっとでも、画面操作まで全部AIが自動でやってくれるのがエージェントの売りですよね。
ええ、そうです。
だったら、最終的にデータが入力されている結果だけ見ればいいんじゃないですか。
わざわざ途中のスクリーンショットなんて見なくてもいいような気がするんですけど。
あの、最終的なデータを見るだけで全てが把握できるなら、それでも構わないんです。
ですが、もし間違った宛先に機密情報が送信されていたらどうしますか。
うん。
あるいは、取り返しのつかないデータベースの削除を行っていたとしたら。
ああ、それは取り返しがつかないですね。
そうなんですよ。スクリーンショットや操作履歴といった証拠は、AIが見た画面を人間が再現するためじゃないんです。
違うんですか。
ええ。人間が、「よし、この結果を受け入れて、自分の責任としてここで止めてよい。犯行を襲う。」と決断を下すための最低限の担保なんですよ。
なるほど。
テキストの報告だけでは、人間は責任を負えないんです。
ああ、すごく納得しました。疑うためじゃなくて、自分が責任を持つための安心材料なんですね。だとしたら絶対必要です。
はい。欠かせないプロセスです。
でも、その証拠を見て、ここちょっと直したいなって思ったらどうするんですか。
AIにやり直しを指示すると、せっかく合っていた別の部分までおかしくなっちゃうことよくありますよね。
ああ、あれはイライラしますよね。
そうなんですよ。なんか違う。もう一回って言うと、全部書き直してきたりして、あれなんとかならないんですか。
まさにそこが従来のLLMの最大の弱点だったんです。
LLMは、入力されたテキスト、つまりプロンプト全体を一つのコンテクストウィンドウとして読み込んで、確率に基づいて次の言葉を生成しますよね。
はい。全体を見て判断するんですよね。
そのため、ここがダメだから書き直して、と曖昧に指示すると、AIは文脈全体を再構築しようとしてしまうんです。
ああ、なるほど。
その結果、すでに正解だった部分の確率的なつながりまでリセットしてしまうんですよ。
だから、直すたびに別の場所が壊れるんですね。モブラ叩きみたいに。
ええ。それを防ぐために、最近ではコーデックスのような特定の部分だけを指し示して修正させる注釈機能が重要視されています。
注釈機能ですか。
はい。表計算の特定のセルとか、コードの特定の数行だけをハイライトして、この変数の計算だけを修正して、と指示を出す仕組みです。
へえ。
AIの修正する範囲も物理的に狭めることで、文脈全体の再構築を防いで、正しかった部分を保護するんです。
全体がダメと突き返すんじゃなくて、人間の部下にこの段落の数字だけ見直してねって赤字を入れるのと同じですね。
まさにその感覚です。技術的な裏付けがあってのピンポイント修正、すごく腑に落ちました。ここまではうまくいったときや修正するときの話をしてきましたが、
12:10
ええ。
現実はもっと過酷ですよね。途中でエラーが起きたときとか、その経験を次に生かすときとか、私一番怖いのはAIが暴走することなんです。
システム運用において、明確なエラーで停止してくれるなら実はまだ安全なんですよ。
エラーで止まる方が安全なんですか?
そうなんです。一番恐ろしいのは、AIが中途半端な状態のまま自律的に判断を下してしまうことなんです。
中途半端な状態ですか?どういうことでしょう?
これを解決するのが、ヘルメスエージェントなどのシステムで採用されている、アンノーン、つまり状態不明という概念なんです。
アンノーン。失敗しましたってはっきり言ってくれた方が良くないですか?
不明ってなんか気持ち悪いです。
おっしゃる通り、気持ち悪いと感じるのが正常です。でも少し想像してみてください。
あなたがAIに500人に請求書をメールしてと頼みました。
AIが送信ボタンを押した直後に、ネットワークが切れて、AIのシステムが落ちてしまったとします。
うわー、嫌なタイミングですね。
もしAIが復旧したときに、この状態を単なるエラー、つまり失敗として処理したらどうなるでしょうか?
失敗したなら、もう一回最初からやり直すってことですよね。
あー、お気づきですね。
メールはすでに送信されていたかもしれない。それなのに失敗扱いして再実行したら、お客さんに同じ請求書が2通届いちゃいますよ。
その通りです。いわゆる二重送信ですね。ビジネスにおいては致命的な事故になりかねません。
それは絶対に避けたいです。
だからこそ、外部に対して操作が完了したかどうか証明できない状態は、絶対に失敗として扱わず、アンノーン、不明としてロックをかけるんです。
はー、そういうことか。
アンノーンになったタスクは、AIには決して再実行させず、人間が手動で確認するまでストップさせる。これがAIに自律的な行動を任せるための最も強力な防波堤になるんですよ。
失敗だとリトライしちゃうから、あえて人間が見るまで触るなという線を引くわけですね。地味ですけどめちゃくちゃ理にかなってます。
ええ、そしてこのAIの判断を人間がコントロールするという原則は、AIに過去の経験を記憶させる時にも当てはまるんです。
記憶させる、ですか?
マヌスのようなツールには、完了した仕事から役立つ出力を知識として自動的に取り込む、自己更新型の機能があるんです。
あ、それは便利ですね。勝手に賢もなってくれるなら最高じゃないですか。
いえ、手放しで喜んではいけません。AIは文脈の裏にある人間の意図までは理解していないんです。
どういうことですか?
もし今回たまたま急ぎの案件で、人間がとりあえずこの革命プロセスはスキップして進めてと指示したとします。
はい、イレギュラーな対応ってありますよね。
もしその場しのぎの指示をAIが正しいルールとしてそのまま学習してしまったらどうなりますか?
15:01
はっ!
次回以降、別のAIエージェントがその記憶を引き継いで、あ、この革命はスキップしていいんだなと、永遠に重要なプロセスを無視し続けることになります。
うわー、それは怖すぎる。一度の妥協が会社の永遠のルールになっちゃうわけですね。
まさに。ですから、AIに学習させるための記憶やノレッジは、AI任せにするのではなく、人間が必ず一度精査して、次回も使える判断条件だけを抽出して渡す必要があるんです。
その場しのぎの指示や仮説まで覚えさせると、次のAIが古い決定に引きずられてしまいます。
人が一度見てから渡すのが正解なんです。AIの教科書は人間が検閲しなければならないんですよ。
なるほど。最初はAIに丸投げできたら楽だなーくらいに思っていましたけど、AIが賢くなってできることが増えるほど、人間の側がどう受け取るかどうコントロールするかの仕組みを整える方がずっと重要になってくるんですね。
ええ、その通りです。AIの実行力が上がるにつれて、人間の検証力が問われているということです。
いやー、すごく勉強になりました。というわけで、今日の深掘りのまとめとして、明日からそこのあなたもすぐに使える依頼文の魔法の言葉をお伝えします。
はい、ぜひ使ってみてほしいですね。
AIに仕事を頼むとき、指示の最後にこれを付け足してみてください。読み上げますね。
完了時に、参照したもの、変更したもの、人の判断が必要なものを各3行以内で返すこと。
外部へ確定した操作は別行にすること。
実行途中で状態が不明になった操作は再実行せずアンノーンと書くこと。
以上です。
今日お話ししたエッセンスがすべて詰まった非常に堅牢なプロンプトですね。
はい。これを足すだけで、AIからの報告は少し長くなるかもしれません。
でも、開いてから何を信じればいいのって悩む時間に比べたらずっと安い投資ですよね。
間違いないです。
AIの仕事を早くするより先に、私たちが受け取りやすくすること。これが今日の最大のメッセージです。
そうですね。そして最後に、お聞きの皆さんに一つ資料の枠を超えた問いを投げかけたいと思います。
何でしょうか。
今日は、証拠を残させる人間が受け取りやすくするというお話をしてきました。
しかし、近い将来、AIが作業を完璧にこなし、その証拠提示すらも完璧で一寸の隙もなくなったとします。
人間はもう証拠を疑う必要すらなくなるかもしれない。
はい、ありそうですね。
その時、私たち人間の仕事のメインは、AIが提出した完璧なレシートを束確認して、
はい、OKと反抗を押すだけの虚しい承認家計にまってしまうのでしょうか。
うーん。
それとも、その完璧な安心感という強固な土台型に入るからこそ、
人間は細かな検証作業から完全に解放されて、全く新しい創造的な仕事に迎えるようになるのでしょうか。
深いですね。
AIの進化は、私たち人間の役割そのものを問い直しているのかもしれません。
18:05
単なる反抗押しがけりで終わるか、次のステージへ飛び立てるか、
それは、私たちが今日からAIとどう向き合うかにかかっていそうです。
ええ。
次回、AIに仕事を頼むとき、ぜひ少し考えてみてください。
はい。
というわけで、本日の深掘りはここまでです。
明日からのAIとの仕事がちょっと見違えるような気がしますね。
それでは、また次回の深掘りでお会いしましょう。