00:00
朝、あの、ひれたてのコーヒーのかもりを楽しみながらですね、昨晩、AIに頼んでおいた完璧なリサーチレポートを読む。 うんうん、最高ですよね。
そんな優雅な朝を迎えるはずがですね、パソコンを開いたら、AIが狂ったように何万回も検索を繰り返していて。 わぁ。もうAPIの課金メーターがとんでもない額に跳ね上がっていたんですよ。
それは朝から冷や汗出ますね。 もうホラーですよ。聞いてるあなたもこんなホラーのような経験、あるいはそこまでいかなくても、いつまで経ってもAIの処理が終わらないなーって、こうやきもきした経験ありませんか。
最近は特に耳にするようなトラブルですよね。 やっぱそうですか。
ええ。自律的にタスクをこなしてくれるいわゆるAIエージェントが普及してきて、私たちが直接プロンプトを全部打つんじゃなくて、AIに目的だけ投げて、まあ丸投げできるようになったじゃないですか。
はいはい。すごく便利になりましたよね。
それは確かに革命的なんですけど、システムが裏側でどう動いているのかを理解していないと、思いもよらないしっぺ返しを食らうことになるんです。
本当にそうですよね。ということで今回の深掘りでは、2026年7月18日に公開されたITエンジニアの方によるAIエージェント日時速報の資料をベースにですね、このAIの暴走について考えていきます。
はい。
今回のミッションは、ズバリ、AIに仕事を任せる際に、なぜ上限を設けることが絶対に必要なのか、そして具体的にどうやってコントロールすべきか、です。
この資料、非常に実践的で、技術的な仕組みから具体的な対策までしっかり網羅されていますね。
ええ、すごく面白かったです。AIって疲れることを知らない優秀なアシスタントですけど、だからこそ人間側が手綱をしっかり握っておく必要があるってことですよね。
おっしゃる通りです。
早速なんですけど、資料の中で私が最初にえっとって声を出してしまったのが、クロードコードの話でして。
はいはい。最新版のバージョン2.1.21のリリースノートですね。
そうです。ウェブ検索とか、あとコーエージェントと呼ばれるAIのサポート役を起動する回数に、1セッションあたり200回っていう上限が規定で設定されたそうなんですよ。
ええ、これは開発元が意図的に入れた安全装置ですね。システムが無限ループに陥るのを防ぐための非常に重要なアップデートです。
でも、よく考えてみてください。私たちが日常の業務で何かを調べるときに、200回も検索することってありますか?
まあ、普通はないですよね。
ですよね。たとえるなら、新入社員に、明日の会議用にこのプロジェクトの過去データを探しておいてってお願いしたら、会社のキャビネットを200時間ぶっ続けでガサゴソひっくり返して漁り続けているような状態ですよね。これ異常事態じゃないですか。
確かに。人間社会でそれをやったら確実に止められますね。ちょっと君休みなさいって。
はい、怖いですもん。
でも、AIの思考プロセスであるループの仕組みを知ると、なぜそういうことが起こるのかがわかるんです。
03:06
ループですか?
ええ。AIエージェントは基本的に計画する、実行する、結果を観察する、そしてまた計画するというサイクルを回しています。
なるほど。エラーが出たら別の方法を試すっていうのを繰り返すわけですね。
そうなんです。人間なら3回くらい検索して見つからなければ、検索の条件が間違っているのかなとか。
そもそもデータが存在しないのかもって空気読んで諦めますよね。
そうそう。でも、AIはものすごく真面目で、かつ疲労というものを感じませんから。
はい。
だから、別のキーワードで試そうとか、もう少し広範囲を探そうって、200回でも1000回でも行き止まりの壁に頭をぶつけ続けてしまうんです。
ちょっと怖いですね。私たちがぐっすり寝ている間に、パソコンの裏側でAIが壁に頭を打ち続けているわけだ。
ええ。
となると、この200回という設定は親切なように見えて、実はかなりギリギリの数字なんじゃないですか。
そこが面白いところです。まさにその通りで、そこを勘違いしてはいけないんです。
と言いますと。
200回というのは、車で言えば崖から落ちる直前のガードレールのようなものでして、最後の安全網に過ぎないんです。
なるほど。
普段の運転でガードレールにぶつかることを前提にハンドルを握る人はいませんよね。
絶対に嫌ですね。そんな運転手。
ですから、資料の著者も指摘している通り、私たちが日常的にAIを使う上では、もっと手前でここで打ち切りという線を私たち自身の視力で引いてあげる必要があるんです。
崖から落ちるまでシステム任せにしちゃダメだということですね。
その通りです。
でも、一つのAIが200回検索するだけでも恐怖なんですけど、今回の資料を読み進めていくと、さらにゾッとする事実がありました。
はい。例の増殖する話ですね。
AIがタスクをこなすために別のAIを呼び出し始めるという話です。
いわゆるマルチエージェントとかサブエージェントと呼ばれる仕組みですね。
はい。
これもまたAIのアーキテクチャとして非常に強力であると同時に、扱いを間違えると大惨事を引き起こす要因になります。
ですよね。資料によると、例えばCODEXというモデルだと、コエージェントの同時スレッド上限が規定で6、入れ子の深さが1になっています。
ここまではまだわかるんですよ。並行して6つの作業を進めるんだなと。
でも、HERMES AGENTというモデルの設定を見た時、言葉を失いまして。
規定で3並列、深さが3という設定ですね。公式文書にも警告文が載っているという。
はい。深さを3にして、並列も3に設定したら、末端の担当AIが一気に27件に増殖するって書かれているんですよ。
はいはい。
並列3件って聞くと、すごく小規模で安安に聞こえるじゃないですか。
そうですね。3人ならって思いますよね。
でも、それが入れ子、マトリョーシカミニアみたいに開けたら中から3つ出てきて、さらにそのそれぞれから3つ出てくる。
06:06
気づいた時には3が9になり27になる。これどういうことなんですか?なぜAIはわざわざ自分をそんなに細かく分裂させるんですか?
良い疑問ですね。なぜAIがコピーを生み出すのか。それは人間の組織を想像するとわかりやすいです。
人間の組織。
はい。例えばあなたがプロジェクトリーダーだとして、新しいアプリを開発してリリースするという大きな目標を持ったとします。
はい。
あなた一人で市場調査をして、コードを書いて、テストをしてと順番にやっていたら、時間がいくらあっても足りませんよね。
確かに。だからリサーチャーとプログラマーとテスターを雇って、同時に仕事をさせます。
まさにそれです。親となるAIも並列処理をした方が早くタスクが終わると判断するんです。
なるほど。
だから君は検索をして、君はコードを書いてとサブエージェントを立ち上げます。しかしここで問題になるのが深さなんです。
深さ。
その立ち上げられたリサーチャーAIが、さらにじゃあ僕は国内市場と海外市場を調べるために、さらに2人のAIを雇おうと勝手に判断したらどうなりますか。
それが入れ子の深さなんですね。末端に行けば行くほど誰が何のために動いているのか、全体の目的からずれていきそうです。
その通りです。伝言ゲームのように指示が曖昧になって、結果として無駄な動きや、いわゆるハルシネーション、AIの幻覚や嘘が増幅されてしまうんです。
うわー、それは困りますね。
しかもその27人に触れそくしたAIたちが裏側で活発にやり取りをしている間、何が消費されていると思いますか。
お金ですよね。よくトークンって言いますけど、AIに文字を読ませたり書かせたりするたびに課金される。あのメーターが27倍のスピードで回っているってことですか。
APIの利用量が指数関数的に膨れ上がります。
やばいですね。
だからこそ資料の著者は明確なベストプラクティスを提示しています。並列数と深さは分けて考えるべきであり、基本は深さ1のままにしておくこと。
回想は1つだけにする。マトリオシカは1回しか開けちゃダメってことですね。
そうです。そして親AIが直接結果を比較したい仕事だけを横並びで2つか3つに分ける。
なるほど。
これが不毛な会議を増やさず、コストを抑えながらAIのパフォーマンスを引き出すことなんです。
すごくわかりやすいです。でもここからがさらに恐ろしいところなんですよ。
その27人のAIたちが消費しているのは単なるトークン、つまりAIの頭脳を使うための課金だけじゃないと資料には書かれています。
目に見えない別のコストが急激に跳ね上がるそうですね。
はい。ここが私たちがAIをただのチャットボットとして扱っていると見落としてしまう非常に重要なポイントです。
資料ではMANISというAIツールの例が挙げられていました。
ワイドリサーチという機能でサブタスクごとに50クレジットという上限が設けられているそうです。
09:04
このクレジットって単純なAPIの通信量とは違うんですか?
異なります。最近のAIエージェントはただテキストを生成するだけではなくて、実際に私たちが使っているような環境で作業をするんです。
と言いますと。
そのためにクラウド上に仮想マシンと呼ばれる架空のパソコンが用意されるんですよ。
え?AI専用のパソコンを裏側で立ち上げているってことですか?
その通りです。AIはその仮想マシンの中で実際にブラウザを開いてウェブサイトを巡回したり、Pythonなどのコードを書いて実行したりします。
なるほど。
つまり50クレジットというのはLLMのトークン消費だけでなく、この仮想マシンの稼働時間や外部のサービスからデータを取得する際の通信量など、インフラ全体のリソース消費をひっくるめた単位なんです。
ということは、さっきの27人に紛失したAIたちは、ただ会話をしているだけじゃなくて、クラウド上で勝手に27台のパソコンを立ち上げてガンガンにシステムを回している。
極端な例えですが、仕組みとしてはそういうことです。
うわー。
だからこそ、コストの概念が全く変わってきます。
Gensparkというツールのチームプランでは、1隻あたり月に1万2千クレジットが割り当てられると資料にありましたね。
はい。1万2千クレジットって聞くと、なんか結構たっぷりあるなって思っちゃうんですが。
でも、AIに競合他社の同行を完璧にまとめて?というようなふわっとした指示を出して、そのAIがさっきの検索の無限ループという沼にはまってしまったらどうでしょう?
あー。
複数のエージェントが仮想マシンをフル稼働させて、無意味な検索とコードの実行を繰り返す。月額の予算なんてほんの数時間で食い潰してしまうかもしれません。
うわー、それは本当に恐ろしいですね。他にも営業資料作りとか動画生成とかいろいろお願いしたいタスクがあるのに、たった1つの沼にはまったAIのせいで、月の半分でチーム全員の仕事がストップしてしまうわけですね。
だからこそ、マーヌスが1つのサブタスクにつき50クレジットまでと小分けにして上限を置いているのは非常に理にかなった設計なんです。
なるほど。
全体のお財布を渡すのではなくて、この調査には50円までしか使っちゃダメと細かく予算を区切るわけです。
そうやって制限をかければ、1つのタスクが暴走して予算を食い荒らすのを防げますね。
ええ。
しかも資料には、コストはお金だけじゃないという話もありました。オープンクローの先行版では、作業フォルダの件数と送用料の上限が追加されたと。
ワークスリーと呼ばれる作業領域の制限ですね。これも仮想マシンの話につながりますが。
AIが調査のために大量のPDFをダウンロードしたり、無駄なログファイルを延々と生成し続けたらどうなりますか?
ハードディスクの容量がパンパンになる。
その通りです。ディスク容量があふれれば、システム全体がクラッシュします。
いえ。
私たちが寝ている間に、AIがクラウドのストレージを無意味なデータで埋め尽くして自滅しているということが実際に起こり得るんです。
12:05
お金だけじゃなくて、物理的なリソースまで圧迫するんですね。
Googleのアンティグラビティの設定に関する話もなっぽくでした。
ああ、あれですね。
はい。基準枠を使い切ったら、有料クレジットへ自動で切り替えないという設定を、絶対にしないという設定にしておくこと。
これをやっておかないと、青天井で請求が来る可能性があるんですよね。
夜間の自動処理なんて、いつ暴走するか分かりませんからね。
そうですね。
自動課金をオンにしたままAIを放置するのは、財布をAIに預けて好きなだけ使っていいよと言って寝るのと同じです。
絶対に嫌ですね、それ。
誰もやりたくないですよね。
さて、ここまでAIの暴走の仕組みと目に見えないインフラコストの恐ろしさについてお話ししてきました。
はい。
これを聞いているあなたも、じゃあ今夜からAIに仕事を頼むとき、具体的にプロンプトにどう指示をかけばいいの?って気になっているはずです。
いよいよ実践的な対策ですね。
ここからがこの資料の最も価値のある部分だと思います。
ええ。資料の著者は、複雑な仕事をAIに依頼する際、プロンプトに必ず達すべき4つの上限というルールを提案しています。
うん。
これ順番に見ていきたいんですが、まず1つ目が同時実行。つまり、コエージェントは最大3件までですね。
これは先ほどのマトリョーシカ問題への直接的な対策ですね。無駄な増殖をシステム的に許さない。
そして2つ目が回数です。検索とツールの呼び出しは合計30回まで。
クロードコードの200回というシステム上限に頼るのではなく、手前で人間が線を引くということですね。
ええ。30回調べてわからないならアプローチ自体が間違っているとみなす現実的な数字ですよね。
そうですね。
続いて3つ目。時間です。15分で成果が出なければ停止。
これも面白いですよね。通常のチャットAIなら数秒で返事がきますが、自立型エージェントの場合は時間で区切る必要がある。
仮想マシンを動かし続けているわけですから、時間の制限はコストの制限に直結しますもんね。
まさにその通りです。
そして最後4つ目が追加消費。有料クレジットへ自動で切り替えない。先ほどの財布の紐の話ですね。
はい。必須の設定です。
これら4つのルール、非常に論理的でわかりやすいんですが、私がこの資料を読んでいて一番感動したのは、これらの上限を設けたその後の指示なんです。
ほう。どの部分でしょうか。
普通、15分で停止してって指示したら、AIは15分経った瞬間に時間切れです、失敗しましたって返してきそうじゃないですか。
ええ、そうなりがちですね。
でも著者は、上限に達したら、これまでに確認できた事実、まだ残っている疑問、もし続行するなら追加で必要な回数や時間、これらをまとめてレポートするように指示すべきだと言っているんです。
なるほど。素晴らしいアプローチですね。それが今回の深掘りにおける最も重要なポイントと言えます。
15:05
どういうことですか。
AIを単なる自動化ツールから優秀なパートナーへと引き上げるための革新なんです。
パートナーですか?
はい。時間、回数、お金の権限をすべてAIに全振りして終わるまでやってと指示すると、私たちは単なる結果の傍観者になってしまいます。
確かに。ただ待つことしかできなくなりますね。
そうではなく、制限を設けて途中報告をさせるんです。
うんうん。
朝起きてコーヒーを飲みながら、人間である私たちがそのレポートを見て、
なるほど、15分でここまではわかったんだな。残りの疑問を解決するために、あと10回だけ検索を許可しようとか。
はいはい。
あるいは、この方向性はダメそうだから別の指示を出そうと判断する。つまり、判断の主導権を人間の手元にしっかり残しておくということなんです。
判断の主導権を人間が持つ。確かに。
それなら、AIが勝手に放送したなんてことには絶対になりませんし。
ええ。
AIの働きぶりを人間がコントロールしながら、より確実な成果にたどり着けそうです。
完全な丸投げではなく、適切な距離感で共同する。これが今のAIを使いこなすコツなんですね。
リソースは無限ではありませんからね。枠を決め、枠の中で最大限のパフォーマンスを発揮させ、次の方向性は人間が決める。
これが最も健全で、かつ効率的なAIとの付き合い方だと思います。
本当にその通りですね。さて、ここまで、AIへの丸投げが引き起こすリスクと、明確なストッパーの必要性についてお話ししてきました。
はい。
これを聞いているあなたも、今日からプロンプトに上限を書き足したくなったんじゃないでしょうか。
これからの時代、間違いなく必須のスキルになっていくでしょうね。
ええ。でも最後に一つだけ、資料には書かれていない、少し哲学的な問いをあなたに投げかけてみたいんです。
お、哲学的な問いですか。
はい。今日はずっと、お金や時間、リスク容量を守るために、15分で止めようとか、検索は30回までにしようというお話をしてきました。
ええ。現実的な運用としてはそれが正解ですからね。
そうなんです。でも、もしですよ。
はい。
そのAIが制限に引っかかって停止させられた31回目の検索で、あるいはタイムアウトになった16分目にですね、
人類の誰も思いつかなかったような画期的なアイディアやイノベーションの種を見つける寸前だったとしたらどうでしょう。
なるほど。効率や安全と引き換えに、私たちは自ら未知の可能性を切り捨てているのではないかと。
そうなんです。私たちが上限を設けることで、実はAIの持つ最大の強みである、人間には不可能なレベルの圧倒的な思考錯誤という可能性そのものに蓋をしてしまっているんじゃないでしょうか。
確かに。
何千回、何万回という深い深い思考の泥沼の果てにしか存在しないイノベーションの芽を、私たちが予算の都合で自ら摘み取ってしまっているのかもしれない。
18:09
そう思うと少し複雑な気持ちになりませんか。
非常に示唆に富む視点ですね。管理できる範囲に留めることは安全で確実ですが、一方で予想だにしないセレンリピティー、偶発的な大発頻への扉を閉ざすことにもなりかねません。
ええ。
リスクを承知でどこまでAIに手綱を緩めるか。これはAIの進化とともに私たちが突きつけられ続ける永遠の課題と言えそうです。
はい。明日の朝、あなたがコーヒーを準備しながらパソコンを開き、AIに新しい仕事を頼むとき、あなたはAIにどこまで自由を与えますか。
究極の選択ですね。
安全で予測可能な15分か、それともリスクを伴う果てしない思考の海か。ぜひ次にプロンプトを書くときに少しだけこのことを考えてみてください。
考えさせられますね。
それでは今回の深掘りはこの辺で。お相手は私たち2人でした。また次回お会いしましょう。
