00:00
今回の深掘りへようこそ。 あなたも経験あるんじゃないでしょうか。AIエージェントに、あれもこれもって、完璧な指示を毎回コピペして、結果的にAIが、なんか完全に混乱して、的外れな答えを返してくるっていう。
えー、ありますね。分厚いマニュアルをいきなり丸投げされて、パニックになった新人みたいになっちゃうんですよね。
そうそう、まさにそんな感じです。今回のミッションは、提供された情報源から、そのAIの指示と記憶の正しい置き場所を解き明かすことです。
さて、これを紐解いていきましょう。どうやら、巨大な一つの文書に全部を押し込むっていうのは、もう時代遅れみたいですね。
ええ、その通りです。情報化だってAIの最大の敵なんですよ。全てを一つのファイルに押し込んじゃうと、昔のルールと今の文脈が頭の中で衝突して、結果的にエラーを起こしちゃうんです。
ああ、なるほど。これって例えるなら、会社の全体方針と現場の給頭室のローカルルールをごちゃ混ぜのファイルにしちゃいけないみたいなことですよね。
まさにそれです。ここで興味深いのは、オープンAIのコーデックスとか、Googleのアンティグラビティがまさにその階層構造を採用しているって点なんですよ。
階層構造ですか?全体と局所を分けるっていう。
はい。大前提となるグローバルなルールと特定の作業フォルダ、つまりディレクトリの中だけで使う局所的なルールを物理的に分けて重ね合わせてるんです。
ちょっと待ってください。もしその会社全体のルールと給頭室のルールが矛盾してぶつかっちゃったら、AIはどっちを信じるんですか?
その場合はですね、より具体的な特定のディレクトリのルールが優先して上書きされる仕組みになっています。
あ、ローカルルールが勝つんですね。
もし全部の指示を一番上の階層において常に読み込ませると、AIが一度に処理できる記憶の限界をすぐに超えちゃうんですよ。
だから適用範囲を絞って、今必要なルールだけを読ませるのが重要なんです。
なるほど。毎回重いバックパックを背負わせるんじゃなくて、今日は釣りだからこの道具箱だけ持っていくみたいな感じですね。
本当にそういうイメージですね。ただ、場所が決まっても、それが誰によっていつ書かれたかで扱いは変わってくるんです。
なるほど。ということは、人間が書く高級的なマニュアルと、作業中にAIが取るメモみたいなものは明確に分けるべきなんでしょうか?
おっしゃる通りです。アンソロピックのクロードコードなんかは、人間が書いた絶対に変えないルールと、AIが作業中に学習した一時的な自動記憶、オートメモリーをはっきり分離しています。
人間用とAI用で分けてるんですね。
ハーミスエージェントも同じで、常に守る規則と必要な時だけ引っ張り出す手順書、いわゆるスキルを分けて記憶の上限圧迫を防いでるんです。
なるほど。情報の上限対策ですね。あれ、さっき言ってた、いつ書かれたかっていう時間軸の概念はどうなんですか?
あ、そこがさらに厄介なんですよ。マヌスというシステムではですね、一度プロジェクトを立ち上げると、その時の設定が古いタスクにずっと固定されるんです。
03:06
え?それって不便じゃないですか?後から、やっぱりこのルールを追加してって指示を変えても、既に動いてるタスクには反映されないってことですよね?
そうなんです。でも、これには明確な理由がありまして、もし進行中の古いタスクに後から新しいルールが強制適用されたらどうなると思いますか?
あー、それまでの前提が崩れて、作業がおかしくなっちゃうのか?
そうなんですよ。いつ作られたタスクなのかによって、AIが見るべきルールは過去の状態でロックされなきゃいけないんです。
過去の作業を守るためのバリアなんですね。ここからが本当に面白いところなんですが、きれいに整理できたとして、じゃあそれをチーム全員で共有しようとしたらどうなるんでしょう?みんなで同じルールを使えば完璧な気がしますけど。
そこがですね、大きな落とし穴なんです。例えば、ジェンスパークのハブのような場所で全てを共有してしまうと、一見便利に見えるんですが、恐ろしいリスクがありまして。
リスクですか?でも、ワークスペースやフォルダさえ分けておけば安全なんじゃないんですか?
そこなんです。オープンクローの事例がまさにそうなんですが、ワークスペースを指定しただけで安全な隔離環境、つまりサンドボックスができたと錯覚しちゃいけないんですよ。
錯覚ですか?
はい。ワークスペースって単にファイルをグループ化しただけで、システム的にはつながってるんです。
ということは、一般公開用のブログ記事を書かせてるAIが、隣のワークスペースにある社外費のAPIキーとか顧客情報のファイルをうっかり読み込んで、出力に混ぜちゃうかもしれないってことですか?
まさにその危険がありますね。だからこそ、AIが読むための作業マニュアルと実行状態や認証情報のような機密データは、システムレベルで完全に切り離す必要があるんです。
ただ整理するだけじゃなくて、ちゃんと見えない壁を作らなきゃいけないと。つまりこれは何を意味するのでしょうか?毎回コピペする悪夢から抜け出すには。
はい。結論としてはですね、情報の種類とか読み込む範囲、それから更新担当者をしっかり整理した継続指示カードを意図的に設計しなきゃいけないってことですね。ルール、記憶、手順の置き場所をデザインするのが鍵になります。
なるほど。巨大な指示書を一つ投げて祈るだけの時代は終わったんですね。最後にリスナーのあなたに考えてみてほしいことがあります。
何でしょうか?
もし将来、AI自身がこの指示は古くて今の文脈と矛盾しているから削除しておきますねって自動でルールを整理するようになったらどうなるでしょうか?
それはすごい未来ですね。指示の断捨離をAIが自分でやっちゃうと。
そうなると私たちがこうしてAIへの指示を管理するっていう仕事自体、不要になる日が来るんでしょうか?
ぜひご自身の作業環境と照らし合わせて考えてみてください。今回の深掘りはここまでです。
