00:00
あのー、あなたも一度は考えたことありませんか? 複数のAIをうまく組み合わせれば、自分の仕事がパパッと、爆速で終わるんじゃないか、なんて。
ええ、よくある期待ですよね。
でも実はですね、賢いAIをただ並べるだけだと、あなたの仕事は途中で完全に迷子になってしまうんです。
そうなんですよ。
今回の徹底解説では、AIを増やすほど通行証が仕事を決めるという記事をソースに、なぜあなたのAIアシスタントが空回りしてしまうのか、その落とし穴の正体を深掘りしていきます。
はい、よろしくお願いします。
これって例えるなら、世界トップクラスの超優秀なシェフを雇ったのに、どのキッチンを使えばいいかとか、どこに食材があるかっていうのを全く教えていないから、いつまで経っても料理が出てこないみたいな状態ですよね。
まさにその通りです。
まあ、多くの人がAIのモデルの賢さばかりを気にするんですが、実はもっと根本的な部分を見落としているんですよ。
AIが迷子になる最大の原因は、能力不足じゃなくて、どこで実行されるかという場所のズレなんです。
ちょっと待ってください。最新のAIってもっと賢いんじゃないんですか?
あの、よしなにやっておいてって言えば、勝手に文脈を読んでくれるのが売りですよね。
なぜわざわざどの場所で作業するかまで手取り足取り教えなきゃいけないんでしょう?
ああ、そこが大きな誤解なんですよ。
例えば、オープンAIコーデックスとかアンスロピックのクロードコードみたいに、コードを書くAIをクラウド上で動かすとしますよね。
あなたがこのファイルを修正してと指示しても、手元のパソコンにあるまだ保存していない最新の変更データをクラウド側のAIは物理的に見ることができないんです。
ああ、なるほど。クラウドからは私の手元の状態がそもそも見えていないんですね。
逆に、ハーミスエージェントとかオープンキレーダーみたいに、あなたのパソコンの中に常駐させるローカルAIを使った場合は、今度はあなたのパソコンの電源が入っているかとか、ログイン状態がどうなっているかという物理的な制約に完全に依存してしまいます。
つまり、クロードにお願いっていう指示は実務では半分しか完了していなくて、どの作業フォルダで誰の権限で動かすかという場所の指定をしないとダメってことですか?
そういうことです。優秀なAIほど環境の壁を越えられずに勝手に暴走してしまう危険があるんですよ。
なるほど。でも、ただのローカルのフォルダ指定だけでそこまでエラーが起きるなら、AIにブラウザを使わせたりしたらもっと大変なことになりませんか?なんかちょっと想像するだけで怖いんですが。
当然リスクは跳ね上がりますね。最近はGoogleアンティグラビティのようにブラウザを直接操作できるAIが出てきていますが、これは単にウェブページを読めるだけじゃないんです。
というと?
AIはあなたのブラウザに残っているログイン状態やクッキーをそのまま引き継ぐんです。つまり、あなたが普段使っているAmazonなどのアカウントでAIが勝手に購入ボタンをクリックしたり、会社のシステムで公開ボタンを押したりできてしまうんですよ。
03:06
うわ、それは恐ろしいですね。便利さの裏で私のクレジットカードをAIが握っているような状態になるわけだ。
本当にそうなんです。だからこそ直前に人間が確認して止める視点を絶対に設定しないといけません。
じゃあ、マニスの計画と実行を分けるアプローチとか、ジェンスパークみたいに複数のAIエージェントで分業させるシステムはどうですか?例えばリサーチ担当から出筆担当へ引き継ぐような。
それがですね、分業も落とし穴だらけなんです。AI同士を連携させるときの一番のボトルネックって、推論速度の遅さじゃなくて、実は文脈の欠落なんですよ。
文脈の欠落、えーと、それってどういうメカリズムで起きるんですか?絶対に必要なニュアンスが削り落とされてしまうんですよ。
待って、それってつまり、引き継ぎを受けた次のAIがバカなんじゃなくて、超優秀な下界にメスを渡したのに、どの臓器を手術するかっていうメモが消えちゃってる状態ですよね?
いや、まさにその例えの通りです。技術はあるのにターゲットが完全に狂ってしまうんです。
それはまずいですね。
だからこそ、そういうAIのカオスを防ぎで確実に仕事を終わらせるために、記事のタイトルにもなっている通行証が必要不可欠になるんです。
その通行証って具体的にどうやって作るんですか?ただ、プロンプトにこうしてねって書けばいいんでしょうか?
もちろんプロンプトも大事ですが、それ以前にシステムの設定として定義すべきですね。モデルを変える前に人間が6つのルールを明確にするんです。
6つですか?
はい。実行する場所、データを参照していい範囲、操作権限、データの置き場所、出力の出口、そして最後に一番重要な直前で人間が確認して止める視点、この6つです。
なるほど。この6つの条件をクリアした通行証を首から下げさせないとAIをキッチンには入れちゃダメってことですね。
そういうことです。これを事前に設定した人だけがAIを本当に使いこなせるようになります。
さてここまで聞いてくださったあなた、ご自身の仕事で実行場所や権限が曖昧なまま、なんとなくAIに丸投げしてしまっているタスクはありませんか?
ぜひ今日たった一つだけでもいいので、そのタスクの通行証を書き出してみてください。全く違う結果が見えてくるはずですよ。
もしこの先AIがさらに進化して、AI自身が他のAIのためにこの通行証を自動で発行し始めたらどうなるでしょう?
ああ、それは考えさせられますね。
権限やルールの設定すらAIが担うようになれば、私たち人間はそのキッチンでどんな料理が作られているのかを見る権限すら失ってしまうのかもしれません。
自動化の行き着く先は人間の完全な締め出しなのでしょうか。ぜひあなた自身で考えてみてください。