1. AIと仕事の仕組み化ラジオ
  2. AIエージェント日次速報 2026..
AIエージェント日次速報 2026年11月11日版 入れる前に、他人が書いた手順書が何を実行できるかを読む
2026-11-11 06:27

AIエージェント日次速報 2026年11月11日版 入れる前に、他人が書いた手順書が何を実行できるかを読む

おたよりを送る
評判のよさそうなコミット整形の手順書をGitHubで見つけ、コピーして入れた。翌日からエージェントの返答がわずかに重くなり、承認画面には覚えのないシェルコマンドが並ぶようになった。手順書は文章のはずだったのに、同じフォルダに実行用のスクリプトが入っていた。しかも、そのスクリプトを読んだ人は自分を含めて誰もいない。

厄介なのは、手順書が二つの経路で効く点だ。一つは実行物で、同梱のスクリプトやフックは自分の権限でそのまま動く。もう一つは文章で、名前と説明の一覧は毎回コンテキストウィンドウに載り、エージェントがどの手順を読むかを決める材料になる。数が増えれば一覧が文脈を圧迫し、アテンションが薄まる。他人の書いた説明文が、自分のエージェン...

感想

まだ感想はありません。最初の1件を書きましょう!

00:00
あの、作業を楽にしようと思って、AIのプラグインを入れたとしますよね?
はい、よくありますね。
で、その直後に、あなたのパソコンの裏側で、えーと、全く見覚えのない不可解なコマンドが勝手に動き始めたらどうしますか?
いやー、それはちょっと背筋が凍りますね。
ですよね。今回の深掘りでは、とあるITエンジニアの日次速報をもとにですね、
AIエージェントの手順書、つまりプラグインの導入に潜む罠と、あなた自身を守るための自己防衛策を解明していきます。
よろしくお願いします。
情報源の著者が体験した失敗談なんですが、これがもう本当に怖いエピソードでして。
どんな内容だったんですか?
えーと、著者がGitHubで見つけたすごく評判の良いコミット成形の手順書をコピーして入れたんです。
便利なやつですね。
はい。でもその翌日、エージェントの動作がなんか微妙に重くなりまして。
おや?
それで承認画面を見たら、全く覚えのない謎のシェルコマンドが出現していたそうなんです。
え、ちょっと待ってください。ただのテキストファイルであるはずの手順書を入れただけで、なぜそんな事態に?
そこなんですよ。ただの文章だと思って入れた手順書の中に、実は誰も読んでいない実行用のスクリプトが隠されていたんです。
うわー、ちょっと状況を整理させてください。
これって例えるなら、新しいレシピ本をキッチンに置いた途端、見知らぬシェフが勝手に火を使って料理を始めているようなものですよね。
まさにその通りです。すごく分かりやすい例えですね。
ですよね。そして恐ろしいのは、この脅威が2つの全く異なる経路からあなたのシステムを侵食するという点なんです。
2つも?
はい。第1の経路は、今おっしゃった実行物としての直接的なリスクです。
はいはい。
今回のソースにあるクロードコードの公式資料でも強く警告されているんですが、インストールしたプラグインは、あなた自身のユーザー権限を使って任意のコードを直接実行できてしまうんですよ。
つまり、ただのレシピ本だと思って置いておいたら、勝手に動き出して包丁を振り回す全自動の調理ロボットだったと?
笑い事じゃないですが、本当にそういうことです。そして第2の経路が、文脈の圧迫という現象ですね。
文脈の圧迫?それってどういうことですか?
コーデックスの仕様を見るとわかるんですが、手順書を入れると、その名前と説明文だけでAIモデルが一度に処理できる記憶領域、つまり文脈ウィンドウの最大2%を消費しちゃうんです。
2%って文字数にするとどれくらいですか?
約8000文字分ですね。それが常に消費されてしまう仕様になっています。
8000文字。なるほど。つまり、その見知らぬシェフに料理と全く関係ないスパムメールの束を常に読ませながら調理させているようなものですね。
その通りです。
そりゃ塩と砂糖を間違えたり、判断が歪んだりするわけだ。でも見知らぬ他人が書いた説明文が常に混ざり続けるって、冷静に考えるとかなり危険じゃないですか?
本当に危険です。AIの意思決定が静かにそして確実に歪められていきますから。
03:04
だけどそんなの私たちユーザー側で毎回気づけるはずないですよね。
そうですね。
プラットフォーム側、つまり開発ツール側で、そういう危険な行動をブロックする仕組みはないんですか?今回いくつかの公式資料を比較していますよね?
はい。7つの公式資料を横断して比較しました。もちろん対策を講じているプラットフォームもありますよ。
例えば?
例えば、マナスにはAI自身に事前レビューさせる機能がありますし、ヘルメスとかオープンクローは隔離された環境でのスキャンやコマンドによる信頼性チェックを提供しています。
それなら安心。
と言いたいところなんですが。
違うんですか?
アンチグラビティとか共有を前提とするジェンスパークの仕様から浮き彫りになるのはですね、恐ろしい事実なんです。
なんですか?
それは、エージェントは同梱された実行スクリプトの中身を自分からは決して読まないということです。結局、受け取る人間がテスト環境で確認しなければなりません。
どうしてですか?AIなんだから自分のプラグインの中身くらい一瞬で読めるでしょ?
なぜ読まないかというと、プラグインの実行スクリプトはAIの思考回路、つまりコンテキストの外側にあるシステム領域に保存されるからなんです。
なるほど。
なので、AIは手順書のタイトルと説明文は認識しても、裏で動くコードの本体まではわざわざスキャンしに行かない仕様になっているんですよ。
そういうことか。だとしたらですよ、ツールに任せきりにするんじゃなくて、インストールする前に私たち人間が必ずチェックする積小を作らなきゃいけないってことですよね。
まさにその通りです。
でもここがすごく気になるんですけど、毎回人間がなかったらしいコードを読んでいたら、せっかくのAIの時短効果が台無しになっちゃいませんか?
いや、そこなんですよ。だからこそ、個人の気合やスキルに頼らない仕組み化が必要になるんです。
仕組み化?
はい。著者はそこで導入前カードというフレームワークを推奨しています。
導入前カード。つまり、ただ漫然とコードを読むんじゃなくて、確認するポイントを絞るわけですね。具体的には何をチェックするんですか?
インストールする前に2つの問いだけで検査します。
1つ目は何が動くのか。つまり、裏で走るシェルスクリプトなどの実行コードが隠されていないか、ファイルの中身を検索して確認します。
はいはい。
そして2つ目は、入れた後、毎回いくら文脈を消費するのか、説明文が異常に長くないかを見るんです。
なるほど。その2点ですね。
この2点を事前に検証するプロセスを挟むだけで、リスクは劇的に下がります。
なるほどな。自分のAI活用能力として自慢すべきは、インストールした手順書の数ではなくて、中身を自分の目で検証してから入れた数だということですね。
おっしゃる通りです。
ツールがどれだけ進化しても、最終的なゲートキーパーは自分自身だと。
はい、そういうことです。
さて、ここまで深掘りしてきましたが、リスナーのあなたにとって、これはどんな意味を持つのでしょうか。
06:05
あなたのエージェントが今背後で読み込んでいる手順書は、本当にあなたの指示に従っているでしょうか。
それとも、キッチンに潜り込んだ見知らぬシェフの意図に操られているでしょうか。
今日、今すぐ、あなたが普段使っているプラグインの中身を一つだけ開いて確認してみてください。
06:27

コメント

スクロール