00:00
よし、これを紐解いていきましょうか。 今回の深掘りですが、開発者のメモとか、AIの最新論文といった資料をベースに進めていきますね。
よろしくお願いします。 今日のテーマはですね、ズバリ、AIエージェントの完了しました、という言葉の危うさについてです。
ああ、それはすごくタイムリーな話題ですよね。 はい。
今日のミッションはですね、今これを聞いているあなたが情報を肩にならずに、AIの成果物を安全に受け取るための具体的な証拠の扱い方、これを解明していくことなんです。
そうですね。AIを普段の仕事に組み込んでいるあなたにとっても、これは全然他人事じゃない話ですからね。
そうそう。AIに作業を頼んで、コード修正しました、テストも完了です、みたいな綺麗な報告文が返ってくると、つい安心しちゃいますよね。
わかります。でもそれって実は、ただの作業の説明に過ぎないんですよ。
怖いですよね。中身を読まずに契約書にサインするような、かなり危険な行為なんじゃないかなって。
いや、本当にその通りで。AIって要約能力が無駄に高いので、もっともらしい報告書を作るのはめちゃくちゃ得意なんですよね。
はいはい。文章が上手いから、つい信じちゃうんですよね。
そうなんです。でも、オープンAIのコーデックスなんかを使った検証事例を見るとですね、
AIがここを直しましたよって言いつつ、実は全然関係ないコードを書き換えてるケースがあるんです。
えっ、それって別のバグを生んでるってことですか?
えー、意図せずにやってしまうことが多々あるんです。だからこそ報告文じゃなくて、実際の作文、つまり変更前と後の行を直接見比べるステップがどうしても必須になるんです。
なるほど。実際の変更箇所であるDIFを見ろと。でも、クロードコードみたいなツールって自動レビュー機能がありますよね?
ええ、ありますね。
それなら、AI自身に二重チェックさせれば、人間が一行ずつ見なくてもいいんじゃないですか?
まあ、そう思いたいところなんですが、そこに大きな落とし穴があるんですよ。
落とし穴ですか?
はい。クロードの自動レビューって、ロジックの破綻とかセキュリティの脆弱性みたいな深い問題を見つけるのはすっごく得意なんですけど、
実はリントと呼ばれるような書式とか公文のエラーをチェックする基本的な検証は、あえて対象外にされてるんです。
え、そうなんですか。じゃあ、自動レビューを万能の承認員だと思い込んでると、単純のエラーがそのまま本番に混ざっちゃう危険があるってことですね?
その通りです。だから、自動レビューだけに頼るのは危ないんですよね。
でも、コードが出来上がってからそういう抜け穴に気づくのって、ちょっと遅すぎませんか?そもそもコードを書く前の段階で防げないんでしょうか?
え、まさにそこが重要でして、そこで参考になるのがGoogleオーガナスの事例なんです。
ほうほう。
彼らは実装した後の差分を見るだけじゃなくて、そもそもコードを書く前の作業計画の段階でも検査ポイントを設けてるんです。
なるほど。計画と実行を切り離すわけですね。確かに、地図の目的地が最初から間違ってたら、いくら運転が正確でも意味ないですもんね。
ええ、そういうことです。あと、これってコードだけじゃなくて、データ抽出の作業でも同じような罠があるんですよ。
03:04
と言いますと?
資料にあったマナスAPIの事例が面白いんですが、AIが抽出したデータが、JSONっていうプログラムで読み込みやすいきれいな形式で出てきたんです。
お、きれいにデータが取れたぞと。
ええ、成功したと思いきや、実は中身が空っぽのゼロ値だったっていうケースがあるんです。
ええ、空っぽなのに成功したように見えちゃうんですか?
そうなんです。AIって処理に迷った時、正しい事実を見つけることよりも、指定されたきれいなフォーマットを維持することを優先しちゃう傾向がありまして。
なるほど、形だけ整えちゃうんですね。
はい。見た目がきれいだからって中身が正しいとは限らないっていう典型的な罠ですね。
いや、ここからが本当に面白いところなんですけど、ちょっと待ってくださいよ。
はい、どうしました?
計画を確認して、差分を1行ずつ見て、データの空欄まで人間が細かくチェックするなら、そもそもAIで自動化する意味がなくなりませんか?
ああ、それはすごく鋭い指摘ですね。
なんか本末転倒な気がするんですが?
もちろん全てを人間が手作業で検証しろっていうわけじゃないんです。検証プロセス自体を仕組み化すればいいんですよ。
仕組み化ですか?
ええ。例えば、オープンクローというツールにある飛行記録のアプローチが解決策になります。
飛行記録って、飛行機のフライトレコーダーみたいなものですか?
ええ、まさにそんなイメージです。
AIの一人ごとのチャットログみたいなもので、どんな文脈でどのツールを呼び出して、エラーが出たときにどうごまかそうとしたか。
ごまかそうとした過程までわかるんですね。
そうなんです。入力から出力までの全プロセスが記録されているので、結果だけ見て悩むんじゃなくて、この過程の記録を提出させる仕組みを作るんです。
なるほど。ブラックボックスを開ける鍵ですね。
はい。さらにこれを聞いているあなたが今日からすぐに使える実践的な手法も資料にありまして。
お、それは気になります。
それが完了証拠カードというものです。
AIへの依頼文の最後に変更したファイル一覧と検査結果、それから未確認事項を提出せよって明記するんです。
へえ、つまり完了報告と一緒に客観的な証拠もセットで出させるわけですね。
ええ、これの素晴らしいところはAIの賢さに依存していない点なんですよ。
と言いますと?
証拠が出せない項目は完了じゃなくて、保留として扱うんです。
つまりAIが賢くなるのを待つんじゃなくて、受け取る側のあなたが受け入れ条件をしっかり設定することが鍵なんですね。
なるほど。今回の深掘りをまとめると、AIの言葉をただ疑うっていう話じゃなくて、
人間が後から結論を追従できる材料、つまり証拠をいかに引き出すかが確信だってことですね。
まさにその通りです。
中身のわからない契約書にはもうサインしないぞと客観的な手がかりを求める習慣が大切なんですね。
はい、それが安全な自動化への第一歩です。
06:00
さて、最後にあなたに少し考えてみてほしいことがあります。
何でしょうか?
もし将来ですね、AIが提出したこの作業証拠をまた別のAIが監視して承認する時代が来たとしたら。
それは十分ありそうですね。
その時、私たちは最後に何を根拠にして本当に完了のサインを出すべきなんでしょうか?
いやー、それは深い問いですね。
ぜひこれについて少し考えてみてください。
それでは今回の深掘りはここまでです。
