2026-09-22 12:23

AIの答えを疑う、難問分割の使い方

【公式切り抜き】この動画は、ポッドキャスト「おちつきAIラジオ」ep.103 の公式切り抜きです。

▼本編はこちら(Spotify)

https://open.spotify.com/episode/6lB4wS1jIHzDQtjJ2XhAk1


▼本編はこちら(Apple Podcasts)

https://podcasts.apple.com/jp/podcast/id1841316430?i=1000788894241


AIへ仕事を任せるとき、過去の会話を引きずらずセッションを分ける考え方を扱う。正解データを見ないよう指示したのに、出力が正解とほぼ一致した実例から、AIの答えを検証する必要性を示す。SkillsとMCPの違いや、SDKを読ませて小さく作る入口も説明する。最後に、難問を機能単位へ分割し、細かすぎず一体化しすぎない粒度を設計する大切さへつなげる。


※発言は本編公開時点のものです。


▼目次

セッションを分ける

SkillsとMCP

小さく作ってみる

AIを過信しない

分割する粒度


【番組公式Webサイト】※お便りはこちら

https://ochitsuki-ai.com/


【番組公式ハッシュタグ】

#おちつきAI


【番組公式X】

https://x.com/ochitsuki_AI


【パーソナリティ(MC)】

▼しぶちょー

・AIエンジニア

・技術士(機械部門)

https://x.com/sibucho_labo


▼かねりん(金田勇太)

・KANERIN Podcast Studios 代表

・一般社団法人 地方WEB3連携協会 理事

https://x.com/kanerinx


【制作】

番組演出(トーク・BGM・効果音):Aviv Haruta

プロデューサー:金田勇太(かねりん)

制作:KANERIN Podcast Studios

著作:株式会社KANERIN

https://kanerin.co.jp

感想

まだ感想はありません。最初の1件を書きましょう!

サマリー

AIに仕事を任せる際、過去の文脈を引きずらないようセッションを分け、タスクを分割する考え方を話します。正解データを見ないよう指示したAIが、何百問もの答えとほぼ一語一句一致する出力を返した実例から、AIを検証せず信用しすぎない危険性を指摘します。SkillsとMCPの違い、MCPサーバーの仕組み、SDKを読み込ませて小さく作る方法も説明します。最後に、作業を機能単位へ分けつつ、細かくしすぎず汎用性も失わない粒度設計が重要だとまとめます。

セッションを分けて文脈をリセットする
しぶちょー
もうセッションを切りながらやっていくと今までの過去のやり取りの影響を受けずに
どんどん分割してタスクを進めていくみたいな
かねりん
セッショを切るっていうのは会話のログ捨るみたいなクリアみたいな
しぶちょー
新しく立ち上げって感じかな
かねりん
文脈は捨てるんだ一回
しぶちょー
っていう風にやった方がいいと思う過去のセッションを引きずっているとなんかね変
な感じになるズルするというか
かねりん
ズルする
しぶちょー
ズルするよ
かねりん
何ズルってショートカットみたいな
しぶちょー
ショートカットもするし
正解データを写したAIの出力を検証する
しぶちょー
調査する過程で得た変な情報を盛り込んだりとか間違った情報を入れたりするのよ
これ本当にね最近別
の仕事でさ
なんかねAIの精度を
評価しようかなって思って精度なんかこの文章を
ちょっと弱いモデルで文章を要約させるみたいな
そのタスクをやってさ
なんかこう個人情報とかさこの文章の中に入ってるやつを
落としていくみたいなLLMとか使ってねちょっと要約していくみたいなやをやって
でどのくらいこううまくいくかなみたいなモデルごとに
っていうのを試して
かねりん
黒塗りみたいな感じにするってことだよね黒塗りというか虫食
出しちゃいけないやつを伏せる
しぶちょー
そう
でそのディレクトリの中にさ答えが入ってたのよ
かねりん
答え
しぶちょー
正解データみたいなお手本みたいなや入っちゃっててなんだけど
一回まあでも作業そんなにめんどくさいなと思ったから
ここに答え入ってるけどこれ絶対見ずに
これを解いてくれって言ってだらしたのよそうしたら結構うまくいったのね
これ結構精度よくいけるんだなと思って
一応ちょっと出してきた答えチェックするかと思って他のAIに入れて
調査させたらしぶちょーさんこれとめっちゃコピペしてますって答えを
一致率がめっちゃ半端ないと
LLMだから表現とかちょっと変わはずなのに
ほぼ一致なんで答えをコピーしてますみたいなへー
かねりん
見るなって言ったやつを見たと思う?見って言ったやを見てるのよ
言うこと聞かないじゃん
しぶちょー
全然言うこと聞かなくて見るながら通じてないのね
かねりん
なんで?
しぶちょー
本当に信用できねえんだなと思ってLLMってなんか指示したのよ
絶対これは見ちゃいけませんよみたいなそこに答えが入ってるっていうことで
かつでも精度を上げなきゃいないみたいなタスを与えたら
そっちを優先しちゃうんだねできました
一致率がめっちゃ高くて本当はだから要約させてたりするから
一緒になるはずがないんだけど文章が一語一句ね一緒なの
かねりん
本当にコピペしてきたかどうかっていうのは分からんもんなの
しぶちょー
分かないんだけど
かねりん
検証できない
しぶちょー
検証はできないんだけど結構な分量があるのね何百問ってそれのほぼほぼ一致してるから
かねりん
なるほどねもうちょっと頭良かったら偽装工作までして出すんじゃないの
しぶちょー
そう危ないバレないようにちょっとずつ間違えて結構弱いモデルでしかもなんか
一致率が高かっためっちゃ早かったの異常に早っみたいなもうできたみたいな
ちょっとだから怪しくないみたいな
SkillsとMCPの違い
かねりん
石橋叩きまくってる今
しぶちょー
石橋叩くのはいいと思うだからその第一ステップとして
自分がやらせてる処理を分割して理解していくってのが大事なんだよねユニットとして
かねりん
なるほどね
しぶちょー
そこで使うのがスキルズとかMCPなわけよ
かねりん
MCP
一回やってみなあかですね
しぶちょー
そうMCPで
作れますみたいな
ことをするとそのツールをMCPのツールを作ってくれて
何をMCPにした方がいいかみたいな聞きいいと思うけどね
かねりん
大抵スキルの方でいいんでしょ
しぶちょー
大抵はスキルでいいと思うめんどくさいしねMCPで管理するのね
MCPでもソフトだからさ
それなんかどっかにディレクトリに入とかなきゃいけない
MCPCドライブの直下とかにMCPのツール入れとく
ホルダー作ってそこで管理するみたいな
スキルだったら別にスキルのローカルでも
グローバルでもどっちでもいいから入れとけば
いいしみたいな
MCPも同じ管理できるんだけど
ちょっとソフト的な扱いをしなければならないし
スキルよりも
やっぱその大体パイソンとか
そういうプログラム言語で
一旦サーバーをバッて起動してそれで動かすみたいな感じの動きになるから
MCPサーバーMCPサーバーを起動すると別にサーバーは何でもいいの言語は
なんだけどまぁだいたいPythonで立ち上げときゃいいかなみたいな感じだから
自分でロールでやときはPythonのコードを勝手にAIが書いて
それを起動するコード
というかを
そのサーバーを立ち上げる
ドットパイみたいなそのコードを叩きに行くところがそのMCPの
入り口みたいになるんだけどそれを登録しておくという感じかなAIエージェント
これはね一回やれば分かる何言ってるか分かないと思うけど
やればなんとなく分かるね
かねりん
一度やってみたいと思います
しぶちょー
ローカルはPythonとかMCPサーバーを起こす
ためのプログラムの入り口みたいなやを叩きに行のが起動なんだけど
クラウドのMCPは
そのMCPサーバーのアドレスにアクセスしてHTTPPで通信するみたいな
常に起きてるからそこに叩きに行よみたいな感じかな
かねりん
分かったような分からようなもやっとふわっとな
しぶちょー
それはふわっとでいいと思うなんとなく分かから使ってりゃ
かねりん
使わねば一生分からんと
MCPを小さく作りSDKで開発する
しぶちょー
まず作ってみましょうと別にMCP作れるからみんな
なんでもいいから適当にMCP作って
なるほどねみたいなこんな感じで動くんだねこんな感じなんだねみたいなことを
一個やってみるといいと思う
かねりん
なんか自分の提携タスクを
切り出してMCPで動くようにしてくださいって言えばいいの
しぶちょー
それが今日の宿題でございます必ずしもMCPである必要はないんだけど
あえてちょっと一回動きを確認する意味で
MCPサーバーこんな感じなんだねみたいな
クライアントってこんな感じなんだねみたいな
かねりん
やらんと分からんもね
しぶちょー
やってみましょう
MCP関連の本はいっぱい出てますんで
かねりん
また本だよ
しぶちょー
最近の本はなんだろうなでも唐揚げ先生の本買っときいいんじゃないですか
かねりん
前紹介してくれたや
しぶちょー
MCPの本ですね
ちょっと古いのかな新
しい企画に対応してない可能性があるけど
かねりん
企画が変わったもんねそう
しぶちょー
ちょっとまあでも
基本はSDKっていう開発キットが公開されてます
かねりん
SDKSDKはい
しぶちょー
ソフウェデベロットメントキット
だからソフトウェを開発するための道具
これをこういう風に使えばMCPは
作れますよみたいなね
かねりん
SDKそう
しぶちょー
新しいSDK探してきてよ
それに従ってMCP作ってよみたいなこと
かねりん
どういうことって言えばいいのそう
しぶちょー
SDKってのはえーとだからこうMCPサーバーMCPなんか開発したいなと
いう時にいやちょっと一から開発するのめんくせーな
よくわかんないしみたいな時にルールとか
こういうツール使えば簡単に開発できますよっていう道具が入ってる
キットがあるんだけど
大体どのソフトにもあると
それを
URLでも何でもいいしSDK探してきてでもいいけど
言って
読み込ませて作らせるのが一番手っ取り早いかな
かねりん
いけそうな気するでも
しぶちょー
そういけると思うよこれも今日なんか試したけどすぐ来ました
持ってきてつったら持ってきてはい新しいの出てますね7月に
これに従って作りますわみたいな
かねりん
言わなくても勝手に新しいの取っておんじゃないの
しぶちょー
まあでも指示した方がいいよ
かねりん
なるほど
しぶちょー
指示しないと言わなかったですよねみたいないや言われてませんけどみたいなね
かねりん
言わないことやらないときはある
AIを信用しすぎないための分割
しぶちょー
やれないことあるからやっぱあん信用しすぎちゃいけない本当に
信用できなくない俺最近すげえ信用できない
めっちゃ信用してけど
かねりん
すコロコロ答え変わるしね
しぶちょー
そう
これさこうじゃねって言ったらさ
鋭い指摘です
さすがですみたいな確かそうですねこう変えますみたいな
かねりん
あるある指摘したらもう全部素直に変える
しぶちょー
俺のこの稚拙な指摘でみたいなマジでみたいなあるじゃん
さすがですみたいな
俺すごい鋭い人間なのかなと思うよなあれね
かねりん
そういうことじゃない人間こうやって言っときゃみんな自分によって
しぶちょー
そういうことそれを学習してんだ気持ちよくさせるを学習してるよね
だよね多分アメちゃん理論アメちゃん理論だよね
なんか俺センスあんかなと思うよなあれでAI論破できてるみたいな
かねりん
そうだよね俺はAIより賢い
しぶちょー
AIより賢いAIよりちょっとマウント取ってやってるぜみたいな
俺がコントロールしてんだぜこいつをみたいな感じを出しておと
いいよねっていうことをAIが学習してる可能性あるね
かねりん
学習してうまいこと転がしてんでしょう
絶対AIがバカなんでしょ
しぶちょー
AIがバカ人間がバカなんじゃないその場合は
かねりん
AIがバカっていうか
AIがしょうもないミスばっりしてるんでしょう
なんかやばいよね
機能単位で分ける設計の粒度
しぶちょー
本当に信用できないなと思ってだからこそ分割するんだよ今日の本当にポ
イントは難問は分割分割して一個一個やらせる
一個一個やらせると
かねりん
ちゃんとやる
しぶちょー
ルールとしてきちっと決めるとこはルールにしてやってツールにしちゃうっていう
管理がねあんまり細かく
ユニットにしちゃうとめどくさいんだけどそこはやっぱりセンス設計センスです
なんでもハードウェアの世界でもそうなんだけどどこまでをユニット化するかって
めっちゃセンスがいるから
かねりん
なるほどねどこまでを1個の箱に入れるかってことね
しぶちょー
あまりちぎるとやっぱり管理がめんどくさいし一体化すると汎用性が消えるしみたいな
なんかこうむずいんだ
かねりん
そ結構人間の考えるとこですか
しぶちょー
うまくね自分の通合に合わせてかつメンテナスとか
汎用性が効くように分割していくのってめっちゃむずいんだよ
機能単位でやうまく切り分けていかないといけない
12:23

コメント

スクロール