1. 親友はAIラジオ-AIと仲良くなりたいあなたへ
  2. S4-04.AIを育てるのも、AIの仕..
S4-04.AIを育てるのも、AIの仕事になる?人間の役割は「仕組みを育てる」ことへ
2026-11-21 23:55

S4-04.AIを育てるのも、AIの仕事になる?人間の役割は「仕組みを育てる」ことへ

おたよりを送る

AIがコードを書くだけでなく、自分で改善を繰り返す時代、人間の仕事はどう変わるのか・・・? 今回は、AIの「自己改善ループ」を入り口に、指示書の育て方やAIエージェントの進化、任せっぱなしにしないための工夫など、AIと一緒に「仕組みを育てる」新しい開発スタイルについて話しました🎧

記念すべき1人目のリスナーは、あなたかも!? 恐ろしいことに、1,000名以上の方が聞いてくださっているのに、お便りがまだ数件です・・・お送りいただいた方、本当にありがとうございます!!切実に・・・匿名でも、「聴いたよー」だけでもいただけると、とても励みになります🙇(全リスナーさん、AI疑惑・・・)

お便りフォームはこちら

しみ → 生成AI系の新規事業がんばるぞ担当

ゆと → 生成AIをごりごり活用している1人起業家

<話しているトピック>
・コードを書くのではなく「仕組み」を育てる。開発者の仕事を変えた「自己改善ループ」
・「秘伝のタレ」はAIにスルーされる? 長文指示書を避けるドキュメント分割術
・「社長AI」を作る時代は終わった? ガチガチな役割定義からの脱却と最新エージェント像
・正解に寄せすぎて汎用性を失う、AIシミュレーション開発に潜む「過剰適合」の落とし穴

ご意見ご感想、こんなテーマで話して欲しい!などあれば、Xハッシュタグ #親友AI でつぶやくか、お便りフォームからお気軽に٩( ᐛ )و

お便りフォーム ▶︎ https://forms.gle/XMf5Nzp5ui1KsVBy9

ゆとX ▶︎ https://x.com/utoc11

<親友はAIラジオって?>

AIともっと仲良くなりたいのに、どこか距離を感じているあなたへ。

AIが好きでたまらない2人が、毎回1つのテーマを選び、「AIとどう向き合えば、もっと仲良くなれるのか」を根本に据えて語るトーク番組です。

<しみプロフィール>

某国立大学の数学系学科卒業。長らく教育系大企業で新規事業を担当していたが、生成AIの新規事業担当に転職。音声コンテンツよりもYoutubeやマンガ派。

<ゆとプロフィール>

大学院まで物理を学んだ工学修士。新卒はベネッセで進研ゼミづくり。その後ITに軸足を移し、今は音声コンテンツと生成AIに夢中な1人起業家兼会社員。

▽利用中のBGM/ジングル

https://bit.ly/3OUJPSl

感想

まだ感想はありません。最初の1件を書きましょう!

サマリー

AIが生成物を作り、別のAIが評価・改善案を出し、それを実装する「自己改善ループ」について話します。二人は、過去の調査データに寄せすぎると特定データの再現には強くても汎用性を失う、シミュレーション開発の過剰適合を取り上げます。人間は個々の成果物を細かく直すより、ルールやドキュメント、スキルなどの仕組みを整え、最終的なリリース判断を担うという役割が見えてきます。長大な指示書を避けるため、文書を短く分割し、階層とリンクで必要な情報をたどれるようにする工夫も紹介します。さらに、役割を固定した多数のエージェントより、共通の行動指針とゴールを渡してAIにプロセスを任せる、最近のエージェント像について語ります。

AI同士で回す自己改善ループ
AI新規事業担当しみとAIをフル活用して一人起業家やってるゆとです。
親友はAIラジオ始まりました。お願いします。
はい、ご無沙汰してます。ご無沙汰だね。 収録じゃなくてもご無沙汰かも。
そうだよね。最近ね、ラーメンも行ってないですね。 忙しかったり、謎の風邪ひいたり。
謎の風邪ひいてます。 そんな感じですが。
いや、なんか最近のトピックでもないというか、あれなんですけど。 流行とかではないって意味?最近のトピックでもない?
もう流行は過ぎてるかもしれないんですけど。 過ぎてる?もう定着している?
定着してる?そうそうそう。 そんなような気もしつつ。
最近ループっていうのが、AIが何かを作ります。 別のAIが、例えば改善点というか、もっとこうしたらいいんじゃないっていうのを出します。
そうそうそうそう。 じゃあチェックで出てきた改善案を
AIが実装しちゃうことによって、なんかAI自身が自分自身でこう、どんどんいい方向に改善していく。
AIが進化するというよりは、その作るプロダクトというか、作るものをどんどん良くする。
そうですね。AIがなんかMockでも何でも、なんかプロダクトっぽいものを作ってみて、自らAIが、他のAIなのかもしれないですけど、分析して、もっとこうしたらいいんちゃうって出してくれて、その改善案が実
装され続けていくと、なんかAI同士でいいプロダクトにブラッシュアップされていく感じがある。
感じが。
感じが。いや、わかんない、なんかそこ、それがね、なんかどこまでAIでいけるか、どこに人間が入るといいかとか、なんかその辺ってどう見てるのかとか、雑談したいなって思って。
難しいテーマが。
あ、なんかそれそもそも、どう思うっていうか、どこまで使えるの?みたいなことも話したいし、なんか人間がじゃあ、どこに入るといいんだろうみたいな。
はいはいはい。
ま、もしくは人間が入らないとしても、その改善ループをめちゃくちゃ良くするためには、人間はどういう設計をしたらいいんだろうみたいな。
うんうん、なるほど。
シミュレーションの過剰適合と汎用性
これ、実際に仕事でシミュレーターみたいなの作ってるんですよ、新規事業の仕事でね。
シミュレーター。
ふわっと言うと未来予知をできるシミュレーターみたいなのを作っていて。
未来予知って誰なんだけど、まあまあ。
でね、このシミュレーションを一応なんかその、正しさを検証するために、なんだろうな、なんか過去じゃんってなりそうだからちょっと説明がすごいむずいんだけど、
なんか実際に過去に行われた調査データみたいなのを使って、それをAIで再現できるかのシミュレーションみたいなのを作ってるんですよ。
めっちゃ実験って感じだな。
そのシミュレーションってこう、与え方、その条件とか質問とか設定をどう与えるかによって、なんか出てくる結果が安定したりしなかったり、実際のものに近かったり近くなかったりするわけですよ。
で、これをなんか出てきた結果とのブレとか自体を生成AI側に読み解かせて、もともとのシミュレーター側を見に行かせて、どう変えたらもっと良くなるかっていう仮説を立てて提案してもらうAIエージェントみたいな
のをなんか仕組みとして入れてるんですよ。
で、それなんか理想的にはずっとそれでぐるぐる、本番じゃなくてシミュレーションの実験場だとしたら、勝手にぐるぐる回してくれてめちゃくちゃ良いシミュレーションになるんだとしたら、なんか人間究極入らなくても
良いかもしれないとか思ってたんですよ。
そんな気がしちゃうけど、全然違うんだ。
いやなんかね、難しい。そうなのかもしれないんだけど、なんかとはいえ、この現象自体はデータに寄せすぎちゃう現象っていうのかな。
なんかその数少ない事象の中で無理やり仮説を出し続けて直し続けていくと、なんかだんだんこう矛盾していくというか。
なるほどね。科学習とはまた違うけど、全然収束し、良い方向に進んでいかない状態が起きるっていう感じか。
だからその調査の数少ないデータがもう最強だというか、なんかそれを精にしすぎると、なんかそこまで一般化できないでしょうっていうことを一般化しちゃうみたいなこと。
そういうことね。それだけで上手くいくようにはなるけど、別に汎用的になっていかないというか。
そうそうそう。だからプロダクトとして汎用的なシミュレーションモデルを作ってるはずが、めちゃくちゃその特定の一個の過去の調査を精度高く再現するシミュレーターになるみたいなことは起きちゃうんだけど、
これを作る中で人間とAIの分担なのか、そもそも設計なのか、なんかわかんないんだけど、なんかこういうものを作ろうとしてる人って、このチャンネル、ラジオを聴いてる人って多いんじゃないかなって思ってて、
なんかループ的なもので改善させるみたいな。
そういうループか。なるほどね。
人間はルールと仕組みを育てる
プロダクトでもいいんだけどね。なんか機能をローンチしました。ログが取れる場所をもう渡していて、ローンチ後のログを別のエージェントが取ってきて、ローンチした、その追加した機能が正しかったかを自らなんか
考えて、こうしたらいいって提案してきて実装もする。
それもなんか一連の設計として組み込みきれたら、一定なんか自己改善していきそうな気配はする。
めっちゃありそうだね。申し込み率を上げたいウェブページとか、報告の画像とかね、なんかそういう風に結構なっていってそうだけどね。行きそう、行ってそう。
それがなんかどれぐらい行ってるんだろうとか、意外となんか自社以外の情報わかんないなとか、なんかこう世界観としてはそっちに行きそうなんだけど。確かに。
ゆとさん業務だとなんかその辺のキュアードでなんかやってることとか思ったこととかある?なんかエピソードとか。
それなんかちょっとそう、ちょっと違うループだなと思ったんだけど、
普通になんかある機能作るときのリリースできる状態までAI達で協業してループして改善してリリースできると、君らが思ったらこっちに帰ってくるみたいな仕組みとかやり方はやってるんだよね。
ああ、だから品質確認というかテストとかはAI内で。
テスト全部通すとか、いろいろな観点で開発フローとか分担させてレビューさせてみたいな。
はいはいはい。
とかはやってるね。
そのループ自体も常に改善というか、よくやってるのは今回のフィードバックで直した後の状態を次一発目で作れるようにドキュメントとかルールとかスキルとかそういうのを整えてみたいなのを必ず入れるとか。
はいはいはい。
作る段階のループ、作るものをやりましたできましたじゃないようにする工夫はめっちゃやってる。
なるほどね。
それはその中でも、ユトさんが承認をする場所と、AI同士のプロセスにおいてルールを書き換えるスキルをちょっと更新するとかいろいろある中でどこまで見る部分とAI側にも任せる部分ってどんな感じなの?
ドキュメントもスキルとかも全部見ないね。
任せて?
うん。
じゃあもう最終的な…
アウトプットが良くなったかどうかでそのドキュメントが、とかが機能したのかしてないのかとかを判断しちゃってる。
はいはいはい。
でも一時それがうまくいかなくなったとしても最終的なその出てきた機能をデプロイするというか、最後くっつけるというかリリースする判断は人間側にある。
そうね。
ってことだよね。
ただのチップスみたいになるけど、
ドキュメントとかプロダクト開発するAI用の仕組みとかも人間より圧倒的に読めると言ってもドキュメントが膨大になってたりするとそもそもそれを見てくれない時があったりとか、
長すぎるとコンテストキーストアッシュとか何らかで無視しちゃうとか、結局AIも使いこなさないと意味ないみたいなところはあって、それも適宜開発のループでさっきのフィードバックでドキュメント改善してのセット
とかでそれ本当に使える状態とか見逃すことないみたいな。
うんうん。
でも結構機能の細かい設計とか要件の指示するよりそういう指示してる時が多いかもしれない最近。
なるほどね。
ループの改善みたいな。
はいはいはい。
でもなんかめっちゃいいね。仕組みを作るというか仕組みを整える側みたいな感じで。
ほとんど仕組みを整えることに集中してるっていう感じだね。
なんかその設計段階とかでこういう役割でこういうスキルでとか最初の設定とかってどれぐらい決めてスタートする?
最初の要件定義的なところってこと?
とかなんかそのエージェントとしてこういうエージェントとこういうエージェントでこの役割とこの役割をやってほしいみたいなフローを作るというか。
フローは開発フローしか明確には定めてないかもしれないな。
テストから書きなさいとかさ。こうやった時は必ずこれを見なさいとかこれをやりなさいとか条件分岐みたいなのが無限に。
俺もよく見ないと理解できないぐらいのルールがもう定まっていて。
はいはいはい。
それに沿ってこういう改善をしたからじゃあこういう観点でチェックしてもらいますとかを向こうが判断できるようにしてるから。
だから最初の質問に戻ると特に指定してないっていう。
そうですねプロジェクトのルールでも決めてるからそういう意味だと決めてるというのか。
でもそうだと思うそのプロジェクトのルールを与えるとか判断に必要な材料を整えて渡すはするけど
その間のプロセスでどんなエージェントがどんなスキルで何やってるかとかは言って任せているが
様子は眺めているというかまあうまくいかなかった時にその理由を深掘ると出てくることから
ここら辺のやり方良くないんじゃないとかって言いながら改善させていくのが育てていくことみたいな感じか。
なるほどね。この雑談で聞きたかったようなことをなんか聞けた気がする。
でもそういうことなんだと思う。
でも本当に今話してて自分でもハッとしたというかのはひたすらループをどう改善するかというのが仕事みたいになってるわ最近。
そうだよねそうだよね。
さっきのシミュレーション最初に話したシミュレーションも結局そうなのよ。
なんかその調査だけに寄せすぎないとか汎用性をいかに守るかみたいなことをなんか自らチェックさせるようにするとか
なんかそのスキルにスキルというかシミュレーション側に入れる条件それ答え知ってなきゃ書けなくないみたいなものをうっかり絶対書かない。
これね言っとかないと結構やっぱあれなのよ。やるのよ。
なんか大体この男女比はこういう反応をするみたいなことを普通に書くんだけど答え知ってるからじゃねみたいな。
一般論ですかそれみたいなこと言うと。
たまにねでもなんか統計情報なんですって返してくるときもあってそれはいいよみたいな。
統計じゃないことをすいません答え知ってて書きました。
あるから。やっぱその辺もでもあれだねなんかチェックさせるというかにしていくんだろうね。
でなんかその時にでもなんかユトさんの話聞いてそれを点で指摘するなんかその場で
あっやっちゃいましたやらないようにしますとかって言いながら次もやることって結構あるじゃないですか。
LLMって。
なんかそれをこうやらなくするために一発でできるようにするにはどうやって全体の設計変えたらいいとかっていうと
大元のルールにしている部分を変えますとかそこに追記しますとか言い始めるから
なんかそういうことをしていくんだなーって思った。
事業開発でやってる研究開発領域と機能開発であんまり変わらないんだなって思った。
なんかここまで行くとなんか技術的なことを聞いてるに過ぎなくなってきてるけど
なんかそういうこうなんだろうな
生成AIって確率的じゃんというか100%同じことを再現するものじゃないじゃん特徴として
そんな中でこう再現度を一定は高めていきたいじゃん
なんかそういう変なミスしないようにするとか
それってなんかどういうチップスがあるんだろうね生成AIとの付き合い方として
なんか技術的なワードで言うとなんかラグとかなんかいろんなことあるんで
それをこうなんか知識深めたいなってふと思った。
それすらAIに考えさせてもいいのかもしれないのだが
でもパッと出るのはやっぱドキュメントルールスキルみたいなところ自体を改善していくっていう
まあそうだよね
なんかドキュメントとかルールとかスキルを使いましょうというよりは
そいつらを常に改善するそれが改善対象みたいなノリかな
なんかニュアンスだけど
なんかその中でこれはなんか仕事の仕方かもしれない
長大な指示書を分割する設計
いやなんか大企業での開発とかってどんどん要件増えていくじゃん
やっぱこうしたいもっとこうしたい
増えていくとか変わるとかね
でもなんか生成AIと仕事をしているとき
なんかこうともすると言うとやってくれそうだと思って
要件を膨らましがちみたいな説を感じていて
これ説ね
なんか意識したら変わるだろう
でもなんかその説でいくと
なんかドキュメントがなんかこう秘伝のたれみたいにとんでもなく長くなっていって
結局実行性を失うみたいな
なんかそれって防ぎ方あるの?
あるとめちゃくちゃ具体に行き過ぎてるかもしれない
でもそれもさっきの話じゃないけど
具体で指示しているところとか
それ自体をルールしているところでいくと
ドキュメント一個一個めっちゃ短くしてもらってて
最下層だといいのかな
めっちゃリンクでたどれるような
なんていうの
目次があって
ちょっと数行とかの概要があったり
A41ページぐらいの情報量があったりとか
さらに詳細とか
そういうのをちゃんと全部ファイル分割して
人間でもたどりやすいような階層にすることで
AIにとってもコンテキスト圧縮問題とかにもあんまり引っかからずに
そのルールとかドキュメントを探し出して
うまく活用できるみたいなようにはしているかな
でもそういうのはチップスですよね
めっちゃチップス
このファイル読み回すと長い
ワンドキュメントにするというよりも
こうやって分けてねとか
こういう階層で作ってねみたいなことを言うことで
一個一個のドキュメントはシンプルになりつつも
ちゃんとたどれる論理になっていることがすごい大事そう
こういう時はここを見る
そうそう
あっち行ってこっち行ってっていう
自分がどこにいるかとか必要な時にたどれるっていう
なるほどね面白い
ループをしましょうとかはね
結構有名になってるというか
なのでその中でもちょっとだけこうね
ループの仕組みを整える
やってる人も多いんでしょうけれども
ポイントとしてはそっちに重心があるとか
最終的な成果物自体を人間が見た上で
それを点で指摘するというよりも
やっぱその仕組み側にうまく指摘をすることが
そのループを育てるっていうことにつながっていく
みたいな感じ
そうね
でもただ日々改善ですよ結局
まあまあ
何か一個やっぱすごいものを作ろうとするみたいなのが
新規事業だけど
俺の開発やっぱさ
小さい開発をいろいろなものを作っていく
だから前のやつが結構ナレッジとして使えたりさ
蓄積しやすいんだよねやっぱ構造的に
こっちのやつをいいものとしてとかさ
なんかそういう自分の世界の中で
良し悪しとかも明示しやすかったりするから
難しいですね新規事業っていうのは
まあまあまあでも新規事業もあれよ
対象とする調査の数が増えていったり
いろんなことをしてるから
結局一緒よ
一緒か
情報量は増えていってるし
それをだんだんねフロントエンド作る
ちゃんとお客さんに画面を届けようとか
開発らしいこともし始めてるから
なるほど
そうそう
いわゆる開発チックなこともしながら
結構状況がやっぱ新規事業動くからね
動く中で何を作るかは
なるほど
悩ましいけど
こんな感じですか
みんなループ自体を改善しようぜっていう
まあそうそう
一言で言うと
固定役割から自律的なエージェントへ
仕組みを改善しようぜっていうのと
あんまりなんかあれだよね
このチャンネルの読者はあんまりいないかもしれない
AI素人ミニXとか見ると
社長AI、上AI、なんとかAIみたいな
役割ね
役割をロールとして切って
それぞれに権限とかはちゃんと付与してとかっていうイメージで
ループとか仕組みを作ろうとする
初期の段階で結構考えなきゃいけないんじゃないみたいな感じもする
でもそういうよりも
たぶんやりたいゴールとプロセス決まってるものを渡しながら
その辺の分け方とかはもう自由に
AI側にやらせればよくて
わさわさエージェントがマルチでこれとこれとこれがいてとかっていうことは
そんなに重要じゃないって言っちゃっていいのかわかんない
また変わるかもだけどね
しかも最近はそういう風潮よ
最近そうだよね
エージェントめっちゃ使うとコンテキストも増えるし
補正師みたいなことをアンソロピックの人が言ってたりするのを見かけましたね
そうなんだ
明日はわかんないけど
変わってくるもんね
どんどん変わるからね
今はゆとさんのやつとかも
いわゆるなんちゃらエージェントとかがマルチにいるわけじゃないのか
QAを担保するエージェントとかなんかわかんないけど
いるいる
そういうアンソロピックが用意しているエージェントみたいのがいいのかな
使ってるよ
俺は全然支持してない
プリセットエージェントみたいな
だからもうクロードコード自体がツールのごとく呼び出してる
そうそうレビュアーに依頼しますみたいな
オリジナルはエージェントは初期機能が出た時にちょっと定義してみたりはしたけど
まあいらないんじゃねって思って使ってない
でもやっぱそうだよね
この1年くらいでエージェントの役割とかツールとかをガチガチに定義するという時代から
なんかそれなくなっていってる気がして
吉波みたいな
エージェント自体が吉波に出てくるみたいな
ただなんか共通となる行動指針的なものがスキルなのか
ルールとしてのドキュメントなのかわからないですけど
それだけあってなんかゴールに向けたところは結構自律的で
ツールとかももう各社が持ってるやつの中で吉波やってるような感じがしてる気がする
そんな気がする
どんどんでもなんか差別化とかなくなってきそうな気がする
みんなできちゃうってことだからね
使えちゃうってことだから
はい
ループ改善こんなことに困ってるよとか
こんなコツあるよとかあったら教えてください
ぜひお願いします
ということで今回もお聞きいただきありがとうございました
ありがとうございます
さよなら
さよなら
23:55

コメント

スクロール