1. 俺たちのAI
  2. 26/07/21 トークン節約術!AI..
26/07/21 トークン節約術!AI利用料を最小限にするコツ
2026-08-09 28:38

26/07/21 トークン節約術!AI利用料を最小限にするコツ

本日のトピック:

トークン節約術!AI利用料を最小限にするコツ

感想

まだ感想はありません。最初の1件を書きましょう!

サマリー

このエピソードでは、AIの利用料を最小限に抑えるためのトークン節約術について詳しく解説しています。まず、AIとの会話において、やり取りが増えるほど入力トークンが二次関数的に増加するという仕組みを説明し、これがコスト増の主な原因であることを指摘しています。例えば、200〜300ページの本をAIに入力した場合のコストが約75円かかる試算を示し、会話が長引くとそのコストが指数関数的に跳ね上がる危険性を警告しています。 次に、このコスト問題を解決する鍵として「キャッシュ」の概念を紹介します。キャッシュは一度入力した情報を記憶し再利用することで、コストを大幅に削減する仕組みです。これにより、同じ内容の質問を繰り返した場合のコストが10分の1になることもあります。しかし、キャッシュがあっても会話が長引けばコストは増加するため、話題が変わったらセッションを切り替えることが最も重要だと強調しています。セッションを切り替えるだけでコストが400分の1になる可能性も示唆しています。 さらに、会話履歴を圧縮する「コンパクト」コマンドの有効性と限界についても触れ、精度が低い場合があるため、代わりに「引き継ぎ書」を作成して次のセッションに活かす方法を推奨しています。また、最新のAIモデルである「フェーブル」のような高性能モデルを効果的に使うための「サブエージェント」の活用法も解説。実行者(エグゼキューター)または助言者(アドバイザー)としてフェーブルを配置する2つのパターンを紹介し、コストを抑えつつ高性能AIの恩恵を受けるための具体的な戦略を提示しています。最後に、AIをキャバクラに例えるなど、ユニークな視点からAI利用のコスト意識の重要性を説いています。

00:00
今回の話題は、トークン節約術!AI利用料を最小限にするコツ、です。 文字起こしでは、笑い、含み笑い、ため息、息をのむ声、拍手など、はっきり聞こえる非言語音を 存在しない反応は補わないでください。
文字起こしでは、笑い、含み笑い、ため息、息をのむ声、 拍手など、はっきり聞こえる非言語音を 存在しない反応は補わないでください。
文字起こしでは、笑い、含み笑い、ため息、息をのむ声、 拍手など、はっきり聞こえる非言語音を 存在しない反応は補わないでください。
文字起こしでは、笑い、含み笑い、ため息をのむ声、 拍手など、はっきり聞こえる非言語音を 存在しない反応は補わないでください。
文字起こしでは、笑い、含み笑い、ため息、息をのむ声、 拍手など、はっきり聞こえる非言語音を 存在しない反応は補わないでください。
文字起こしでは、笑い、含み笑い、ため息、息をのむ声、 拍手など、はっきり聞こえる非言語音を 存在しない反応は補わないでください。
文字起こしでは、笑い、含み笑い、ため息をのむ声、 拍手など、はっきり聞こえる非言語音を 存在しない反応は補わないでください。
AI利用料の基本:トークンと二次関数的な増加
スティンキング
スティンキングですね
ちょっとこの答えをちょっと
よいしょ
お前困らせんなよ岩切りさん
むちゃくちゃ困った
あ、これミスるかみたいな、まああったやんけ今
普通にすでに言ってしまった
いやーごめんなさい岩切りさん 私の教育不足です
申し訳ない
思ったより即答できたね
もうちょいちょっと悩むかなと思った
いや岩切りさん舐めないでください逆に
もうそこまで来てます
今はスティンキングトークンほぼ 自動で回答してくれたと思うんですけど
ちょっと結論行く前に
1個だけ知ってほしいことがあって
あのインプットトークンの方ですね
なんですけど
入力?
これ実は入力の方です入力トークンなんですけど
あの大体1個このセッションというか チャットを立ち上げるじゃないですか
はい
やり取りをしていくんですけど
やり取りをすればするほどどんどん
インプットと入力トークンが増えていくんですよ実は
なるほど
そう
あれ初耳?
いやなんかそれらしき
感覚はあるんだよね
感覚はある
なんとなくね
実際そういう仕組みなんだみたいな感じ
言われると違うよね
はい
確かに
どういうことかというと
基本AIって単性だと思ってて
ユーザーが我々が質問すると
AIが回答するじゃないですか
はい
でももう一回その質問をしようとすると
実はその前のユーザーの質問と
AIの回答のセットが入力になっちゃうんですね
うんうん
だから
そういうことよ
一回目のユーザーの入力
一回目のAIの回答
二回目のユーザーの入力
全部が一つの入力になるんで
どんどん雪だるまみたいに増えていくんですよ
うん確かに雪だるま
そう
でこれを数学の世界では
二次関数で増えていくという
えーそういうこと
ではい
ちょっと何て説明したらいいですかね
事情オーダーで
二乗ですね
Xの二乗で増えていくんですよ
なのでそれがとにかくめちゃくちゃでかいですと
事情としてでかいんですよ
わかります
えー
例えば最初の一回目の応答が
100トークンだとして
Xの二乗
わかりにくいな
Xの二乗だと
終わらせるな
何もしてないですよ
すっごいシンプルには
1の二乗は1で2の二乗は4で
3の三乗は9なんで
3回やったらいつの間にか
最初の9倍消費されてるっていう
単純計算ですけどね
なっていくって恐ろしい話がありますと
へー
なので基本的にここが圧倒的支配的ですと
でもう一個押さえてほしいのが
コスト試算とキャッシュによる節約術
実際どれくらいの入力をしたら
どれくらいお金がかかるのかっていうところで
だいたいそのビジネス本で例えると
どれくらいだと思いますか
ビジネス本
全然わかんない
ビジネス本はだいたい小説でもいいですよ
だいたい2、300ページくらいの本を
AIにぶち込んだときに
どれくらいの値段になるかっていう
全部文字やん
全部文字です
テキストだけで入れたとして
どれくらいかかると思いますか
いくらくらいでしょう
俺これわかんない
で一旦ちょっとオーパスで考えましょうか
オーパスで
駆動のオーパス
結構上位モデルですね
えっどんくらいなの
でもこれ知ることでマジなんか
養われそうですよね
でもなんかやだね
今度から聞くときにこれいくらかみたいな
計算しちゃうよ
よくなかったですかね
これのドキュメントいくらか
どうせ定額なら使いたいみたいに思っちゃう
確かにそうっす
缶50円くらい
まさか
そんな1000円?
缶50円くらい
文章なんで
100いくらいくんちゃうかなと思った
なるほど
なんか素晴らしすぎてびっくりしてるんですけど
答え75くらいなんですよ
はいはいはい
もうね完璧ですね
完璧だよね
合ってるやろこれほか
さすが金銭感覚が問いすまされてる
評価高い
評価高い
でなんですけど
これだけ考えるときが今やばいことを2つ言っていて
前75じゃないですかと
さっき2時間数で増えていくって言ったんで
単純計算ですけど本を3回入れると
やばいね
75×3の2乗で9
もう1回言ってみましょうか
5回にすると75×25になって
いよいよ2000円くらいかかるわけですね
確かに
それはちょっとでもかかりすぎじゃないかって
いやマジでそう
思うじゃないですか
しかもさ本入れるじゃないですか
で書いてくるじゃないですか
ってことはこういうことって起こるじゃないですか
ってことはこういうことのついてるところに
75円もかかってるってことですね
そう毎回聞く
だるいってそんな
それはちょっとなんか普段使ってると
そこまでかかってるかって違和感が
多分あると思う
あるあるある
そこで出てくる隠し種として
キャッシュって概念があるんですね
キャッシュ
今日の会話勉強になるよ
大変勉強になりますか
もうここ行くんや
最高っすね
キャッシュ行くんや
ここまでちょっと今日は深堀って
ほんまに役に立つよこれは
いやマジでお金やっぱり一番大事なんで
いかに支出を減らすかっていう
でもこれ新卒の研修とかで聞かせた方がいい
確かに
全然聞いてほしい
確かにこういうのあっていいですね我ながら
今もう道が開けた
バコバコーン
行くんやそこ
行こう行こう
行きますよ
キャッシュってなんだと思いますか
メモリーみたいな感じ
読ませてますね
現金のキャッシュとはそもそもスペルが違って
そうだよ
いわゆるプログラミングとかで出てくる概念なんですけど
まさしくとメモリーで一回その入力をすると
それを記憶して再利用してくれるんですね
そうするとめちゃくちゃコストが安くなるんですよ
具体的にはクロードだと10分の1になるんですよね
そんなにお得
だからだいぶお得ですよね
例えばですけどさっき本が75円かかるって言ったじゃないですか
だから本を読み込んで要約してって一回売ったとしたら
最初は75円かかっちゃうんですよ
なんですけどもう一回質問したときは
その前の分がキャッシュされてるんで
だいたい7.5円で済むから75足す7.5足すみたいな感じで
そんなに増えないんですよね
本当やったら75足す75掛けいくらみたいになっていくところが
75足す7.5
よく考えましたねキャッシュって
昔からあるんやけど素晴らしく強力な
すご
これがめちゃくちゃ偉大な発明というかね
当たり前ではあるんですけどめちゃくちゃ我々が普段教えた
へえそういうこと知らんかった
みんなキャッシュがいっぱいいてとかそういう動きの話しかしないですけど
キャッシュのおかげであんなサクサク動くんですからね
ということですか
なんですよ
めっちゃ勉強になるなこれ
ここからがまたあるんですけど
7.5円で安いじゃんって思うじゃないですか
でもさっきのやっぱり二乗っていうのは恐ろしい話で
例えばまた本の話に戻りますけど
20回やりとりをするとか全然ある人はあると思うんですよ
その同じチャット内で
あるね
僕もあるかもしれないですね
それをやると結局20の二乗は400なので
そうね
結局だから最初の方が全然キャッシュが利いてくれるの安いんですけど
だんだんその単数が増えていくとそれに応じて一気に増えていって
20回やりとりだと7.5×20×20で3000円に
キャッシュどころじゃなくなっていきますよ
なので要はここでだんだんわかってくるんですけど
あんま長々と話をしない方がいいですね
ってことね一セッションで
とにかく
でそこがもうめっちゃなんか当たり前じゃんって思うんですけど
本当に大事だという話を今日はしたくて
基本的に話題が変わったら絶対にセッション変えましょうという
絶対に
絶対に変えてください
絶対に絶対に変えてください
何が何でも
サボらないでください
絶対に
コマンドAの押すだけです
絶対に
それだけ今日はまず伝えたいです
これはダメだよ
セッションを変えろ絶対に繋げる
これだけでコストが400分の1になると
やばい
そうか
21から
単純計算ですけどもちろんね
そりゃサボるとありがとうって言うなって
そうですねありがとうも1円2円かかる時代なんで
うわあいつらとか言ってやらしいですね
最後質問してくるじゃないですか
また質問したくなる
一生続けたくなる
でもしてほしくないね
ですよね
なかなかですね
なのでまず最初の結論はそこですね
とにかくセッションを変えましょう
シンプルですけどめちゃくちゃ大事ですという話ですね
長く質問しない
だらだら続けない
だらだら続けない
1回1回を大事にみたいな
一語一営的なノリで
AIとの会話にはお金が発生してますから
そうですね
婚活屋と思ってやってください
確かに
キャバ城とかに近いかもしれない
キャバクラに近いかもしれない
おもろ
こんなん言うてんの俺らだけやで
AIはキャバクラです
サブスクがテーブルチャージみたいな
座ったら発生する量みたいな
ほんとっすよね
ほんとっすよね
今日おもろ
いいね
おもろですねこれ
会話履歴の圧縮と引き継ぎ書の活用
話戻しますと
とはいえ
そんな言葉が出るな
岩木さんから
戻させてください話をちょっと
戻ろう戻ろう戻りましょう
戻すと
とはいえ同じ内容を
せっかく議論した内容が失われるのも嫌じゃないですか
嫌です
ここで一個すごい魅力的な選択肢が出てくるんですけど
これ多分コレックスの駆動動も両方あるんですけど
コンパクトってコマンドがあるんですね
もうある
会話の履歴を圧縮してくれるみたいな
しょっちゅう出してくるよね向こうからね
出してきますよね
これめっちゃ魅力的なんですけど
個人的には結構罠かなと思ってて
最初に岩切が今言っとくと俺もやってない
やってないですね
マジですかやってない
やってないですけどすごく精度が悪いんですよ
めっちゃ悪い
そうなんですか
クロードデザインとかもありあらせるとマジで悪い
最初コンパクトってあって
陽木くんこれ使った方がいいのって言ったら
いや使わない方がいいって言って
なんかハメに来てるやろみたいな
みんながコンパクト使いましょうって言ってんのに
うちのエンジニアだけコンパクト使ってないんですけどみたいな
みんな嫌いですね
本当に精度悪くなるんですね
俺も何ヶ月も試してないと思う
へえ
ふるむししてる
そうなんですか
そうこれだけはちょっとね
経験則でしかないんですけど
抑えておきたくて
じゃあどうしたらいいかっていうと
シンプルに引き継ぎ書みたいなの書かせるとよくて
今これまでの内容を要約してみたいな感じで
もっとこの辺は特に覚えておいてみたいなのあれば
それも指示するとファイルにマークダウンなりテキストって保存されるんで
そのファイルの名前だけ覚えておいて次に使うってのがおすすめですね
なるほどなるほどいいですね
なのでそうそう前回の引き継ぎ書を元に引き続き引き続き議論しましょうっていうと
400分の1になりつつ精度もそこまで下がらないっていう
これ何万人作ってる今これ
いやほんまにそうっすよ
引き継ぎ書って概念って私X見ててあんま見たことないですもん
ないなあ
引き継ぎ書作って次のセッションに行くってことやん
言ってるの見たことないよな
見たことないですほんまに
みんなすらコンパクトっすよ
コンパクト俺もアンチやわでも
あれメリットを感じたことが1回もないか
実利ベースではないな
こんだけAIコレクトリ使ってる会社がそういうのであればそうっすね
俺ら理論値ぐらい使ってるから
いやそうっすね
もうまじで
業務時間分の何時間使ってんだよ
結構そうなんすよ
AIによる業務効率化とマブボット
僕も最近クロードコードを使ってて
日本語クロードに書いてもらおうと思って
バレた
ほら俺らやってるやんマブボット
今年からやってるやん
俺もあれDMに毎日くんのよ
今日の俺のパフォーマンス教えてみたいな
メールの量商談の量
使用したトークンの量
でAからDまで出る
へえおもろ
そのどういう4つの評価なんですか
企業価値の向上にどれだけ貢献したか
っていうので俺を評価されてる
おもろマジっすか
ちなみにまあまあ厳しい
しっかりパソコンにアウトプット出さへんと
何も評価してくれへんから
俺がノートにどんだけ計算しようが
何も換算してくれない
体調とか崩そうもんなら
何も評価してくれない
確かに何も仕事してませんって言われますね
帝国に判断してくるんすね
でも逆に優しくて
今日は何かありましたかとか言われる
ちょっといいな確かに
結構人間っぽい
でもおもろいのは
言われるだけで意識する
これで企業価値がいくら上がるんやみたいな
確かにな
それはやっぱいいっすよ
CEOにとっては一番モチベーションが
すごいっすね
楽しいっすね
それは自動化してもいいですね
僕は主動でやってたんですけど
それはもう今年の2月から自動化してる
マブボット作った時から自動化してる
マブボット2月から
2月からある
イオリーがマーベリック君っていう社内の最強AI
あれを作って
俺も作ろうと思ってから
ずっとある
マブボットもっちゃ知ってますね
それマブボット俺のすべて
歴史歴史
あれ脱走したら終わりっすね
ちゃんとリードオンリーだけやから
メールとか送らせへんから
脱走しないっす
リードオンリーだけで
ウィンディーやけどアイコンは
早そうだし
逃げ出し早そう
アイコンウィンディーの
日本いいよね
いいですね
今日は10時間超えてるわみたいな
倫理が超えれば
あれはすごくいいと思いますよ
本当ですね
TNSとかは今すぐにでも入れたいんじゃないか
確かに
確かにメールの件数とかもそうするもんね
めっちゃいい
電話とかマジめっちゃいい
はいって感じで
せっかくなんでもう少しタイムリー
サブエージェントと高性能AIの賢い使い方
かつ難易度の高い話題も
やっておきますと
やっぱり今フェーブルが出てきて
フェーブルマネジメントがね
流行ってるんですけど
フェーブルは使いたいけど
周りはGPTとかでもいいんですけど
連続は使いたいけど
極力最小限にしたいな
みたいな思いつつみんな
使ってるんですね
そこで出てくるのが
最近流行ってるサブエージェント
っていうやつですね
ちなみに結構聞きたかったんですけど
翔太さんは社長さんは
サブエージェント使います?
もう勝手に使ってるくらいの感じですかね
基本それでいいと思います
なんですけど意識的に
減らしたい場合はサブエージェントを
使ったほうが良くて
これはアンソトピックが公式で
こういう風に使ってください
って出してるので
2パターン紹介しますと
基本的にフェーブルは
最強なんですね
スーパーマンなんですけど
神と呼びましょうか
神を
実行者に添えるのか
アドバイザーに添えるのか
っていう2パターンあるので
神が実行者になる場合は
神っていうのが
いろいろ自分で計画を立てて
タスクを実際に
こなす例えば文章を書くとか
スライドを作るとか
コードを書くってなったら
オーパスとかソネットみたいな
もう少し性能の低い
AIに依頼をする
ってのが1つ目のスキームで
これはだからエグゼキューター
実行者って風に呼ぶんですけど
あるいはオーケストレーターと呼ばれたりしますね
この
オーケストラモデルが1つあります
もう1個は神は
あくまで
助言者でしかないと
技術顧問でしかなくって
基本的にはソネットオーパス側が
自分で実装して
分かんないなって思ったら
フェーブルに依頼する
確かにその使い方もあるんですか
そっちもあるんですよ
俺的には後者が断然
人によって
設計だけフェーブルみたいな
の方が俺は全然
ハマる
最上流だけ神に
自分の使ってる感覚は
そっちがすごい使いやすい
逆に他全社の使い方は
オーパスで良くねって思う
ケースが多いというか
使い分けがそもそもむずいというか
大きく分けたいや
いちいち変えるのめんどいから
これは
フェーブルっていうのは
めっちゃ上流だけ
そうすると
オーパスはアドバイザー
フェーブルアドバイザーで
使ってるんですね
ここは多分結構
職種によって分かるかなと思っていて
そんな気づいてる
僕は結構
逆でフェーブルをメインに置いて
実行
オーパスにやらせてて
行動って閣僚がすごく多いので
確かに
フェーブルはそっちには置けない
逆に結構
そうですね
壁打ちは絶対フェーブルとしたいというか
ちょっと被りはしますけど
計画はやっぱり
冷たいのでそこは
デフォルトがフェーブルになってるみたいな
感じですね
両方とも使えるかなと思うので
どっちもいいです
いいですね
キャラ使いすぎないでください
覚えてますか
セッションを変えろと
行き過ぎ性を作れと
フェーブルで2乗で増えていくって
ビビりますね
もしずっと使い続けて
さすがに
天井作るんじゃない
そろそろね
できそうですけど
だいたいフェーブルはソネットの
5倍の値段になっているので
オーパスの
2倍ですね
そこらへんの数字感を覚えておくと
なんとなく肌感が
わかるかなとは思います
なるほど
本一冊
読み込ませて
この作者は
ここをどう捉えているかって聞いたら75円
フェーブルだと150円
高いね
高いですね
その2倍でかくないですか
結構高い
ほとんどのタスクそんなに価値ないと思う
ですよね
オーパスでいいんじゃないですよね
オーパスデモというか
なんなら
もはや
やっぱ2Dですね
デベロッパーにとっては確かに価値あると思う
確かに
仕事でフェーブル使うことないですもん
使わなくていいと思う
ちょっと素材の見た目が
かっこよくなるぐらいですよね
ちょっとなので
それでいいんじゃないかな
って僕は思っちゃいますね
ガンメタした市場分析
フェーブルにやらせてる
AI活用における注意点と推奨される使い方
それは聞きそうですね
俺ガンメタさせてるから
ガンメタ
すごいよびっくりする
俺もイーロンマスクの目論見書とか読ませてるもん
スペースXの
上々目論見書渡して
他の株価の数字とか渡して
向こう5年のマクロトレンド予測してみたい
それいい使い方かもしれない
週末の趣味俺の
めっちゃおもろい
鋭いっすね
でもほんまに何言ってるかわからん時ある
日本語が変で
そういうのあるんですか
結構変
明らかに無理して翻訳してんなってシーンめっちゃある
英語にさせると
めっちゃむずいよ単語が
うわー読めねーと思って
日本語でやってる
そんなむずいんすね
コードよねやっぱ
参照してる文献なんか知らんけど
知らん単語めっちゃ出てくる
テクニカル単語多すぎて
無理っすね
結構またフェーブルとか
今GPT5.6ストレートが出てますけど
一ついいところは
サボらないところかなと思ってて
本当に徹底的に
徹底的にやってくれるんですよ
これすごいよ
岩切の徹底やばいよ
何重の寝台ある
柱間の50ラションもんぐらい
分厚い
伝わらんのよな岩切
分かんなかったっすね
申し訳ないっすけど
岩切さんから徹底的に
っていうのは怖いっすもん
確かに
どんぐらい密度高いねん
カイジ思い出すよな
徹底的
ワンピースの赤犬ぐらい
バスターコールで
避難民ぶっ飛ばすぐらい
徹底的
むちゃくちゃ徹底的
ぐらいの温度感
視聴者の方にもご理解
それぐらいやってくれるよ
アニメを通して
伝える
とにかく
そこは信頼を受けるところなので
そういう使い分けは
ぜひしてみてほしいなと思います
確かにね
勉強になります
とりあえず僕から伝えたかったのは
2点だけです
まずはセッションを絶対に
絶対に書いてください
2個目で
特に
フェイブルだったり
GPT 5.6ソルみたいな
重めの漏れで
もし使いたいというときは
サブエージェントを使って
アドバイザーにするなりオーケストレーターにしてください
これは自然言語で打つだけで
勝手にやってくれますので
という感じです
ありがたいね
結構みんな救われたんじゃない
マジで
意識的にセッション変えるだけで
半分とかには減り切れになりますから
最高
引き継ぎ書大事です
人間社会に置いてもらいますけど
本当に大事ですね
せやな
簡単に作ってくれるんで
オススメの使い方は
定点観測ですね
AIは
日報とか週報とか
あると思うけど
毎週拾わないといけないけど
拾い続けるのは難しい
というのを漏れず
かつコンパクトにまとめてくれるのは
すごい価値です
オススメです
あんまり言いたくないぐらいオススメ
お得情報ですね
日報マジオススメ
前もチラッと言ったけど
知らんこと教えて
みたいなのはちょっと弱いですね
言うても
俺を理解して
俺が興奮しそうな
最近の話題教えてとか言っても
全然できない
全然できない
これ作りたいぐらい
全然できない
ソースはあると思うんだけど
情報が育ってるはずですよね
あとは思考してくれればいいんですけど
しかもいけそうやん
全然無理ないよ
格闘技とか一回も
勧めされたことないもん
ないっすね
相談してないからなんやろうけど
AIにさ
健康に関する相談
したことないもん
健康系は結構
強いと思う
この前知人が
Chromeコードで筋トレのメニュー考えてるって
言ってたから
私も同じですよ
チャットGPTに筋トレメニュー考えてます
最近ビビるんですけど
筋トレのアプリにMCPで
チャットGPTで送れる
めっちゃ便利なんですよ
マジ?
MCPってそんな誰でも作れるんだ今
確かに作れるな
知ってんだ
MCP
ジムとか
AIに詳しいわけじゃないやろ
MCPって見せてないんですよ
もうちょっとその言い方がうまくって
チャットGPTで見るみたいなボタンがあって
素晴らしいね
勝手に作ってくれるんですよ
なんてアプリそれ
ヘビーってアプリ
皆さんヘビー使いましょう
ここからはヘビー
じゃあこんぐらいにしとく?
はいそんな感じで終わりにしましょう
素晴らしい
こういうの教えてたったら皆さんコメント欄で
チャンネル登録いいねともお願いします
おねがいします
おつかれさまでした
失礼します
28:38

コメント

スクロール