これ極論なんですけど、なんかその巨人みたいな話し方したらトークン数で減るんですか?
俺、頑張る、みたいな。俺、人間好き。
ああ、そら下がる。
そうなの?AIって巨人なの?
じゃ、AIが巨人なんじゃないよ。
グダグダAIテイダーン!
このポッドキャストは、同じ会社で働く3人が、AIについてグダグダテイダンするだけの内容です。
前の回での話を、ちょっと振り返っていただきたいなと思ってました。
AIって金かかりすぎちゃうん?って言って、ヤマモトさんがものすごい怒っていたりですね。
最後にですね、節約する術なんかある?っていうところから、そこの話を今日はできればなと思ってます。
お願いします。
今日のテーマは、トークンってなんなん?ということで、よろしくお願いします。
ほんま、まずそれちょっとややこしくて、文字数じゃないじゃないですか、あれ。
トークンってなんなん?みたいなこと調べたときに、いつも僕がもらう答えって、
文字みたいなやつやは知らんけど、みたいなところなんですよ。
何か結局なんなん?みたいな。
これで節約術とか知りたくて、ケイトラーじゃないですけど、5000円で運用を走らせようとしてるぐらいなもんですから。
頑張ってね、ガソリンの量を減らすっていう。
そうなんですよ。
ぜひ、今日の賢者のお二人に教えていただきたいと思ってるんですけど。
分かりました。そうですね、今日はそのガソリン節約の回というところで、
まずですね、トークンってなんなの?っていうところを、ざっくりヒライさんにご知見をいただければと思うんですが。
オッケー、説明しますね、トークンについて。
なるべく分かりやすくお願いします。
トークンっていうのは、イメージなんですか?
僕、文字数ですね。
僕はあれですね、データの容量、何バイトとか何ギガバイトみたいなのあるじゃないですか。
あれも正確には文字数じゃないよね、みたいなのあったりするんで、そっちの方が理解分かりやすいかなみたいな。
なるほど、イメージにめちゃめちゃ合ってるかなと思ってて。
比例するんで、文字数には比例するんですよ。
直感的に合ってて、英語やったらもうめちゃくちゃ分かりやすいですけど、
日本語って文字繋がっとるじゃないですか、ずっと。
英語も繋がってる?
あ、ごめんなさい、文章も繋がってる。
単語ずっと繋がっとるじゃないですか。
フワーとか何々ガーみたいな福祉的な装飾詞とかも踏まえてるってことですか?
あ、そうそうそうそう。
英語?
英語やったら何々スペース、何々じゃないですか。
あー、そういうことですね。
それのイメージなんですよ。一区切り、isで1トークン。
isで1トークンですか?
isで1トークンです。
isで1トークンなの?え、どういうこと?
とか、thanks、これ1トークンなんですよ。
え?逆に?
1トークンですよ、文字数じゃないんですよ。
言葉のブロックなんですよね。
1単語?
1字?はい。
英語で言うと1単語になる理由を、なんか簡単に言うと、
AI がどう学習してるのかっていうところに起因してる認識なんですけど、あってますか?
一応解説の画像を出したんで、これ聞いてくれてる人はね、
これノートでまた出してくれると思うんで、見てほしいんですけど、
あの文章を扱う塊ですと。
イメージとしては、トークンっていうのは
AI が文章を扱うときの単語の塊ですね。
おー、なるほど。
定義談とか、こういう難しいやつに関しては多くなったりとか、
意味が難しいやつが多くなったりとかするんで、
一概にはそう言えないんですけど、
イメージとしては、1単語とか。
ただ、日本語の場合は結構ややこしくて、
マスとか等点とかも1トークンで数えたりしたりします。
これ極論なんですけど、なんか巨人みたいな話し方したらトークン数で減るんですか?
俺、頑張る、みたいな。
俺、人間好き。
あー、それは下がる。
下がる、下がる、下がる。
そういうことですね。
俺、森守る、けど人間すぐ森燃やす、みたいな。
そういう喋り方だったりとかですね、極端に言うと。
そうそう、そんな感じです。
そうなの?
AIって巨人なの?
じゃあ、AIが巨人なんじゃないよ。
そういうことね。
けど、です、ますとか、何々、がとかっていうのも、
その文節として理解するたびに細かく区切らないといけないから、
文章を塊として理解するってことですね。
これ、すごく理解できます。
そうそう、で、1トークンっていう感じなんで、
気になる人がいたら、一応トークン数える。
やつがあるんで、こういうトークンカウンターみたいなのがあるんで、
こんにちは、で、2トークンやったりとか、
AI定義談、これは多分3トークン。
だから、これで1個みたいなのが決まりなくて、
この文章にしたら、こことここで繋ぐな、みたいな。
あー、文節を理解して、こんな感じねって、あっちが主要なことですね。
区切り方も、モデルとかによって変わったりとかするんで、
一概に、これで何トークンとは言えないんですけど、
単語に比例します、みたいなイメージです。
文字っすって言うより単語っていう方の方が、
塊っていう意味合いでは近いそうな感じですね。
あー、そうそうそう、そんな感じです。
なるほど、なるほど。
えげつない速度で解像度上がっていってる。
素晴らしい。
もうほんま今、トークン不足、トークン不足、
言うてると思う、会社で。
言うてる、みんな言うてる。
っていうのは、もう単語を少なくしろ、みたいな、
そんな簡単じゃないんですけど、単語が多いですよっていう感じで。
会社全体を挙げて巨人になればいいんですか、この場合は。
いやー、それは。
それは極端な話ですけど、
この場合、ありがとうっていうので、
どんだけトークン無駄になってると思いますか、
みたいな、なんかその継承のらしいじゃないですか、
どの立場か知らんじゃないですか。
いや、電気代もったいないよ、それは。
ですけど言うてたら、巨人はお礼とか言わないから。
なんかすごいわかりやすく言うと、
ダラダラした言葉じゃなくて、
過剰書きでまとめるとかの方が、
トークンも減らせるし、
AIの処理もきれいになる、みたいなのは、
まあまあ前提あったりはするかな。
伝わりやすいですよね、まあ。
なるほど。
これあれですよね、
この前話していただいたみたいに、
頭の中に入ってる知識量が多い、
中学生みたいなもんやとしたときに、
ダラダラ指示しちゃったら、
え、結局これどういうことですか、
ってなっちゃうのと同じで、
脳のリソースいっぱい使うみたいに、
簡潔に指示出せば、
要するに俺これしていいってことですね、
ってなればなるほど、
理解のリソースが少なくなるのと、
同じような意味合いって感じですかね。
確かに確かに、本当にそうやと思う。
意味で捉えてるからことを、
文字通りじゃなくて単語になるという、
という感じですね。
超理解できました。
そろそろ締めに入れればと思うんですが、
簡単にですね、明日からできることみたいなところと三つありますと、
一つ目ですね、話題が変わったり、用途が変わったら新しいチャットにするとか、
これはエージェントもワークも全て一緒ですね。
一つのところでやり続けるんじゃなくて、新しいチャットにするというのが一つ目かなと。
二つ目ですね、送信の際にですね、なるべく要点をまとめてというか何回も細かく修正をしていると、
全てこの前の文脈全部もう一回送り直しちゃうんで、
なるべくまとめてですね、一通で送るともうちょっとトークンの消費減らせるかなっていうのが二つ目。
一つ目ですね、とはいえ何回も使う資料とか文脈を覚えておいてほしいことみたいなのがある場合ですね、
プロジェクト機能とかジェムっていう機能に入れて、
それを都度呼び出して使うみたいなことをすると切り替える癖もつくし、
そもそものトークン使用量を減らせるのかなと思います。
上位プランの前に一旦これやってみてもらって、それでも全然ダメだってなるのであれば、
僕の個人的な感想としては、死の後の言わずに早く220ドル払えとは思うんですが、
僕220を使い出して思ったのが、
金払ってるから使わないってなった結果めっちゃ学習できるっていうのも起こってて。
なんかそれあれですよ、営業マンが借金作ったら売れるみたいな、そういう理屈ですよ。
だからロレックス買ってローンでロレックス買うみたいな。
そうそうそうそう。とりあえずやったらええんや。
そうなんやろうけどさ、みたいな。
ヤマモトさん、感想としてはどうでした?トークンわかりましたか?
今日も実りの多い会話でしたね。
なんかちょっと物優しい。
実際にね、結構実務的なところすごく多かったと思うんで、
確かにラリーずっと長くて、
それこそ俺のことずっと覚えておいてよみたいなやつあったと思うんですけど、
それみたいな感じで今までの話まとめてみたいなっていうのを、
結構チャッピーからクロードに行くときにやったことあったんですよ。
今までの話は何も言ってまとめてみたいなのがあるんですけど、
それを話題というか、話でやるっていうのは知らなかったんで、
次からやらせていただければなと思ってます。
ありがとうございました。
はい、とりあえず話題変わったチャット変えましょうと、
これだけでも皆さん意識していただいてですね、
本日ここまでとさせていただければと思います。
ありがとうございました。
本ポッドキャストでは番組の特性上不明確な情報が入る場合があります。
概要欄などで適宜フォローいたしますのでご了承ください。
番組のフォローや評価・レビューでの応援よろしくお願いいたします。