00:00
一つ目の対策は、作業ごとに新しい会話にすることです。 基本的にこうにしておけば、大体の作業には対応できると思います。
キャッシュが消えて、トークン消費が10倍以上になってしまうというわけです。
こんにちは、超実践AI論のたいちです。 今回は、【Claude Cordeの無駄なトークン消費をなくす方法7選】というテーマでお話しします。
AIにいろんな仕事を任せるほど気になってくるのがトークン消費です。 週間利用枠がリセットしたばかりなのに、初日でもう20%以上減ってる。
このペースじゃ、あと4日ぐらいで利用枠が足りなくなってしまう。 そんな風に考えて、日々のトークン消費を何とか抑えようと試行錯誤するのはあるあるだと思います。
ですが、そもそもトークンの大部分は何に使われているのかを知り、 アンスロピックが提供してくれる様々なツールや知識を基に、
より少ないトークンでより良い成果物を作る方法を知っていれば、 週間利用枠に悩まされることはなくなります。
ここからは、AIがトークンを最も消費していることは何なのかを解説し、 そのトークン消費を抑える7つの方法を紹介します。
まず、AIのトークン消費の大部分を占めるのが入力トークンです。 入力トークンとは、AIが回答を出すために読み込んだ情報量のことを指します。
例えば、AIの基本的な振る舞いを決めるシステムプロンプト、 ユーザーがAIに守って欲しいルールなどを書くcloud.mdやagents.mdといったファイル、
そして一つの会話の中で交わされたこれまでのやり取りすべても入力トークンです。 AIは質問に答えるとき、その質問の内容だけでなく、その会話の中で交わしたすべてのやり取りを踏まえて、回答を考えます。
例えば、40往復の会話のやり取りをAIとしたら、一番最初のAIの回答は40回読み込まれるというわけです。
アンスロピックによれば、入力トークンのコストはその会話の往復数のほぼ2乗で増えるそうです。
つまり、1往復の会話のトークン消費を1とすると、2往復なら消費は4倍、3往復なら9倍、4往復なら16倍といったイメージです。
この入力トークンがAIのトークン消費の最も大きな原因という前提を踏まえ、トークン効率を良くするためにやるべき1つ目の対策は、作業ごとに新しい会話にすることです。
例えば、AIにアプリの機能を1つ作ってもらったら、新しい会話に切り替えて次の機能を作ってもらうイメージです。
こうすることで、新しい機能を作るときは、不要な1つ目の機能を作るときのやり取りがすべてカットされ、入力トークンが節約できるというわけです。
会話を切り替えるには2つのやり方があります。
1つ目は、クロードアプリ、もしくはクロードコードで、スラッシュクリアーというコマンドを打つことです。
こうすると、この会話の中で交わしたやり取りすべてが削除されます。
もう1つは、クロードアプリの中で、プラスボタンで新しい会話に切り替えることです。
プラスボタンの場合は、元の会話は削除しないまま新しい会話にすることができます。
ところで、AIに仕事をさせているときに、その仕事内容で疑問が浮かぶことがありますよね。
03:01
例えば、この画面に出ている予約IDとは何だろう、みたいな感じです。
こういった疑問に対して、その会話の中で質問をぶつけると、
その質問と回答に関するやり取りも入力トークンとして積み重なってしまいます。
なので、そういったときは、スラッシュフォークというコマンドを使います。
こうすると、会話を2つに分けることができます。
会話はフォークを実行したタイミングで分岐するので、この会話にはそこまでのやり取りすべてが含まれています。
なので、この予約IDに関する質問もその場でぶつけることができます。
一方で、分岐する前の会話もそのまま残っています。
なので、こちらの会話ではAIはそのまま作業に専念させることができるというわけです。
AIへの仕事の依頼や質問は、スラッシュクリアによる会話の削除、
プラスボタンによる新しい会話の作成、スラッシュフォークによる会話の分岐をうまく使いこなして、
会話の中に必要な情報だけを入れるようにしましょう。
AIのトークン消費を抑える2つ目の方法が、回答から次の指示までを1時間以内にすることです。
AIがこれまでの会話を読み込むときのトークン消費を抑える仕組みとして、プロンプトキャッシュがあります。
プロンプトキャッシュは、いわばAIの短期記憶。
キャッシュから読んだ時のトークン消費はモデルによって異なりますが、少なくとも10分の1になります。
このプロンプトキャッシュの有効期限が1時間なので、回答から次の指示まで1時間以上空けてしまうと、
キャッシュが消えて、トークン消費が10倍以上になってしまうというわけです。
キャッシュは短期記憶という話をしましたが、これは人の短期記憶をイメージすると分かりやすいです。
例えば、53251、今言った数字を思い出してください、と言われたら簡単に思い出せますよね。
ですが、いろんな作業をやって、1時間後に突然、
1時間前に言った数字を思い出してください、と言われたらどうでしょうか。
思い出すのにかなり苦労するか、最悪思い出せないはずです。
AIのプロンプトキャッシュもこれと同じで、
AIの回答から1時間以上経ってから次の指示をすると、
そこまでの内容を思い出すのに、10倍以上のトークンを消費してしまうというわけです。
ちなみに、1時間以上経っていなくても、会話の途中で思考量やモデルを切り替えてしまうと、
プロンプトキャッシュは消えてしまうので注意してください。
これも人でイメージすると分かりやすくて、
仕事の途中でもっとよく考えてください、と言われたら、そこまでの仕事内容をもう一度見直さなきゃいけないですし、
別の担当者にバトンタッチしたら、別の担当者はゼロからそこまでの仕事を把握しなければなりません。
このように、AIの回答から1時間以上間を空ける、
モデルや思考量を途中で切り替えると、
キャッシュが切れて10倍以上の入力トークンを消費するので注意してください。
ただし、思考量に関しては、クロードのオーパス、ソネット、ハイクの5.5やフェイブル5.1では、
切り替えてもキャッシュが切れないそうです。
ですが、モデルごとに、このモデルは思考量を切り替えても大丈夫、
このモデルはダメといった判断をするのは面倒なので、一律切り替えないのが無難かなと思います。
トークン消費を抑えるコツの3つ目が、適切な思考レベルの選択です。
クロードコードでは、
スラッシュエフォートというコマンド、
06:00
もしくは、この思考レベルのボタンから、AIがどのくらい思考をするかを切り替えることができます。
ですが、作業ごとに適切な思考レベルを考えるのは面倒なので、
基本的にこうにしておけば、大体の作業には対応できると思います。
思考レベルは上げれば上げるほど、AIが
成果物の検証をいろんな観点で、よりたくさんするようになります。
なので、思考レベルを上げるべきタイミングは、
AIの仕事に抜け漏れがあった時です。
抜け漏れがある時は、AI自身による検証が足りていないので、
思考レベルを上げて、より多くいろんな観点で検証させることで、
仕事の改善が見込めます。
AIのトークン節約のコツの4つ目が、スラッシュドクターコマンドです。
ドクターコマンドは、cloud.md といった指示ファイルや、スキル、mcp、プラグインなど、
常に入力として読み込まれているものを総点検し、あまり使われていないもの、
壊れているもの、重複しているものなどを削ってくれるコマンドです。
他にも、cloud.md には常に必要な情報だけを残し、
特定の場合にのみ必要な情報は別ファイルに切り出すといった整理もしてくれます。
例えば、cloud.md にブログ記事の書き方に関する指示があると、
ブログ執筆以外の作業でも必ず読み込まれてしまいます。
一方で、ブログ記事の書き方は別ファイルとして切り出し、
cloud.md にはブログに関する作業をするときのみ、ブログに関するファイルを参照する
と書いておけば、AIは必要なときだけ必要な情報を見ることができます。
ドクターコマンドでは、このように常にコンテキストに読み込まれる情報を適切に整理整頓してくれます。
そして、ドクターコマンドには、ここに出ているようにプロンプトオーディットというオプションがあります。
このオプションをつけると、古いモデル向けに書かれた指示や、存在しないファイルやコマンドへの参照、
また、互いに矛盾している指示ファイルやドキュメントなどを見つけてくれます。
例えば、最近のモデルは賢いので、
徹底的にとか、検証してといった指示をしなくても、必要な確認は自分で判断してやってくれます。
だからこそ、このドクタープロンプトオーディットを使って、古いモデルには必要だったけど、
今のモデルにとっては邪魔でしかない指示や検証を受けすことで、
実行時間もトークン消費も改善することができます。
AI のトークン節約のコツの6つ目が、AI の試行過程を見ることです。
例えば、クロードコードは作業するときに、このように途中でどんなことを考えているのか、また、
どんなコマンドを実行したのかも見ることができます。
この試行過程を確認することで、AI への指示やスキルの改善点がよく見つかります。
例えば、AI に画像生成をさせたときに、見る人にはわからないレベルの小さな文字の崩れや、
ほんの少しのイラストの欠けを直すために、何回も画像生成をやり直していたりします。
AI の試行過程をたまに眺めて、このような過剰な品質検証や、
成果物の見本を探し回っている形跡などがあれば、そこを改善して、トークン効率や実行時間を最適化できます。
トークン節約のコツの最後の7つ目が、スキルクリエイターによるスキル評価です。
クロードコードにはデフォルトでスキルクリエイターというスキルを作るスキルが入っています。
09:03
実はこのスキルクリエイターには、スキルを評価する機能もあります。
使い方は簡単で、〇〇のスキルをスキルクリエイターで評価してと頼むと、
指示したスキルに対して、同じ作業をスキルを使った場合と、スキルを使わない場合で比較してくれます。
この比較によって、スキルの中に書かなくても、AI がうまく作業をできるところ、
逆にスキルに明確な手順が書かれていないせいで、
AI が自分で考え、余計なトークンや実行時間を浪費しているところがわかります。
そして、スキル有り無しの比較による評価結果を基に、スキルの改善点をまとめたレポートを作成してくれます。
ただし、このスキルクリエイターによるスキル評価は、
スキル有り無しで同じ作業の同時実行に加え、それぞれの作業の評価とレポート作成までするので、
かなり膨大なトークンを消費します。
なので、週間利用枠が余っているときにやるのがおすすめです。
ここで一つお知らせです。無料メルマガで、今回話したような実践的なAI活用法を配信しています。
1分ほどで登録できるので、概要欄のリンクから見てみてください。
ここまで話した、AIのトークン消費を抑える7つのコツをまとめます。
1つ目は、作業ごとに会話を切り替えること。
スラッシュクリアーで古い会話を消したり、フロードアプリのプラスボタンで新しい会話に切り替えたりできます。
そして、会話の中で疑問があるときは、スラッシュフォークで会話を分岐し、
分岐先でのみ質問をすれば、本来の作業に余計な会話が入りません。
トークン消費を抑えるコツの2つ目が、AIの回答から次の指示までに1時間以上空けないことです。
1時間を超えると、プロンプトキャッシュが消え、キャッシュ有りの場合に比べて10倍以上のトークンを消費することになります。
また、1時間以内でも思考レベルやモデルを切り替えるとキャッシュが消えてしまいます。
2つの3つ目が、思考レベルを作業の難易度に合わせることです。
基本は、思考レベル高で作業させて、仕事に抜け漏れがあったら、より高い思考レベルにするべき合図です。
4つ目のコツが、スラッシュドクターコマンドで、スキルや指示ファイルの古くなっている箇所、矛盾、重複を点検すること。
そして、5つ目のコツとして、スラッシュドクターのプロンプトオーディットオプションで、
古いモデルには役立っていても、今の賢いモデルには不要な指示を見直すことができます。
そして、トークン節約6つ目のコツが、AIの作業の試行過程を見ることです。
試行過程を見て、AIの過剰な検証や迷いを見つけて、指示の改善に役立てます。
最後のコツが、スキルクリエイターでスキルを評価することです。
同じ作業をスキルありなしで比べ、スキルには不要な部分、
逆にスキルに書かれていないことで、AIが迷っている部分を探してスキルを改善できます。
ただし、トークンを大量に消費するので、週間利用枠が余っている時にやるのがおすすめです。
ぜひあなたも、今回話した7つのコツを参考に、
AIのトークン消費の改善を試してみてください。
トークンだけでなく、成果物の品質や実行時間もより良くなるはずです。
また、今回は主にクロードコード向けに話しましたが、
スラッシュドクターのようなクロードコード固有のコマンド以外は、
CodeXなどの他のAIエージェントでも使えます。
12:02
概要欄にも今回の内容を解説した記事を貼っておきます。
それでは今日はこの辺で。
