NECのトークンコスト削減目標とAI費用の可視化
経営者のためのヤバい仕組み化ということで、この番組は仕組み化の専門家である私、松田幸之助が、
世の中の様々な事例を仕組み化の視点で解説していく番組です。
今日はですね、NECのAI活用に学ぶトークンマネジメントと情報マネジメントというお話をしていこうかなというふうに思います。
NECさんがですね、社内のトークンコストをですね、同じ使われ方であれば10分の1にするという目標を掲げられたニュースが出ております。
AIを使う会社がどんどん増えている中で、使う時の費用ですね、AIを使う費用、いわゆるトークン費用と呼ばれたりするんですけれども、
これをどう抑えるかというのを、今日はですね、トークンの環境整備、そしてトークンチェックのカレンダー化という2つの仕組み化の視点で解説をしていこうかなというふうに思います。
まずどういう背景があったのかというとですね、NECさんが全社のAI利用にかかるトークンコストを、
2026年の上期中に5分の1、下期中に10分の1に下げるというふうなですね、目標を掲げられました。
同じ使い方であれば、しっかりとトークンを抑えていこうみたいなところかなというふうに思ってまして、
あくまでもこれ目標を掲げたというところなので、まだ達成したかどうかというのはこれからと思うんですけれども、
とはいえですね、これAIを使う会社にとっては、しっかりと私たちもですね、学ぶことが多いんじゃないかなと思います。
AI使っている中で、とはいえ社長社長、先月AIにいくら使いました、いくら払ったか覚えてますかって言われて、
即答できる社長って、まあそんなに多くないんじゃないかなと思います。今は個人ごとに契約したいろんな月額プランですね。
チャットGPTの有料プランもあれば、クロードの有料プランもあれば、いろんな有料プランがあります。
まあそれに契約していたりとか、部署ごとに動いているAIの通貨料金というのがあったりとかですね、
AIが使われてないと思いきや、実は経営企画が作ったシステムの裏側には、
重量課金でAIが動いてたりとかですね、そういうのも含めると、AIにいくら使っているのかっていうのが、実は見えなくなってきているんじゃないかなというふうなのが、
AIを使っている会社さんほどですね、起きているんじゃないかなと思います。
私たちもですね、それに気づき、半年ぐらい前からですかね、AIにどういうものを使っているかというのをですね、可視化をするようなのを進めております。
シンプルに、Google のスプレッドシートで、誰がどんな有料のAIを使っているかというのを管理把握したりとかですね、
あとは、都度都度課金のものとかに関して言えば、そのトークン料がですね、どれぐらい使われているのかというのをチェックをしに行って、
そこに対して適切なトークン料なのかというのをチェックするようなことをやっております。
私たちがですね、今回のこの NEC さんの記事を見て思ったのがですね、
すぐに私たちが取り入れられそうなことというのは、大きく二つあるんじゃないかなというふうに思っております。
それが何かというと、まず一つ目がですね、ルーティン業務、AI に頼む仕事にモデルを振り分けるというトークンマネジメントの方法です。
依頼する仕事に、全ての業務に対して一番ハイモデルのものを使うのではなくて、依頼する仕事ごとに適切なモデルを使いましょうというトークンマネジメントですね。
二つ目に、社内データの整備ということで、AI に渡す情報を整えて、必要な分だけAI に情報を渡す、情報マネジメントというふうな切り口になっていきます。
このトークンマネジメントと情報マネジメントというのは、AI を活用してトークンを最適化していくというところで、非常に大切な考え方になってくると思います。
この二つをどう仕組みにするかというのが、今日のメインのテーマにはなるんですけれども、これらのAI を道具としてみれば、当然買って終わりの買い切りというふうな形になります。
ただ実際は、AI は使えば使うほど費用がかかってきます。
AI ツールをみんなに渡すと、便利だからみんな使うんですね。
みんなが便利だからって使うと、それで必要経費だよねって社長が思って、そこで終わることがあります。
みんな便利って言ってるから、月額料金の数千円数万円ぐらいはまあまあ必要経費かと思うんです。
ただそれを放置しているとシンプルに経費が増えます。
実際一つ一つの業務を社長が誰がどんな風に AI を使っているかというのをしっかり管理するというのはこれは難しいと思いますし、
逆にその業務に何をやっているかっていうのをチェックする必要があるかというところもありますので、
そうすると実は人がやった方が総合的にいいよね、逆に AI 使った方が高いよねっていう場合もあったりします。
なので AI を管理なく使うのは少し費用がかかりすぎてしまうという危険性もあるのではないあると思うので、
ただその AI を使うのは良くない、もったいないと思うので、使うのではなくて管理して使うっていう風にしていく必要があるんじゃないかなと思います。
それがどうやって管理して使うっていう風にするかというと、
私たちはこれをトークンの環境整備、そしてトークンチェックのカレンダー化みたいな仕組みを用いて対策をしていこうかなという風に考えております。
トークン環境整備：不要な情報と処理を捨てる
一部も実際に取り組んでいることもあるので、そちらを私たちの実例も含めてご紹介させていただければなという風に思うんですけれども、
まずトークンの環境整備ですね。
トークンをどういう風に環境整備するかというと、
まず私たちは整理というのはですね、捨てること、整頓というのは揃えることという風に考えております。
なのでトークンを上手に環境整備していく風にするためにはですね、
まず捨てるということが大事になってきます。
まず使わない情報や使わないシステム、AIじゃなくていい処理を捨てます。
トークンを無駄遣いしてしまうというのが良くないので、何でもかんでもAIに情報を渡せばいいというものではありません。
なので最初にAIに必要ない情報であったりとか業務を捨てます。
例えば目的に関係ない情報ですね。
そのAIを使ってアウトプットするために必要な情報をAIに与えればいいのであって、
AIに関係ない情報を与えしてしまうとそれだけでトークン量が跳ね上がってしまいます。
なので目的に関係ない情報はAIから削除すると、これでトークン量を節約できます。
あと使って終わりのシステムですね。
どんどんシステムを作ります。
いろんなシステムを作って使ってない。
使ってないけど実は裏側でトークンが使われ続けているっていうのこれもったいないですので、
こういうのはちゃんと管理して捨てましょう。
そしてAIじゃなくていい処理ですね。
何でもかんでもAIで自動化すればいいというものではなくて、
例えばGoogle Apps Scriptと呼ばれるGASみたいなものを使えば、
AIトークン使わずに自動化できるというものもあります。
こういうのはAIで作ったものをどうやってトークン節約できますかっていうのを後半の方に聞けばですね、
自然とトークンの最適化はできるので、
こういうまず捨てるということがトークンの環境整備をする上では必要になってくると考えております。
用途別のモデル選択と参照範囲の最適化
次に整頓です。
整頓というのは揃えていくと。
今回でいうとモデルの積み分けをしていきましょうみたいな考え方になってくるんですけれども、
私たちはシンプルで外に出すようなものは上位モデル、
社内向けもしくは簡易的なものは簡易モデル、軽いモデルを使うというふうな形にしております。
このようにですね、どういう時にどういうモデルを使えばいいかというのをある程度ルール化しておくと、
トークン費用を節約することが可能です。
ただこれですね、実際はまだ私たちもうまくはできていないところがございまして、
AIを使い慣れている人はですね、この業務は、例えばフェイブで使った方がいいよねってなったりとか、
この業務はオーパスでいいよねとかですね、そういうふうに切り替えすることができます。
ただAIをそこまで使っていない不慣れな方はですね、前使っていたモデルをそのまま使うっていうことがですね、よくよくあります。
そうするといざフェイブで使おうと思ったら、もうフェイブの容量がなくなってるじゃんみたいなことになってしまうので、
ここは何かしらの仕組みを用いてモデルの使い分けみたいなのを私たちもできるようにしていこうというふうに考えております。
例えば毎日私たちの小売店のお店では反則ポップですね、ポップを書いてます。
なのでこのポップを書くときには、例えばお客様に見てもらって、
そこから商品サービスに興味を持ってもらって購入いただくためのポップになるので、
こういうものは例えばフェイブルのちょっとこういいやつを使っていいですよっていうふうに決めたりとか、
逆に社内のマニュアルをちょっと整備するというものであれば、じゃあこれはフェイブル使わないでオーパス使おうみたいに、
普段動いている業務の中でこのプランを使いましょうみたいなことは比較的簡単に明文化できるとは思うんですけれども、
ただこれを仕組みとして動かしていくとなると、何か別のシステムみたいなのを作って自動的にモデルが切り替えられるようにしないと、
結局人がこのポップを書くのにいちいちモデルを切り替えるかというと、そこまでしないと思うので、
うまく仕組みで解決していく必要があるなと思い、私たちはここまでいろいろ試行錯誤をしております。
とにもかくにも、業務を行うAIに仕事をしてもらうものによって上位モデルと下位モデル、
これを使い分けるというのが一つ必要かなというふうに思います。
そしてもう一つ、このトークン環境整備をやっていく上では整頓というところでありますので、
参照範囲というものをしっかりと絞り込むというのも大事です。
例えば私たちはチャットワークのビジネスチャットツールのやり取りをラグシステムみたいな形で使っていたりします。
これもグループチャットを例えば100個参照範囲としてするのか、参照範囲を10個にするのかによってトークンのコストというのは当然変わります。
絞った方がアウトプットの質も高くなるというところがございますので、
参照範囲、簡単なのは全部のデータを参照させてしまった方が簡単なんですけれども、
トークンの環境整備、トークンマネジメントという観点で見ると、全部を参照させると費用が高くなりますし、
そして何よりもアウトプットの質がいろんな方向に散ってしまいますので、
そう考えるとしっかりと参照範囲も環境整備、整頓するということが大事なのかなというふうに思います。
なので、今日お伝えしたいことの一つに、目的でモデルを切り替えていくというのが一つですね、
このトークンマネジメントと情報マネジメントの一つの手法になってくるかなというふうに思っております。
トークンチェックのカレンダー化とダッシュボード
じゃあ実際とはいえですね、トークンをどんなに整理して整頓したとしても、
実際にはですね、チェックをしないとトークン量の適切なPDCAを回していくというのが困難になりますので、
やっぱチェックというのは必要不可欠です。
本当に今チェックしてみたらですね、どのぐらいのトークン量になっているかというのも、もしかしたら驚かれる社長さんもいるかもしれません。
私たちはこれどういうふうにやっているかというと、今は私がですね、直接週に1回とかですね、
そのAIシステムどのぐらいトークン使っているかというのを見に行っています。
ただこれ、いろんなシステムが増えれば増えるほど見に行く手間が増えてしまいますので、
今考えているのはですね、AIトークンのチェックのダッシュボードみたいなものを作って、
そのAIトークンの消費のダッシュボードを見に行けばですね、全部が分かるというふうなことをやっていこうと思っています。
これがですね、トークンチェックのカレンダー化ということで、カレンダーにするのはいいんですけれども、
それがですね、いろんなところでチェックしに行くのはやっぱり大変なので、
一つのですね、システムを見ればそれがもうダッシュボードになっていて、
このシステムに例えばジェメニーのこのモデルがいくら使われていますみたいなのが一覧性があって分かるようにするとチェックもスムーズになりますし、
逆にこのシステムもう使ってないからやめた方がいいよねっていうふうな意思決定が行えれば、
トークンの無駄遣いもなくなることができると思います。
なので、AIをどんどん使っていって、
AIを活用している企業様ほど、このトークンのダッシュボードみたいなのは作っていった方がいい可能性があるなと思っておりますので、
実際ちょっと私たちでですね、またこれを実験してみてですね、
その結果がどうだったのかというのはですね、どこかでまたお伝えさせていただこうかなというふうに思います。
AI活用とコスト管理のまとめ
ということで、今日の話を少しまとめさせていただくと、
AIは道具ではあるんですけれども、使えば使うほど減価ですね、減価がですね、ちゃんと経費がかかります。
なので、管理しないでAIのサービスだけを渡すっていうのはもったいないです。
ただ、使うなというのもこれももったいないので、ちゃんと管理できる仕組みを持っておくということが大切だというふうに思います。
これらをですね、上手にNECさんが行って、トークンコストを最適化していく、十分の一にするというふうなことを掲げております。
で、多分同じようにトークンマネジメントを上手にされる企業様増えてくると思いますので、
私たちはそこからですね、真似できるところであったりとか、参考にできるところを取り入れていって、
で、それを仕組みにすることによって、仮とAIを活用しつつも、無駄な経費、トークンコストは使わない、
そうすることによって利益を最大化することができるというふうに考えておりますので、
ぜひ皆さんもですね、今日のお話の中で、確かに今どのぐらいAI使っているんだろうと、
どのぐらいトークン量を使っているんだろうと思われた方はですね、今日のお話のトークンの環境整備という考え方と、
もう一つですね、お伝えさせていただいたトークンチェックのカレンダー化という、
この2つの仕組みからの視点を用いて対策をしてみていただければなというふうに思います。
というふうな形でですね、毎週1本様々な事例を仕組み科の視点とともに解説しておりますので、
ぜひチャンネル登録やフォロー、いいねなどよろしくお願いいたします。
はい、コメントもございましたら、ぜひ入力していただけると嬉しいです。
またですね、私の方で松田幸之助の仕組み科実践会というものと、
中小企業の経営者さん向けのAI実践会というですね、2つの経営者コミュニティをですね、
主催しておりますので、興味がある方はぜひ概要欄からチェックしてみてください。
はい、それではまたですね、次週お会いしましょう。さようなら。