世界最高のLLM

ローカルLLMとパイロットハンターについて話しました。

• 戦場まんがシリーズ - Wikipedia
• パイロットハンター - 戦場まんがを読み返す

サマリー

本エピソードでは、AIとの対話を通じてローカルLLMの活用方法やコスト最適化について考察する。手元の計算資源でAIをいかに活用できるかが今後の格差を生む可能性に言及しつつ、松本玲司の漫画に登場する「俺にはこの銃しかない」というセリフを引き合いに出し、最適な道具を使うことの重要性を説いている。

日常の出来事とAIとの対話

おはようございます、かっぱです。

2026年6月22日、月曜日の夕方です。

今日は雨は降りそうで降らず、蒸し暑い日でした。

今日は1日、家に行って仕事をしたりとか、家の手入れをしたりとかしていました。

具体的には、もうあかんという植木鉢をあきらめて、次のにあけ渡したりとか。

それから、こないだテントに行った時に洗わずにそのまま持ってきちゃったペグの洗浄をしたりとか。

あとは、ずっとAIとお話をして、今のところの課題とかね。

どうやって解決するの?っていう話をしたりしていました。

結構仕事の打ち合わせがあったんですけど、これはまた状況が進展したらお話したいなと思います。

面白いよね。

ローカルLLMの活用とコスト問題

AIとお話ししていた中で一番大きな、つまり苦労度のトークンを送ったのは、

元にあるコンピューターで、ローカルLLMと呼ばれるAIですね。

大規模言語モデルのうち、オープンソースで公開されているものをどうやって動かすかっていう手段とか。

あとは、このぐらいの性能だとこれがいいよとか聞いていて。

ちょっと前はゲーム用に買ったWindows機で、結構速いの動くじゃんとかやってたんですけども。

今日は、現役ではなくなったのでサーバーとして使おうかなと思っていたMac miniのM2ですね。

今より1世代前、2世代前のやつなんですけども、それで動くやつ。

メモリは24GB積んであるので、ぼちぼち動くんだろうと思って。

これでどんなの動くんだっけとか、どうしたら常駐して動き続けるんだっけみたいなことをAIに聞いていたんですね。

つまり、お金を払って使う外のAIに、お金をかけずに動かすことができる内側のAIの動かし方を聞いていた。

前もちょっとモデル選択の話をしましたけれども、今AIが問題を解決してくれるのはそれはそうだよ。

あとはコストの問題で、どのAIに何を頼むか、これを適切に判断するのが人間の仕事みたいになってきている節はあります。

そのような最適化も、そのうちAIができるようになるというか、やり方次第で今もできるんじゃないかとか、そんな気がするんですけども。

こんな感じで、何をお金がかかるAIにやらせて、何を手元の電気代だけで動くAIにやらせるか。

そういうのの見極めどころが、これからポイントになってくるかなって話を前もしたけど今日もしてますね。

AIと道具としての格差

今日思い出したのはそれで、これからAIって道具になっていくんですけども、

道具になっていく、今もなっていく。

だけれども、いい道具が手元で存分に震えるかどうかって。

これはコストの問題になるわけですね。

つまり計算機資源。

不動小数点演算がたくさんできるプロセッサーをどんだけたくさん動かすかっていう。

プロセッサー、それからメモリ、それを動かす電気みたいな、そういう資源をいかにふんだんに使えるかが勝負みたいになってくる。

結果として、俺は最新のモデルを無制限に使えるぜとか、俺は家でこんだけのモデルがギリギリ動きますとか、

そういう、嫌な言葉ですけど格差になってきそうという気持ちもしています。

松本玲司の漫画と道具選択

急に思い出したのがですね、松本玲司先生。銀河鉄道するの、キャプテンハラクなどでおなじみ。

松本玲司先生が書いている戦場漫画シリーズというのがあってですね、

第二次世界大戦で日本はなかなかひどいことをしたり、ひたんなことになったりしたわけですけども、

その戦場においてこういうドラマがあったんじゃよみたいな、松本玲司先生特有の男の世界みたいな感じの世界観を描くんですけども、

その中に、俺にはこの銃しかないと。だからこれが世界で一番いい銃なんだ。

俺にはこれしかないんだ。だからこれが一番いいんだ。

結構さっき仕上げたピクチューブ百貨辞典にも載っているようなインパクトのあるセリフで。

なんかこう、理不尽さ、辛さと、それからちょっとだけ不適切だと思うんだけど、男らしさ、かっこよさみたいなのが同居している。

そういうフレーズだなと思ったり、思わなかったりしています。

ただ、僕は道具が良ければ良いほど良いと思っているので、そんなことがないように。

三発式歩兵銃で全てを解決しなきゃいけないなんてことがないように。

最適なかつ十分に強力な武器を使っていく道を探りたいな、などと。

まさかここで三発式歩兵銃の話が出るとは思わなかっただろう。僕も思っていませんでした。

一日の締めくくり

そんな感じで、今日はあとは買い物して晩御飯を作ります。じゃあまたね。バイバイ。