ゲスト紹介とLLMへの興味
始まりました、ツナギメエフエムの第 160 回です。
ツナギメエフエムは、IT 勉強会コミュニティ つながりの方々をゲストに迎えて
雑談するポッドキャストです。まずは、 X のハッシュタグについてお知らせです。
ハッシュタグはカタカナで、ツナギメ エフエムです。投稿待ちでます。
今回のゲストは、きしださんです。それでは 自己紹介をお願いします。
きしだです。福岡で雑な技術活動、 コミュニティ活動とかやったり、
あと、最近は LLM とかそういう系なんですけど、
技術的なことをいろいろ調べたり して書いたりとか、そういうのを
やってます。よろしくお願いします。
はい、よろしくお願いします。今日は 3 年半ぶりくらいなんですけど、
きしださんに出演してもらって。きしだ さん、さっきも言ってもらったんですけど、
最近の活動を見てると、LLM とか AI とかについてすごく手を動かされてる
印象なので、今日はその辺りについて いろいろ教えてもらいたいなと思って
ます。よろしくお願いします。
よろしくお願いします。あらかじめ 言っとくと、僕は基本的にコンピューター
がピコピコ動くのが楽しくて、それで Java とかやってたんだけど、最近は
AI がとてもコンピューターをピコピコ させてくれるんで、AI LLM に
いっているという、そんな感じですね。
さっき3年半って言ったんですけど、前 出てもらったときに、覚えてないと思う
けど、これが熱い、これが面白そう みたいなのがあるって聞いたんですよ。
そのときに、ちょうど AI 出始めの頃で、そのとき ChatGPT と
ステーブルディフュージョンを多分 触ってたんですよ、皆さんが。そっから
今ね、急にジャンプアップするわけ なんですけど、どうですか?
そのときに比べて。
そうそう、そのときに比べて。
まあ、正常進化をしたなという感じ だし、そこまで想定外のことは起き
てないなっていう気もする。
そう?本当?
だいたいその、だから多分3年半前 というと、なんか2023年の。
2年とか、まあそのくらい。
2022年の11月に ChatGPT 出てるんで、その後 ぐらいだと思うんやけど。
そうですね。
2023年の4月ぐらいにブログ書いてる のと、そこまでは変わってないな
っていう気がする。
まあ思い出補正をして、変わってない ふうに思い込んでるだけかもしれん
のだけど。
なるほどね。で、今話したとおり、 LLM のことをいろいろ触ってるんで、
その辺について聞きたいなと思って るんですけど、そもそも LLM って何ぞや
っていうところからは聞こうかな と思ってるんですが、基本のところ?
はいはい。
まあまあみんな最近触ってるから 知ってると思うんだけど、一応ね。
そうね。大規模言語モデルで、トランスフォーマー というのをベースにしてて、で、文章を
入れたら続きの文章が出てくるという のがやっぱ基本で、で、そこに今は
そのチャットのテンプレートを当てはめて、 チャットとしてやりとりができるよう
になってて、で、さらにそこの LLM をベースにチャットの UI とかシステム化
して、最近はエージェントとして、なんか LLM の挙動をコントロールして、いろんな
タスクがこなせるようになったっていう のが現状だという認識。
なんで触ってるのっていうところを ちょっと聞こうかなと思ってるんですけど、
LLMの進化とローカル環境での活用
触り始めたきっかけというか、まあチャット GP で面白いよねってところも
もちろんあると思うんですけど、 最近すごく触ってる印象なので。
結構でもその2023年からおうちで動かす っていうのはやってて、で、それずっと
継続的にやってて、で、この間レバテック さんでイベントがあって、その時に
ちょっと見返したんだけど、2023年から やってて、その時は動いてて偉いみたいな
おうちで、おうちのコンピューター がこんにちはって言ったらこんにちはって
返してくれて偉いっていうそのぐらいの レベル、全然実用的ではない感じで。
で、2024年にちゃんと動いた。
だから、日本の首都はって言ったら ちゃんと東京ってちゃんと確実に返してくれる
ようになったっていうのが2024年で。
プログラムもなんかプログラムを 出してくれるようになったぐらいの感じ。
で、ただその時はだから、動いたっていう感激もないし、
使えるっていうものでもないから割と 書くことがなくて。
ブログは減ってるけど、チクチクと動かしてたらしい。
Xを見返すとなんかいろいろやってはいるけど、 ブログにはまとまってないっていう感じで。
で、去年2025年にJMA3とクエン3が出て、
ちゃんと使えるようになったなというのがあって、
コンパイルトールプログラムをちゃんと 一発で出すようになってきてて、
それで性能上がって、で、今年JMA4とクエン3.5が出て、
使えるようになったという。
はいはいはい。
で、そうすると、いろいろ発信が増えて、
使えるようになったら、いろいろこんな感じで 使えるっていう発信が増えてるから、
いろいろやってるように見えるようになったんじゃないかなっていう気がする。
そういうことか。
だからやってることはそんなに変わってない。
発信量が増えたかな。
でもちょっと発信は多めにするようにはしてるんで、それもあるけど。
ずっと手は動かしてたけど、
プログとしてまとめる、まとめれるものになってきたってそういうことかな。
そうそう。
で、反応も増えたし、出てくる量も、 LLM として開発される量も増えたから、
で、追っかけるのが大変ぐらい、
寝て起きたら新しいものが出てるみたいなのが、
去年の11月ぐらいから続いてて、
なので、状況的にも活性化してるんだな。
先ほど言われたお家のパソコンでっていう話をされたじゃないですか、
2023年、2024年って。
じゃあその家のパソコンでローカル LLM を立てて、
お家で動かしてたってことですかね、その当時から。
うん。
その当時っていうのは何が動いてたんですか、そのローカル LLM としては。
何だろう。
何を入れてた。
何を入れてたというよりは、なんかこういうのが動くから、
こういう設定をして動く、こういう設定をすると動くから、
動かしたらいいよっていうスクリプトと同時に公開されてる感じだったから、
その Python のスクリプトを動かして、確かに動くなぐらいの。
なるほどなるほど、そういうやつなの。
だからもう Python のスクリプトに色々、
日本の首都は、みたいなところまで入れて続きが出てくるみたいな、そんな感じ。
なるほど。
で、なんだっけ、グラディオかな、なんかその UI を作るスクリプトも入ってて、
チャットができるみたいな、そんな感じだったから、かなり原始的ではあるね、最初。
なるほど、そういうやつを動かしてたんですね。
だから本当に動くっていうだけっていう、使えるっていうところまでは言ってなくて、
ダウンロードしてこのスクリプトを実行したら動くみたいな状況。
なるほどな。
で、今はもうそれがだいぶ整理されてきてて、
その Llama.cpp とか MAX とかそういった、実行環境が整理されてて、
あと、当時は最初の頃はモデルそのままが出てきてて、
つまり LLM っていうのは、モデルの重み、パラメーターがいっぱいあると言うて、
その重みのデータがだいたい 16 ビットフロートなんだけど、
その 16 ビットフロートのまんま出てくる。
16 ビットフロートっていうことは、1パラメーターあたり 2 バイト使うわけね。
そうすると、160 億のパラメーターがあれば、320 億バイトになるわけだな。
単純に。で、それが 32 ギガバイトだから結局。
1B とか 2B とかいうモデルは、そのまんま1パラメーターあたり 1 バイトであれば、
1B のモデルが 1 ギガバイトになる。
1B とかそういうやつなんだ。
うん、ビリオンだからね。
もう単純に、1B 2B を単純にギガバイトに置き換えれば、
8 ビットでのサイズ感がわかるんだけど、
で、そうすると、7B で 14 ギガバイトになるわけやね。
で、おうちのGPU が 16 ギガバイトだから、
7B を 16 ビットでとかは動かないわけやね。
14 ギガバイト。
単純に 14 ギガバイトだから、実際にはもうちょっといるわけね。
はいはいはい、そういうことね。
もうちょいいるってことですね。
そうそう。で、量子化だから、
16 ビットのフロートじゃなくて、
8 ビットとか 4 ビットとかで表すっていうのが量子化なんだけど、
それでサイズを減らして、
で、そうすれば 7B が 7 ギガバイトで動くんで。
ついていないぞ、俺は。
7B が 8 ビットだったら 7 ギガバイトになるっていう。
さっきの B をギガバイトに置き換えるっていうのは、
そのまま 8 ビットだったらできるわけね。
で、4 ビットだったら半分になるから、
単純に言えば 3.5 ギガバイトになってもっといい。
逆に言えば、4 ビットであれば、
8 ギガバイトで 16 B が動くってことになるのね。
で、最近はだからちょっと賢くっていうか、
単純に半分にするんじゃなくて、
その LLM のパラメータの中にも、
大事な部分と大事じゃない部分っていうのがあるんで、
大事な部分はビット数を多くして、
大事じゃない部分はビット数を落とすっていう風にすると、
サイズが小さくなってるんだけど、
性能が劣化しないという。
そういうのもあるんだ。
そうそう。
具体的に言うと、さっき言ったように、
アテンションという仕組みが今の LLM の肝になってるんだけど、
アテンションは大事なわけね。
なので、そこの部分はあんまり圧縮しない。
で、その後に普通のニューラルネットがあるんだけど、
そこはパラメータがたくさんあるんだけど、
そこまで大事じゃないので、
4ビットとかでも大丈夫と。
なるほど。さっき言ったアテンションって言ったのが大事なところってことね。
そうそう。
で、そこはパラメータ数はそんなに多くないんで、
逆にそこに容量を送ってもいいっていうのもある。
なのでその部分は、
例えば 94km っていうのが結構あるんだけど、
それは 94 だから 4 ビット量子化なんだけど、
で、その K-Mean っていうアルゴリズムを使って量子化をしているっていうのが K で、
M は S, M, L の中位っていう M。
だから K-Mean の中で中位で S だったらちょっと小さく、
L だったらもっと大きくみたいなそんな感じなんだけど、
94KS だとアテンションのところを M だったら 5 ビット、
S だったら 4 ビットかな、違うか、
M だったら 6 ビット使ってて、アテンションの部分を。
で、S だったら 5 ビットを使ってて、
L だったら 8 ビットを使うみたいなそんな感じになってた気がする。
で、ニューラルネットの部分は 4 ビットという仕組みになっている。
そういうのがちゃんと発達して整理されて、
ローカル、手元のコンピューターでも動かしやすくなったっていう状況っていうのを話したかったわけやな。
ローカルLLM実行環境とマシン
さっきちょこっと出てきた実行環境っていうのがあるじゃないですか。
これはどういうものなんですか?
結局、動かすときに GPU っていうか、プロセッサーうまく使いたいじゃん。
主に GPU だけど、そうすると GPU は NVIDIA が有名だけど、
KUDA という環境を使うことになるんやけど、
でも世の中には Mac は Apple Silicon で別の仕組みになってて、
AMD もあるしっていう風に色んなのがあるから、
それに対応していく必要があるよね。
で、Python の場合は基本的にもう NVIDIA GPU が結構前提になったりするんやけど、
で、Apple は Apple で自分のところでちゃんと動かせるように MLX っていう仕組みを持ってるんで、
その MLX に適したやり方で LLM が動かせるっていう環境、MLX LLM っていう仕組みがあったり、
あと、もともと Python だったけど、Python 自体が重いんで、
C で書きたいみたいなのをやった人がいて、それが Lama.cpp っていう。
で、それが CPU でちゃんと動くようにっていうのをそもそもやってたんだけど、
それを GPU 対応して、いろんな環境に対応してっていうのをやってる。
ちゃんといろんなハードウェアで動かすためには、いろんなやり方があるよねっていうのが実行環境ですな。
そのいくつかあって、名前聞いたことあるやつあるじゃないですか。
LLM Studio とかオーラマとか、こういうのが何なのかがよく分かってなかったんですけど。
で、LLM Studio とかオーラマとかは、Lama.cpp 直接じゃなくて、
もうそれを含めて、モデルのダウンロードとかもめんどくさいんで、
自分で探してダウンロードとかもするのはちょっとめんどくさい。
Lama.cpp でやろうとすると、そのモデルファイル gguf っていう形式なんだけど、
それを指定しないといけない。自分でダウンロードして、
もちろんハギングフェースからダウンロードをしてくれるんだけど、
いちいちちゃんとそのモデルのファイル名を指定しないといけないとかあるんで、ちょっとめんどくさい。
オーラマだと選べますもんね。
LLM Studio だったらユーザーインターフェースついてるから、
その中で検索して出てきたやつをクリックしたらダウンロードが始まって、
なるほど、そういうことか。その辺がよくわかってなかった。
そういう管理環境なので、LLM Studio の場合はチャットの画面もついてるから、
もうそれだけで完結して動く。
そうですね。
オーラマとかは基本はコマンドラインだから、ユーザーインターフェースは別で、
今までは用意する必要があったんだけど、今だったら多分一緒にオープンウェブ UI というのが入ってたはず。
ちょっとオーラマ使ってないのでよくわかんないんだけど。
なんか GUI あった気がする。
GUI というかウェブのやつ。
確かに確かにウェブのやつがあった気がする。
Ramadot CPP もウェブの UI 自体が持ってるんで、
とかサーバー、だからオープンウェブ UI みたいに独立して動くんだったら、
どっかに LLM を動かす環境があって、そこと通信をしないといけないわけだね。
とか、GPT 使いたいとかあったら、それはネットワークでプロトコルで通信するんだけど、
最近はオープンAI のプロトコルがデフォルトみたいになってて、それでやり取りをするとか、
そういうプロトコルの口にも LLM Studio がなってくれる。
ローカル LLM を動かすときに、
じゃあ実際スペックはどんなくらいのものがいるのかなっていうのを教えてほしいんですけど。
動かすだけだったら何でもいいんだけど、その範囲でモデルを選べばいいんだけど、
実際に使いたいってなったときに、今言ったように僕は 16GB の VRAM の GPU 使ってて、
そうすると 20B とかぐらいは実用的に動かせる。
でも 20B だといい感じのモデルがなくって、
さっき言ったように QN3.6 がかなりいいんだけど、
あれが 27B とかあって、
量子化しても 20GB とかは使うんで、なかなか動かすのつらいなってなって、
なので GPU を指して動かすっていうのは結構金かかるんでつらいんで、
今は統合メモリーを載せた、だから結局メモリーが欲しいわけね。
重みのデータが乗る。
GPU 用のメモリーは高いんで、そうではなくて普通のメモリーを使って、
それを CPU と共用して使うっていうのが最近は流行ってて、
CPU と GPU が一緒に載った SOC チップを使うっていうのが LLM だと妥当かなっていう現実的で、
今だと Mac 一択になるなっていう感じ。
相場感的においくらぐらい出せば良いのでしょうか。
まともに動かしたかったら、今ちょっとメモリーが高くなってるんで、
そうなんですよ。
4,50万ぐらいになるんだよな。
4,50万ぐらいだとエンジニアが開発でガンガン使うマシンとしては、
ちょい高めだけど許される範囲かなという感じ。
我々が仕事で使ってる PC よりもちょい高めだなって。
今だと多分 32GB ぐらいがエンジニアだったら当たり前に使うよねという、
どっかいっぱい建ててとかそういうのを考えたら 32GB はいるよねってなっとると思うんだけど、
もうちょいプラスしたい、48GB か 64GB は欲しいなっていう感じですね。
それぐらい出さないとダメなのか。
ただこれがメモリコートがあるんでちょっと手に入りづらいだけで、
それ落ち着けばもうちょっと安く普通に手に入るようにはなるんじゃないかなとは思ってますね。
ただそれは2028 年、再来年ぐらいにはなりそう。
ただ2年後という話をするんだったら、
今もうライゼン AI マックスとか、あとインテルのコアウルトラとか出てきて、
それも LLM を動かせるんで、選択肢は増えてるとは思いますね。
今一番安くでかい LLM を動かすんだったら、
エヴォ X2 っていうライゼン AI マックスが載ったやつが50万ぐらいか。
それ 128GB 載ってるんでかなりいいですね。
ただそれ去年の11月だと30万円で恐り切ってたんだよね。
おお、そうなんだ。
そうそう、10月か11月ぐらいだと。今はもう同じものが50万になってる。
近いじゃん。
なのでメモリ口頭がなければ30万円で128GB のスペックの PC が手に入ってたはずで、
もっと安くなるはずなんで、
割とお手頃な価格でいい感じの性能のモデルが動く状況にはなってたはず。
ちょっと話が前後するかもなんですけど、
モデルの種類とコーディング能力
さっきクエン3.5が良いみたいな話をしてもらったと思うんですけど、
それはモデルですか?
モデルです。
その辺の種類みたいなところは全然僕は把握できてないんですけど、
どういったものがあってどれが今良くてみたいなところを教えてほしいです。
だから手元で動かせるってなると、
アリババが出してるクエンか、
Googleが出してるジェンマのどっちかになると思います。
32GBとか、
さっき言った48GBとか64GBぐらいで動かせるとなると、
もうその2択。
コードを書かせようとすると、
クエン3.6、27B、1択みたいな感じ。
ただ128ともっと選択肢が増えて、
いくつかあるんだけど、
例えばDeepSeek V4というのが出てて、
それのフラッシュが、
ちょっとパラメーター数多いんだけど、
Redisを作った人が、
DeepSeek V4の実行環境を今作ってて、
DeepSeek V4ってかなり特殊なアテンションの仕組みしてるんで、
RAMACPPがまだ対応できてないんですな。
なので専用で、
DeepSeek V4専用の実行環境を作ってて、
それが128GBで動くらしい。
その辺とか、まだ出てないけど、
クエン3.6の122Bとかが出てくれれば、
それかなりいいなという。
3.5の122Bはあるんで、
でも128GB用意できれば、
結構選択肢も増えるし、
本当にちゃんと実用的になると思いますね。
このモデルの中にも、
実行環境を選ぶというか、
専用実行環境みたいのがあるんですね。
なのでそのRAMACPPのソースを見れば、
分かるんだけど、
モデルっていうところがあって、
そこにそのモデルごとの実装が全部あるわけです。
もうちょっとずつやっぱり違うんで、
重み持ってくればOKとかではなくて、
重みのデータだけ持ってきて、
ロードすればOKとかじゃなくて、
それに合わせた仕組みがちょっとはいるんで、
もうモデルごとに実装はあるっていう感じ。
ただそれにしても、
ディープシークV4はちょっとアーキテクチャが違いすぎるんで、
そこに混ぜ込めてないという感じですね。
紹介してもらっているクエンとジェンマって、
どういうところが違うんですか?
雑に言うと、
性能としてはジェンマの方がちょっと高い気がするんだけど、
コーディング対応にチューニングがクエン3.6の方が全然進んでて、
例えばいつも僕はスプリングブートでトゥードゥ管理を作るっていうのをベンチマーク的にやってたんだけど、
それをやるとジェンマ4だと普通のNCAのプレーンなサンプルトゥードゥ管理の、
本当にプレーンなHTMLのトゥードゥ管理が出るんだけど、
クエン3.6だとかなりいい感じのデザインのトゥードゥ管理ができるし、
クエン3.6にいつもブロック崩しを作らせてるんだけど、ベンチマークとして、
ブロック崩しじゃなくてブレイクアウトゲームを作ってっていうと、
ブロック崩しを作ってっていうとプレーンなブロック崩しできるんだけど、
ブレイクアウトゲームを作ってっていうとアイテムが出てくる。
ブレイクアウトゲームってどんなのだっけ?
ブロック崩しの英語で言ってるだけなんだけど、
なるほど、そういうことか。
ブレイクアウトって言うと、ブロック崩したらアイテムが降ってきて、
それを取るとボールが3つに増えたり、
っていうのがもうそれだけでクエン3.6は作ってくれるんだけど、
そういう学習をしてるってことだよね。
そういうアプリケーションをいろいろちゃんと学習してたり、
あとツールの使い方とかデバッグの仕方とか、
そういったものをちゃんと学習してるんで、
コーディングエージェントで使って、それなりのものは作れる。
JMA4はちょっとそういうのが弱いんで、
コーディングエージェントで使うのはちょっと辛い。
でも、例えば要約をするとか、
そういったコーディング以外はかなりJMA4の方が性能が高い気がする。
岸田さんが今言ってるローカルLLMを使ってコーディングをさせるときって、
どういう風にやってるというか、
AIによるコーディングとオープンウェイトモデル
どうやって指示みたいなのってやってるんですか、コーディングを書かせるとき。
最初はでも本当にプレーンにチャットをUIで、
オープンウェブUIとかLLM Studioのチャットでブログ図書を作ってってやって、
出てきたやつをどっかに貼り付けて、
実行して。
Javaのコード出してもらってるんで、
Javaのコード保存してコマンドで実行とかめんどくさかったんで、
コード貼り付ければ勝手に実行してくれるツールを作ったりとかしている。
最初は実行環境みたいなのを使ってってことですね。
そうそう。
さっき言ったようなやつをってことね。
ただもう、そうやってチャットで出てくるようなプログラムはもう、
全然書けるようになってしまったんで、
そこで差が出てこないんで、
もう最近はオープンソースのエージェントをオープンコード使って、
ちょっと難しいことをやらせようかなと思ってるんだけど、
そのいい感じの難しさの課題がないなという。
オープンコードっていうのはオープンソースのコーディングエージェント。
そうそう。
クロードコードとかコーデックスも設定してローカルLMを使うようにはできるんだけど、
ちょっとめんどくさいんで、
オープンコードでやるのが無難かなという気がしますね。
確かにやったことないから分かんないけどそこめんどくさいんだ。
クロードコードだと環境変数で指定しないといけないんで、
じゃあ今回は普通にクロード使おうって言った時に、
また環境変数書き直さないといけなくて、
オープンコードだとモデルとかを選ぶ機能がちゃんとあるんで、
こっちはやりやすいですね。
確かに確かに。
LMのモデルの話で岸田さんがXで発想してたのを拾ってるんですけど、
オープンウェイトなLMモデルっていうのは何ですか?
ダウンロードして自分の手元で動かせるというのが基本的にオープンウェイトですね。
そうやってモデル自体が公開されている。
GPTとかクロードとかはそういったものが公開されてなくて、
APIで使うか、チャット画面で使うか、
公式に提供されているユーザーエンターフェイスで使うしかないんだけど、
そういう意味か。
ウェイトが出ててダウンロードができるっていうのはオープンウェイトですね。
ウェイトってどういうこと?
重み、重みデータ。
重みってことか。
重みデータってことか。
なるほど、なるほど。理解ができました。
よくオープンソースって書いている人がいるんだけど、
重みデータだからそれはソースではないよなというのと、
あとライセンスが、例えば、
Genma 3の時だと変な使い方したら、
利用許可を止めますよみたいなのが書いてあったり、
そうするとGoogleの裁量で利用を止めないといけないことが可能性があるっていう。
今回はApache 2なんで、
ライセンスがそういうことがなく、
ちゃんとGUに使えるっていう風になってる。
なので、ただ売上10億ドル以上は連絡してくださいとかいうのがあったり、
オープンソースの精神ともちょっと違うのがあったりするんで、
モデルは公開されてるけど、それをオープンソースとは言わんなというのがある。
オープンソースっていうなら、
自分でちゃんと環境さえ整えれば、自分でそのモデルを再構築できるべきなんよ。
その可燃をどうやって調達するかっていう問題はあるけど、
実用的なモデル作るには多分100億円ぐらいはかかるんで、
GPU回すだけで。
そういう問題はあるけど、
オープンソースって言うんだったら、データセットとかも公開してくれよみたいなのがありますね。
そういう意味か。
記者さんがオープンエイトのLLMモデルが今月は何も出てないって書いてて、
これが何のことを言ってるのかがよくわからなかったんだけど、やっと意味がわかりました。
そういうことです。ダウンロードするものがねえなみたいな。
例えば新しいものが出てきたりとか、以前出てたもののバージョンアップが出てきたりとかっていう話ってことですね。
4月はもう山ほど出てきたんだけど、
プログラミングとお金、ローカルLLMのメリット・デメリット
本当に寝て起きたら新しいのが出てるみたいになってて、
特にJM4とクエン3.6は世界が変わったなあみたいな感じで、
なので、それもあるんで結構ローカルLLMに興味がある人が増えてきた気がする。
さっきローカルLLMをPCで動かすにはちょっとお高いパソコンがみたいな話をしてましたけど、
お金かかるようになってきたなと思ってるんですよね、プログラミングするのに。
エージェントにね。
エージェントもそうだし、ローカルLLMを動かすにもちょっと高いパソコンもいるしみたいな思ってるんですけど、
その辺なんかご意見ありますか。
ハードウェアに関しては、時間が解決してくれる面はちょっとある気がする。
だから、メモリ口頭がなければ、
エンジニアが普通に買ってたちょっといいパソコンぐらいでいい感じに、
もっと実用的なものが動かせるんじゃないかなっていう気がするんで、
そういう意味ではだから、今までもお金はかかってたんだけど、
他の人よりはいいパソコンが必要っていう意味では。
まあ確かにそうではあるんだけど。
まあその度合いがちょっとひどくなったなというのは。
そうですね。
実際問題、ローカルで動かすLLMで、
じゃあ本当に仕事ずっとそれだけでやれるかというと、ちょっとそれは無理だなと思ってて、
それは時間も解決してくれないと思うんで、
少なくとも3年5年のスパンではちょっと解決してくれないんで、
やっぱり金かけて課金して何らか使う必要はあるので、
そういう意味ではちょっと金がかかる世界にはなったなっていう。
ただお金がいらないというか、
オープンソースで全部賄えて、
情報もただで手に入って、インターネットでただで手に入って、
パソコンさえあれば余分、後の出費はないみたいな状態っていうのは、
多分2000年、1995年ぐらいから、
インターネットがおうちに来て、
今年ぐらいまでの30年間だけだったんじゃないかなっていう気がする。
それ以前はエンタープライズモデルみたいな30万円の箱を買ってこないといけなかったんで、
なのでこのインターネットが出てしばらくがちょっと特別だったのかなという気がする。
最近大学生がプログラミングをするときに、
エージェントとか使うとお金がかかるので、
プログラミングにお金がかかるようになったなっていうのを聞いたことがあって、
確かにそうなのかもなって思ったんですけど、
これはもう後戻りできなさそうだなって思うし、
払っていくしかないかなって感じ。
でももともとお金はかかってたんでっていう。
お金かかる場所が変わったってことですか?
たまたまこの30年間ほどお金をかけずに、
みんな同じものが作れるっていう状況だったんじゃないかな。
で、別に大学生で勉強としてやるぐらいだったらローカルLLMでもいいし、
あと桜インターネットがGIMIK2という結構性能高いやつを、
3000リクエストぐらいまで無料で使えるんで、
別に手元で動かすことにこだわらんければ、
そういったものがあるんで、
3000リクエスト投げれればそれなりにはいけるんで、
オープンコードを入れて桜さんのGIMIK2を使えば、
それなりにものが作れる気がする。
なので工夫次第ではあるんじゃないかな。
で、工夫次第だったのは、
なんか工夫できない人はプログラミングスクールにお金払ったりとかしてたわけだから。
そこはね、今チャットに聞けばいいっていう風になったので、
そこはいいんじゃないかなと思ったりもしますけど、
だいぶ勉強しやすくなったんじゃないかなと思いますけどね。
ローカルLMの話をいろいろ聞いたんだけど、
最後にローカルで動かすことのメリット・デメリットみたいなところを聞きたいです。
メリットは完全に制約がないっていうことだよね。
で、例えばいろいろ制限があったりするけど、
機嫌なものが作れないみたいな制限があったりするけど、
そういうの外したモデルも出てたりするんで、
作る内容としても制限がないし、
あと利用はもう電気代だけだから、
その利用料の制限がないし、
あとローカルLM動かすと、
そのためにそれなりに勉強はいるんで、
どのモデルを使うかとか、どうやって動かすかとか、
それなりの勉強はいるんで、
LMとは何かっていうのを動かす、
勉強する機会にもなるし、
あとそもそも手元で動くとかわいいんで楽しいですね。
かわいいですか。
やっぱりよそで動いててAPI叩いたら何か返ってくるのって、
別にそこに愛着はわかんないけど、
自分の手元で動いてれば何かちゃんと、
それはどっかでPostgresなりMySQLなり動かしても、
よそで動いてるのを叩くよりは愛着が湧くじゃないですか。
確かにね。
そっか。かわいいか。おもろいな。
いいかも。
それがメリットなんだけど、
デメリットは圧倒的に性能が足りないですね。
やっぱり遅いし、環境を整えるのが大変。
少なくとも今はLLMのために特別なソフトウォンを買う必要があるから、
ちょっと大変。
たださっき言ったように、
時間が経てばそれなりには解決するんじゃないかなって気がする。
ただ性能が足りないっていうのは解決しないと思っていて、
メモリは安くなっていくんですよ。
計算した人がいるんだけど、
メモリは大体年率40%で増えていくんで、
しかも今でももう多分、
本当は技術的には十分なメモリが手に入る環境のはずなんだけど、
供給料の問題で今メモリの価格が高くなっていて、
ちょっと手に入れづらいだけであって、
メモリは時給がちゃんと改善すれば手に入るようになるので、
大きいモデルは動かせるようになる。
ただ、モデルが乗っても結局それを計算はしないと言えないんで、
コンピュート能力、GPUの性能っていうのは大事なんだけど、
その性能は年率30%ぐらいでしか向上しなくて、
それ別にメモリ高等でどうのこうのの影響はあんまりないんだけど、
そうすると3年経っても倍ぐらいにしかなってなくて、
計算の速さがね。
そうするとそんなに動かせるモデルの範囲が変わらんなという、
だからパラメータ数、
30Bとか100Bとかいうパラメータ数の制約はなくなるんだけど、
ただそうやってパラメータ数増えたら計算の量がでかくなるんで、
そこに追いついていかないんで、
やっぱりモデルのサイズっていうのは制約がある。
特にコンピュート能力のほかに、
やっぱり帯域の問題だから、
100Bであれば単純に80GBぐらいを、
1トークン出るごとにその重みのデータを読み込まないといけないわけね。
そうするとメモリ帯域の問題が一番多いんだけど、
メモリ帯域って20%ぐらいしか成長してないんで、
5年経っても倍ぐらいかってなるとちょっと遅すぎるなっていう。
メモリ帯域っていうのは何ですか?
だからCPUがメモリを読み込むために幅があるわけですね。
なるほど。
だからどんぐらい転送できるか、
メモリからプロセッサーに掛け算するにしても、
メモリから読み込まないといけないんで、
そうするとそこのメモリの帯域がどのぐらいの速さで、
プロセッサーが重みデータを読み込めるかっていうのが大事になるわけね。
なるほどね。
やってることとしては、
重みとデータを掛け算して足すだけなんだけど、
そのためには重みのデータを全部読み込まないといけない。
そこが早くならないんで、
そうするとやっぱり200Bぐらいがローカルでは限界かなってなると、
ちゃんと動くんだろうけど、
ちょっとやっぱりそれだけで動かせるかっていうとちょっと無理がある。
実用感というか。
普通のデバッグとかできるんだけど、
ちょっとこみ入ったバグとかを対処するってなると、
ちょっと難しいんじゃないかな。
モデルの性能どんどん上がってるじゃんというのもあるんだけど、
ゲーム開発とJavaScript実装
その時に思考力っていうのはどんどん上がってるわけね。
考える力というのは。
考える力に関しては工夫でどうにかなるんだけど、
なのでプログラムを一発目を書くっていうのはかなり能力が上がってて、
さっき言ったように、
クエン3.6の27Bにブレイクアウトゲーム作ってって言ったら、
一発でアイテム付きのブロック崩しを作るっていうぐらいにはなってるんだけど、
なので制約の長い、既存のコードベースがないところからコードを書くって、
経験あると思うけどそんなに頭使わないじゃないですか。
なるほど、そういうことね。
けどそこに修正とか特にデバッグって頭使うじゃん。
頭使うし経験もいるよね。
確かに確かに。
で、落とし穴にはまってるAPIとかはどっかに例外があって、
そこを落とし穴になりがちなんだけど、
それ落とし穴になるっていうことは、
大体こんな感じかなってなったらそのように動かないっていうのが落とし穴じゃん。
だからそれは個別にちゃんと正確に知識が必要。
なのでデバッグになると原理原則じゃなくって、
個別の落とし穴に落ちないような知識が正確に必要なんだけど、
そうするとやっぱり知識のためにはパラメーター数っていうのは絶対必要なんで、
それは情報圧縮しても限界がある、
その社の情報量っていう限界があるんで、
その情報分のパラメーター数っていうのは絶対必要なんだけど、
さっき言ったように200Bぐらいが限界ってなると、
そこまで細かいことを全域に渡って知ってるっていうのは難しくなるんだと思う。
新規プログラムと修正をする話はめちゃくちゃ風に落ちましたね。
確かに軽減が必要。
新しいコードを書くときって、作るものがちゃんと決まってれば、
徹夜の中であんまり回ってない頭でゾンビのように手が動くみたいなことは経験があると思うんだけど、
経験があるかどうか置いといて。
結構いっぱい作らないといけないみたいなときって、
寝不足でもう人とは会話できないんだけど、コードは書けるみたいな状況になる。
ただ、バグを修正するっていうのは、結構ちゃんとクリアーな頭じゃないとできないわけ。
それは非常に分かります。
なので、クエーン3.6、27Bは新しいコードは全然書けるんだけど、全然デバッグができない。
そこはもう、モデルの性能が上がっていけば27Bでもできるのではないかっていうのはちょっと違うと思う。
もちろんそこにターゲットを絞って、ちゃんと学習させていけば、
それなりにはできるようになると思うんだけど、それもやっぱり限界があるかなというのは思ってますね。
ありがとうございます。
先ほど話ちょっと出てましたけど、ゲームを作ってるっていう話があったじゃないですか。
それとTUDOアプリの話があったけど、何でそういうのを作らせているのかっていうところにフォーカスしたいです。
でもそんなに難しい話じゃなくて、さっき言ったように限界があるわけよね。
どこでものが作れなくなるかっていうのを見たいのと、
ブロック崩しの場合は大体どこかで失敗してたりしたんで、
それがちゃんと修正できるかなみたいなのを見てたんですね。
テトリスはルール通りに実装すればテトリスになるんで失敗しづらい。
けどブロック崩しは衝突判定とかがちょっとへぼかったりするんで、
パドルを動かしてボールを動かしてブロック消してって結構ちゃんと実装しないといけないよね。
テトリスよりブロック崩しの方が複雑ってこと?
そうそうそうそう。
なるほど。
テトリスはもう回転はこうだし、落ちるっていうのはこうだし、
ブロック単位でせいぜい動かせばいいんで。
そうですね。
あとテトリス作ってみたときにこれは問題だなと思ったのは、
テトリスって楽しいからハマっちゃうんですな。
テトリスがちゃんと動いてるって確認するには一列は消さないといけないじゃないですか。
そうですね。
だからうまくいっても5つぐらいはブロック落とさないといけなくて。
なるほどなるほど。
それやってたらそれなりにブロックができてしまうんで、
他のブロックも消したくなるじゃん。
確かに。
ブロック崩しはボール落ちてきて跳ね返してブロックに当たった段階で、
もうちゃんとそれが動いてるかどうか分かるんで。
割と早めに案内がつくと。
そうそうそうそう。
なるほどなるほど。めっちゃ面白いな。
でももうその辺一発で書くようになってしまったんで。
なかなか難しいなって思いますね。
ゲーム以外のところで動作を確認してるみたいなところがいろいろやられてるものがあると思うんですけど、
あと記者さんが作ってるものもいろいろあると思うんですけど、
その辺の話をちょっと聞きたいと思っていて、
JavaScriptの実装の話をしたいです。
JavaScriptでクエン3を実装したっていう話ね。
そうですね。これできるんだ。
できた。
これはJavaScriptでやる前にJava版を作ったのね。
Java版はクロードコードを使って作ったんだけど、
それはクエン3.5のゲイテッドデルタネットっていう特別なアテンションを使ってるんで、
それをちょっと知りたいなと思って実装してみたいなというのがモチベーションだったんで、
クロードコードでやって。
案外できたなというのが分かったんで、
クエン3を実装するときにGGUFを読み込んだりとか、
そういうのも必要だったんでやったんだけど、
割とできるなって思って、
これクエン3、クエン3.627Bでもできるんではって思って、
やらせてみたのがJavaScript版のモチベーション、最初の。
これ今JavaScript版のやつって公開してるんですかね。
公開状態なのかな。
これURLって外に出しても大丈夫なやつ。
大丈夫。もう貼ってるし。
じゃあこれ後で消納とか。
これいつまで使える状態ですか。
いつまで使える状態にしとくんですか。ずっとですか。
もうずっと多分公開はしとくと思う。
なるほどわかりました。ありがとうございます。
それでクエンがクエンを実装したって言いたかったからやりたかったんだけど、
もちろん多分ね、でかいモデル使えばもっと楽にはできるんだけど、
手元でローカルで本当に動かせるかなというのを試したくて、
でやってみた感想としては、できることはないけどお勧めしないっていうぐらいの。
何が大変なんですか。
例えばクエン3の本体はそんなに難しくなくて、ちゃんと実装するんだけど、
その前にGGUFを読み込むとかの時にデータ構造があるじゃん。
ファイル形式の。それ通りにちゃんと実装するっていうのが結構大変だった。
ちょっとやっぱバグ作ってて。
で、あとトークナイザーだから入力した言葉を文字列を分かるようなコード化をするんだけど、
そこもちょっとずつ特殊な、でも正確にやらないといけない処理があって、
で、雑にブロック崩しを作るとか、そういったもうなんか出てきたものが正義みたいな、そういうのだったらいいんだけど、
仕様通りに正確に実装するっていうのはやっぱちょっと難しくて。
で、そこで相当ハマってて。
で、あと1回間違った実装をしてしまうとコンテキストが汚れるんで、その修正がすごい難しかったな。
で、セッションを新しくしても、修正してって言ってそのバグったコードを読み込んだ時点で、
そのバグでコンテキストが汚れるんで。
で、やっぱりね、そこに引きずられちゃうんですよね。
で、相当難しかったっていうのがあって。
で、なのでちょっと続き、GPU化とかはクロードコードでやったんだけど、
それでもなんか2ビット量子化に対応するとか結構難しくて、
やっぱそういう仕様に合わせて正確なコードを書くっていうのは、
クロードコードオーパス4.7使ったんだけど、それでもやっぱり大変なんで、
そういった本当に正確なコーディングが必要っていう面では、
まだオーパスであってもまだちょっと弱いっていう感じがする。
で、27Bとかではもっと弱かった。
トークメモにちょっと貼ってくれている、なんかビジュアルがずっと動いている画像なのかな?
MoE（Mixture of Experts）の可視化
GIFなのかな?があるんですが、これは何ですか?
今のモデルってMixture of Expertと言って、
モデルの全部のパラメーターを使うんじゃなくて、
得意なものごとに、状況に合わせて得意なものだけを使うっていう風になってて、
エキスパート128個ぐらい用意して、得意なものだけを呼び出す。
なので、35Bなんだけど実際に動くのは3Bだけっていう風になったりとかしてるんだけど、
その選ばれたエキスパートを表示してみたら楽しいなと思って。
なるほど。
やってみたらめちゃくちゃ楽しかったんで、
これちょっとまだ公開は置いてあるんだけど、
なのでリポジトリ見たらURLわかるんで。
なるほど。
一旦僕だけ楽しませてもらいます。
ただこれちゃんとGPUないと動かないので、Macなら行けるかな。
僕は見えてる状態の画像を見せてもらってるんで。
Twitterには貼ってるんで。
そうなんですね。
で、これ見て思ったのは、
なんか昔のあの映画に出てくるコンピューターのあのチカチカみたいだなと思って。
あの映画、なるほど。
昔の映画でなんかコンピューターが人工知能みたいなやつが裏でなんかチカチカ。
あれってエキスパート表示してたんだなみたいな。
そうだったの?わからんけど。
で、そうするとこの辺がエキスパートが動いてるなとかちょっと見えるんで。
これ見てもなんか左4分の1ぐらい。
まあ聞いてる人にはわかんないと思うけど。
左4分の1ぐらいに縦1列になんかずっと流れてるところがちょっと出ると思うんだけど。
確かに。
あれが、これはなんかねファスケルでフィズバル図を作るにはどうすればいいってやってるんだけど、
小説を作るにはどうすればいいっていうのとやっぱ違うところが光るんだよね。
最初はなんかプログラムコード出してるからプログラムコードに対応したところが光ってるんじゃないかなと思って。
でもこれはね日本語でファスケルでのフィズバル図の作り方を説明してるから
出力自体は日本語なんだけど、それでも使うエキスパートが変わってて面白いっていうそんな感じです。
こういう可視化をすると非常に確かに面白いですね。
で多分こんな可視化してるのね、他に誰もいない気がするんで。
もうちょっと広まってもいい気がする。
いやいや広めるほどちゃんとまだ公開してないからそれが問題なんだけど。
割と面白いですよ。
でそうやってJavaScriptで実装させておくとなんかいろいろこうやって改造できて面白いんでみんなおすすめです。
割と根性があればできます。
根性とクロードコードへの課金化。
ローカルLLMのお話をいろいろ聞けたのでちょっと話題を変えてですね、ちょっと駆け足になるかもなんですが、
AIが出力したコードとプログラミング言語の重要性
AIとプログラミング言語の話で最近いろいろねMix上でも話題が上がってたりするんだけど、
AIでコード書いたらインネットいらんのではみたいな話とか、
AIが出力したコードちょっと読むの大変だよねみたいな話とかその辺があると思うんで何かご意見あれば聞きたいなっていうところなんですが。
AIが出力したコード読むか読まないかみたいな話はちょっと不得意なのでトパスとして、
AIが書いたらインデントいらんのではとか、
AIが書いたらプログラム言語自体いらないのではみたいな話がよくあるんだけど、
ちょっと前にそれもありましたね。
でもAIって結局インデントとかをすごくヒントにしてるから、
その括弧の対応ってアテンションの仕組みを言うと、
トークンごとの対応なのね。
トークンごとに二次元で見てるんで入れこっ構造ではないわけですよ。
そうすると中括弧の開始と終了のどれが、
中括弧の開始と中括弧と字が対応するっていうのは見るんだけど、
どれ同士が対応してるかっていうのは見にくいのね。
単に一個ずつ見てるだけだから。
で、その間に、こことここの間にもうちょっと強く反応してるのがあるなみたいなのを、
だからだいたい推測はできるんだけど、
完全に対応っていうのは見るのはちょっと苦手なはずだから、
コーディングで結構離れた位置の対応、
開始括弧と閉じ括弧の対応とか見るのにはやっぱりインデントがあった方が、
ちゃんとヒントになって対応するし、
インデント崩したやつだと結構やっぱ間違えるんで、
インデントはちゃんとあった方がいいはず。
っていう風に、
エジェット使ってると見てたら分かると思うんだけど、
その機能がどこに書かれてるかっていうのを見るために色々検索するんだよね。
ありそうな変数名とかありそうな関数名とかで検索してるから、
ちゃんとシンボル名が定義されてるってことは大事だし、
構造がちゃんとなってるってことは大事なんで、
AIもプログラムを読んでいるわけだな。
AIが読みやすい必要があるんで、プログラム言語は大事だぞっていう話と、
あとAIっていうのは自動的に検証さえできれば、
検証が通るところまではチクチクと今自力で改善はしていく力があるので、
自動検証ができるっていうのが大事なんよね。
その自動検証をして間違いがないっていうところまでは、
グルグルグルグル何か作業を回していけばいつかたどり着くんで、
そうするとプログラミング言語でちゃんとルールが決まってて、
コンパイルが通る通らないっていうのが判断できる。
そのコンパイルが通ることによって、
動きの保証もある程度できるとやっぱ強いよねっていうことで、
プログラム言語は大事、プログラム言語での検証能力が大事っていう話や。
なるほど。ありがとうございます。
多分ここで言うべきことは言った気がする。
勉強会活動とコミュニティ
他に何か質問ある?
AIのことはたくさん聞きましたよ。
なので最後ちょっと軽く勉強会の話をしようかなと思っていて、
さっき冒頭のところでレイバーテックさんの話もちょっと出ましたけど、
また勉強会のイベントの予定があるんですよね。
6月19日の金曜日にやろうと思ってて、
今収録してる時点ではまだコンパス出してないんだけど、
明日ぐらい、今5月28日なんだけど、
明日5月29日ぐらいにはコンパスオープンしたいなと思ってますね。
なるほど。
6月19日金曜日にLINE Yahoo!のオフィスを借りてやるつもりですね。
レイバーテックさんのイベントが、
ローカルLMってなんだっていう広い範囲を扱うんだけど、
ちょっと20分だったんで説明し足りない書き足しがあったんで、
それをもうちょっとちゃんと時間とって話をしようっていう、
そういうイベントです。
ありがとうございます。
それとちょっと前になるんですけど、
バックエンドを語る会っていうのを記者さんがやっていて、
この日ちょっと僕行けなかったんですよね。
すごい残念だったんだけど、
どんな感じだったのかなっていうのを聞きたいです。
ただ運営しながらだったんで、
登壇をちゃんと見れてないっていうところはあるんだけど、
コンセプトとしてはJavaの勉強会とかやってるんだけど、
AIがコードを書くんだったらJavaとかPHPとか関係なくなってくるよなと思って、
言語個別の勉強会の価値が多分下がっていて、
あとバックエンドってみんな仲悪いじゃないですかっていうか、
よくないよ。
こっちのフレームワークがいいぞとかこっちの言語がいいぞとか、
仲いいって。
仲いいんだけど、勉強会分かれてるじゃん。
フロントエンドはフロントエンドって言ってちゃんと勉強会あるし、
けどバックエンドって言語ごとに分かれがち。
でもそこではデータベースどうするかとか、
セキュリティーどうするかとか認証どうするかみたいな、
同じ話をしてたりするんで。
確かに確かに。
それであればバックエンドでくくった勉強会した方がいいなと思ってやってみて、
3日前ぐらいまで15人ぐらいしか登録してなくて、
それも登壇者含めて15人とかで、
あんま需要なかったのかなとか思ったら、
前の日、当日になったら29人とかになってて倍になってて、
増えた分、倍というえ、
最初は関係者含めての15人だったのが、
関係者含まず倍に増えてるんだから、
純増としては結構、参加者としては3倍になった気がするんだよね。
で、ちゃんと福岡で30人集まるっていうのは、
それなりに人気のイベントとは言えるんで、
やっぱちゃんと需要があったなっていうのと、
内容としてサーバーサイド一般の辛い話をやってもらって、
サーバーサイドこんなことが辛いよっていう話をして、
サーバーサイドの辛い話してってお願いしたら、
ちゃんとその辛いことを話してくれて、
その辛いことを解決するのがサーバーサイドのバックエンドの価値であるっていう風にちゃんとまとめてくれて、
お狙い通りとか思ったりとか、
あとはスカラワインソとか、
あとPHPがコミュニティがすごい活動が盛んで、
その辺をちょっと聞いてみたいなとか、
あとは福岡市見がどうなのとか、そういう話をしてもらって、
で、アンケートに使ってる言語何ですかって書いたんだけど、
そこでRubyを忘れていて、
福岡ってそれなりにRuby活発なんでちょっと申し訳ねえっていう、
確かにそうですよ。
実際手を挙げてもらったらその2番目ぐらいには多かったんで、
PHPが一番多かったんだけど、
確か2番目ぐらいだった。
PHPが8人で、
で、Javaが4人だったんだけど、
で、Kotlinが何人書いて、
で、実質Javaが2位だなとか思った、
JVMが2位だなとか思ったんだけど、
確かRubyを使ってる人の方が、
Java、Kotlin、Gusさんよりも多かった気がするので、
本当に申し訳ないっていう感じ。
次回からはちゃんと。
ここパッと考えても福岡はRubyを使ってる会社が多いので。
次回はちゃんとRubyを項目に入れるし、
Rubyの人にお話をしてもらうかなと思ってます。
大事だし。
次回がいつになるかだけど、
9月ぐらいにはやりたいなと思ってますね。
ぜひ参加したいと思ってます。
次回こそ。
そうですね。
ジャンルを絞らない勉強会で言うと、
僕もやっていて、前回吉田さんも出てくれたんだけど、
外から見ててどうですか?
インショウみたいな。
安西さんちゃんとやってて偉いなという。
ちゃんと定期的に毎月ぐらいの頻度で。
そうですね。
ちょっと今月は忙しすぎてできなかったけど、
来月ぐらいまたできたらいいなと思っておいて。
さっき吉田さんも言ってたけど、
言語に絞ったりとかすると、
なかなか人数がみたいな話もあったんだけど、
いろんなことを知りたいので、
いろんな人に来てほしいなと思って、
こういう勉強会を始めているという感じですね。
安西さんはPHPのカンファレンスをずっとやってたけど、
そういうのにも縛られずという感じなのが、
安西さんらしいなというのもあるし、
あと技術横断でやって、
それなりに歓迎可能な人数で面白くやれるというのは、
福岡のいいところだなというのもあるし。
コンセプト的には非常に吉田さんがやっているやつと
似てるかなという流れ的にもあるなと思っている。
バックエンド勉強会って東京だとなかなか難しい気がするんだよな。
人数多くなりすぎて。
多くなりすぎるのか。
そうそう。
そうやって技術横断でやると、
多分なかなか難しくなって、
個人で回すにはちょっと規模がでかすぎになったりとかするんで。
人数が違うからな。
確かに向こうは向こうで、
その細分化した方がいいという面もあるってことですよね。
福岡してね、
福岡っていうコミュニティーがあるんで。
そうですね。
なんか割と技術関係なくみんな仲がいいんで。
なので、継続的にやれたらなとは思ってますね。
また呼んでください。
もちろんですよ。
僕も行きますんで。
Xのサブスクリプションと活動の収益化
最後にちょっとだけ話したいです。
はい。
なんかやってるので、吉田さんが。
Xのサブスクリプション、
これは何で始めたんですか?
きっかけ的に。
プログラマーでは飯が食えなくなっていく疑惑っていうのはみんな持ってるじゃないですか。
確かに。
それは持ってますよ。
結構僕AI以前から言ってて、
プログラマーで飯食い続けるのは難しいんではみたいな風に、
YouTuberになるしかねえわみたいなことを結構言ってたんだけど、
最近はYouTuberも厳しそうなんで。
YouTuber一時期やってたよね。
あとちょっと収録して公開みたいなの、
ちょっと僕その作業合わせなかったんで、
なんか合ってないなと思って、
それはそれとして、
何なりか自分の活動をお金に変えるっていうのはちゃんとやっとくべきだなと思ったんで、
いろいろやってみて、ノートの有料記事を書いてみようかなとか思ったりしたんだけど、
なかなか自分のスタイルには合わんなあとか思って、
あと、ハテナのブログの記事をちょっと過去のやつ有料化しようかなとかも思ったんだけど、
やってみたんだけど、なかなか難しいなあと思って、
自分のスタイルにちょっと合わない、
だから基本的には技術的な辞辞ネタを書くんで、
あんまり課金してまで読まないなというのと、
やっぱり記事単体で課金するのって、
なんかそれ読んだら何か直接的に得られるみたいなのが必要だと思うんだけど、
あんまり僕の記事そういうの狙ってないので、
そうなるとなかなか難しいなあってなって、
Xのサブスクリプションだったら、それなりに面白生態を見たい人がいるだろうなっていう、
それを流していけばいいかなとか思ったりして、ちょっとやってみてますね。
このサブスクリプションって、なんかフォロワー数が何人いないとかあるんですか?
なんだっけ、青バッジが付いた人が2000人フォロワー。
結構厳しい気がする。
だいぶ厳しいですね。
僕もだって、年末ぐらいにはそれ足してなかったんで、
すごいな。
狙ったわけではないんだけど、
今日も割と青バッジ付いてるフォロワーも増えて、条件を達成して始めてみて、
でもボコボコ増える感じではないので、
でもちょっと継続はしていったほうがいいかなっていう状況ですね。
ただ、それを公開してどれを公開しないでっていうのがすごいやっぱそれは塩梅難しくって、
でもちょっと作業過程みたいなやつは、なるべくサブスクだけでやろうかなっていう気がする。
今のところ思ってます。
作業過程?
こんなのを作って回すみたいな。
サブスクにすると、サブスクタブっていうのができて、
自分のサブスクで公開したのだけが見れるやつあるんで、
それはそれで便利だなと、後で見直すのに便利だなというのもあるんで、
そんな感じでやるほうが、
サブスク用に作り込んだ記事を書くっていうのは僕にはできないんで、
けどこんな面白いことやってるっていうのを出したら、それはそれでいいかなという。
あとはそれをまとめるだけとかそんな感じで、
そこに価値を感じてもらえる人はサブスクお願いしますね。
逆にそこにちゃんと価値を出していこうと思うんだけど。
ただ基本的に、Xの収入みたいなのもあるんだけど、
割とちゃんと活動的にやってればそれなりに5000円とか2週間に1回入ってくるんで、
生きてて偉いみたいな感じでお金入ってくるなと思うんで、
頑張って生きていこうかなと思ってます。
その話はこのポッドキャストの収録とは別のところでちょっと聞いたことがあって、
すごいなと思って、そんな入ってくると思ってさ。
まあでも多い人は何十万も入ってたりはするんで。
そっか。頑張るか自分も。
そういうのは長文記事とか書いたりとかして、
それはそれでハテナとの住み分けどうするかみたいにもなるし、
記事だけで見るとちょっとX使いづらすぎるんで、
そっちで主にやっていく気もないし、
いろいろ何なりかの価値を出していかねば生きていけんなという気はしてる。
なるほど。ありがとうございます。
まとめとエンディング
いろいろ聞きたいことが多くて、
1枚でちょっと長めになったんだけど、
僕は大満足で。
本当にいろいろ聞いてたんでめっちゃ楽しかったです。
僕が話したいこと話しただけになってしまって良かったかなと思うんだけど。
全然僕はすごく楽しかったです。
よかった。
じゃあこの辺で第160回は締めさせてもらおうと思います。
最後にもう一度Xのハッシュタグについてお知らせです。
ハッシュタグはカタカナでつなぎめFMです。
投稿お待ちしています。
つなぎめFMではクリエイター向け支援サービスのコーヒーで皆様からのご支援をお待ちしております。
ということで今回のつなぎめFMは岸田さんをお迎えしてお話しさせてもらいました。
どうもありがとうございました。
ありがとうございました。
ありがとうございました。
