00:00
からあげ帝国放送局、はじまります。この配信では、AIの会社で働きながら、作家として本を書いたり、個人でメーカーとしてものづくりを楽しむ私からあげが、技術の話であったり、個人のスモールビジネス、その他雑多なことをお話ししていく配信です。
今日も、いつものように近所の公園を散歩しながら収録しています。結構今日は暑いぐらいの日和ですね。
昨日は、スタックちゃんという、何度かお話ししているデスクトップ、机の上に乗るような小型のコミュニケーションロボットを最近買っていじっているんですけれども、これのソフトを作っていました。
ザンギという、自作のAIアシスタントソフトみたいなものがあるんですけれども、それと連携して、AIとコミュニケーションというか、おしゃべりしたり何かやらせると、スタックちゃんが連動してお話ししてくれたりするという、いわゆるロボットを人間とAIのインターフェースにできないかなというところで、
ソフトを作って実験しているといったところですね。このソフトに、昨日はカメラの機能を追加しました。といっても、まだスタックちゃんに搭載されているカメラがあるので、その機能を使えるようにしただけで、AIとの連動はまだこれかなというところですね。
あとはですね、スタックちゃんのバリエーションとしてですね、その頭の部分にあたるですね、M5スタックCore S3というマイコン、パッケージングされたですね、マイコンですね。
これとあと小型のですね、本当に爪の先ぐらいの大きさのAtom S3Rだったかなというマイコンがあるんですけれども、その2つにもですね、ハードウェアとして対応して、スタックちゃん以外にもですね、そのマイコンを買ったらUSBでつないですぐ、このザンギを通じてAIと連携できるようなソフトを作ったりしました。
どんだけの人がですね、必要としているかは正直謎なんですけれども、自分がですね、いろいろせっかくハードウェアを持っているので対応したというところとですね、ここら辺も結構ハードウェアのファームウェアですね、C++とか使ってですね、このロボット側のソフトを作らないといけないんですけれども、そこら辺もですね、かなりAIにお任せできるようになって、そこら辺は非常に楽になったかなというところをですね、
昨日とかもですね、アトムS3の対応とか、AIの方がですね、気を使って、もう夜も遅いから明日にしませんかみたいなですね、生ちょろいことを言ってきたので、何を言ってるんだと、今すぐやりなさいと、私は寝るから頑張ってねみたいなことを言ったらですね、寝て起きたら完成してるみたいな感じで、
03:16
あれですね、昔寝ている間に妖精さんが仕事をしてくれたらいいなみたいなことを夢見ていましたが、だいぶですね、そんな世の中が実現しつつあるなみたいなことを感じています。
今日の本題なんですけれども、続けてですね、AIの話をしていこうかなと思うんですけれども、最近ですね、このAIのクロードコードですね、の料金体系の変更で結構ですね、大きなニュースがあって、それがですね、6月の15ぐらいだったかな、
6月の中旬ぐらいからですね、クロードコードをプログラム的に呼び出すことにですね、お金が今の定額のサブスクのプランとは別にですね、お金がかかるようになりましたという、そういったですね、料金体系の変更がありました。
これどういうことかというと、普通にですね、クロードコードを使っている人にとっては全然影響はないんですけれども、いわゆるですね、サードパーティーのAIエージェントとかですね、具体的に言うと私が作っているZangiっていうソフトウェアもそうなんですけれども、そういった別のソフトウェアからですね、クロードコードを機能をですね、プログラム的に呼び出すみたいな使い方ができるんですけれども、
そういう使い方をすると、今まではサブスクのお金で使えていたんですけれども、それとはですね、別料金になりますよっていう、そういった制度が始まりますというところですね。
具体的にはですね、200ドルまではですね、そのサブスクの料金で使えるんですけれども、それ以上だと使うほど、重量課金制でAPI料金が必要となりますという話ですね。
これはですね、200ドルって結構多いようにも見えるんですけれども、やっぱりクロードコードでですね、ヘビーに使っていると一瞬でなくなるような価格なので、実質的なですね、そういう使い方をしている人にとっては値上げになるかなというところですね。
こういった使い方はですね、今までも何か規約的にグレーなのかみたいな議論はあったり、あとですね、ちょっとオープンクローとかはまた別の呼び出し方をしていて、そこら辺はですね、アンソロピック明確にですね、NGって言ってるんですけど、実はこのプログラム的に呼び出し方はですね、規約とかをですね、それこそAIに生み込ませても毎回違うことを言うというかですね、
結構曖昧な書き方をしてて、私はあえてグレーにしているのかなと思ってたんですけど、ここに来て料金プランの改定という形で明確にこれ以上は有料ですよっていうのを示したのかなというふうに理解しています。
06:10
一方ですね、オープンAIとかはどうかっていうと、このアンソロピック、クロードに対抗してかわからないんですけれども、サードパーティーにもこういったですね、サブスクの料金の認証で機能を使っていいよみたいなことをですね、わりと明確に宣言していて、そこら辺は非常に対照的だなというところですね。
使い方としてはですね、かなりマニアックなので、あくまで一部のユーザーへの影響とは思いますが、ヘビーユーザーとかはですね、ひょっとしたらオープンAIに流れていくのかもしれないなというところですね。
私はどうかというと、そうですね、6月に1回決めようかなと思ってるんですけど、今のところはですね、最近コーデックスの方がコーディング性能も上がってきたみたいな話もあるので、久しぶりにですね、乗り換えてみようかなと思っています。
もともとですね、私はクロードコードの独自の機能とかは全然使っていなかったので、いつでも乗り換えれるかなというところで、ちょっと気軽にですね、乗り換えてみようと思っているところですね。
ただですね、これコーデックスというかオープンAIもですね、いつまでこれを許可しているかは正直わからないところがあって、さらに言うとですね、今はどのAI企業もですね、オープンAIもアンソロピックもGoogleさんもそうですけれども、赤字を垂れ流しながらAIを提供しているみたいな話がですね、言われていて、
突然ですね、10倍とかに今のAIの料金が上がる可能性みたいなものもあるんじゃないのって言っているですね、有識者の人もいたりしますし、一方ですね、やっぱり競争原理が働くので、なかなかそう簡単にですね、上げることもできないので、しばらくこう均衡が続いて、今のような価格でのAIの提供が資本主義の原理で続くんじゃないのっていう人もいますね。
で、私はどう思うかっていうと、正直わからないですね、どっちの可能性も全然あり得るんじゃないかなと思ったりしていますし、最悪なのはやっぱりいきなりですね、AIの料金が明日から10倍になりますとか100倍になりますとか、提供しょぼいものしかできませんって言われるのが一番最悪のパターンだなと思ったりしています。
で、私はもうすっかりAI付けになってしまったので、AIがないとですね、何もできない赤ちゃんになりつつあるので、どうするかっていうと、もうAIなしで頑張るみたいなことは考えずにですね、ローカルのLLMですね、そのいわゆる自分の家のパソコンで動くようなAIを実用的に使えるように使いこなしていきたいなっていうのをバックアップとして考えていますというところですね。
09:08
で、幸いにもですね、私は家にですね、NVIDIAさんからちょっと対応いただいているですね、小型のですね、AIスパコンの、ほんと弁当箱ぐらいの大きさのDGXパークっていうですね、高性能なマシンがあるので、これでですね、ローカルのLLMを動かしていろいろ実験をしたりしています。
で、何度かですね、過去の配信だと、ローカルのLLMだと、やっぱり今のですね、フロンティアモデルっていうんですかね、チャットGPTとかクロードに比べると、なかなか性能の差が大きくてですね、使い物にならないですよみたいなですね、結構ディスるような発言をしていたんですけれども、最近ですね、だいぶ評価を改めつつあってですね、というのは一つはですね、DGXパーク上でですね、
こういったローカルのLLMを高速に動かすような技術が、ソフトウェアですね、発展してきてですね、例えばですね、今まで動いていたようなローカルのLLMを2倍ぐらいの速度で動かす、その動かすためのですね、テクニックはいろいろあるんですけれども、
例えばですね、陶器的実行的にあらかじめですね、複数のパターンのですね、予測をすることで高速化するというですね、ちょっと詳細な説明は割愛するんですけれども、いわゆるCPUのですね、高速化の技術を適用したような考えを使ってですね、高速化するようなことをしてですね、だいぶ大きなモデルでも高速に動くようになってきましたというのとですね、
あとはですね、私の作っているZangiというソフトですね、これもローカルLLMに対応していったんですけれども、こちらの性能の改善というかですね、もうちょっと言うと、自分のソフトが実は今までしょぼくてですね、なんかローカルLLMが性能しょぼくてですね、うまく動けてないのかなと思っていたんですけれども、必ずしもそうでなくてですね、
もちろんLLMの性能がしょぼい部分もあったんですけれども、それと同じぐらいですね、いわゆるZangiの、最近の言葉で言うとハーネスですかね、ハーネスの作り方がよくなくてですね、例えばですね、全然スキルがうまく使えないみたいな話があったんですけれども、
じゃあコーデックスとかクロードコードがどうやってスキルをうまく使っているかというと、スキルを検索して、スキルの呼び出しとかを失敗したら、再度うまく間違えたエラーをもとにですね、修正するみたいな仕組みがですね、ちゃんと作られていたんですけれども、それがですね、Zangiでは全然できていなかったというところをですね、
12:02
クロードコードに使わせたので、スキルの使い方とかよくわかっているからいい感じにそこらへんも作ってくれるかなと思ったらですね、全然できていなくてですね、ちゃんとですね、うまく動かない原因をですね、分析して追っていったら、そういったところでそもそもうまくいってないというところがわかったりしたというところですね。
あとはもちろんですね、スキル自体がですね、スキルっていうのは、要はどんな作業をするかという手順書みたいな、いわゆるですね、長文のプロンプトなんですけれども、それの書き方でももちろんですね、スキルがうまくできるかっていうのは違ってくるので、そこも含めてですね、アップデートすると、結構ローカルLLMでも使い物になるんじゃないかなみたいなことを最近は感じつつあるので、
少しずつですね、今毎日AIに、クロードコードとかにお願いしていた作業をですね、ローカルLLMでどのぐらいできるかなっていうのを検証しながら、お機会を検討しているというところですね。
ただやっぱりたまにですね、純粋にモデルがアホでですね、イラッとくる時はあるんですけれども、ローカルだとですね、安定した性能が出るっていうのと、結構モデルによっては早いんですよね。
クロードとかよりも場合によっては全然早かったりするので、そこら辺のメリットを生かしつつですね、お機会を検討していこうかなというところですね。
あとはですね、スキルとかの改善もですね、自分自身でやらせるみたいなこともしていまして、最近は改善スキルっていうですね、某トヨタ系の会社ではですね、なぜなぜを誤解するみたいなですね、カルチャーがあってですね、
これをですね、私も昔々とある事情でですね、よくやっていまして、これはもう人間のやることじゃないなと、心の弱い人だとやんじゃいそうですし、そもそもこんなことやって効果あるのとか思ったりしていたんですけれども、
AI にですね、実はこのなぜなぜをやらせてみると、割とうまくこのスキルの問題点とかを調べてですね、改善してくれるみたいなところがあって、そういったですね、改善スキルみたいなのを作っているんですけれども、やっぱりこういうの、効果あるのかもしれないなと思ったりしたというところですね。
こういったですね、人間でうまくいく手法をですね、AI に適用しても同じようにうまくいくっていうのは面白いなと思いますし、他にもですね、こうやった人間でうまくいった仕組みをAI に適用してうまくいく例とかないかなとか考えたりしている。
今日このごろといったところですね。このですね、改善のスキルはですね、懺悔専用にはなるんですけれども、今ですね、GitHub でオープンにして公開していますので、興味ある方は使っていただければと思いますし、他のですね、例えばオープンクローとか、ヘルメスエージェントとかでもですね、参考にして作り直せばですね、すぐ使える気がするので、興味がある方は参考にしてください。
15:20
ぜひ参考にして試していただければよいかなと思いますといったところでですね、今日はコメント返しの方に行きたいと思います。
93回のポッドキャストミキサー2.0というイベントの参加レポへの返信で、ズッキーさんからですね、イベントご参加お疲れ様でしたと会場でAIソムリエバトルを楽しませていただきました。
必死に考え、最終問題で間違えて悔しがっている姿を微笑ましく拝見しましたというところで、ズッキーさんはですね、イベントにも来ていただいて本当にありがとうございました。
最終戦ではですね、残敗を期してしまい、悔しい思いをしましたが、ここらへんはですね、詳しく知りたい方は前の配信を聞いていただければ嬉しく思います。
ちょっとですね、どこかでリベンジができたらと思っていますが、その前にですね、何でも言うことを負けたから聞かないといけないので、それで何を言われるのかが怖くて仕方がない、ここ数日といったところですかね。
といったところでですね、唐揚げ帝国放送局ではコメント大募集中でして、SNSのハッシュタグの唐揚げ帝国放送局であったり、無料のコミュニティの唐揚げ帝国のお便りチャンネルでコメントをいただければ、この配信でも積極的に取り上げていきたいと思いますので、ぜひぜひコメントの方をお寄せください。
今日は以上となります。それではまた。
