00:00
からあげ帝国放送局、始まります。この配信では、AIの会社で働きながら、作家として本を書いたり、個人でメーカーとして斧作りを楽しむ私からあげが、技術の話であったり、個人のスモールビジネス、その他雑多なことをお話ししていく配信です。
今週も一週間始まりましたね。今日もですね、いつものように朝、公園を散歩しながら収録の方をしています。少し涼しくてですね、散歩にはちょうどいい感じの天気ですね。
今週の土日はですね、少し子供と一緒にスポーツをしたり、日曜日は割とゆっくりしていて、ポコアポケモンをですね、少しやったり、ただあんまり進んでないですね、ちょっと子供のようなですね、集中力はなかなか維持できなくて、ちょこちょこプレイしては止まっているという感じですね。
あとはですね、いろいろAIをいじっていました。具体的にはですね、自分で何度もですね、この配信でも紹介しているAIアシスタントソフトのZangiというソフトですね。これを少しいじったりしていまして、地道にアップデートをしています。
先週アップデートした内容はですね、モデルを動的に切り替えるみたいな機能を作っていました。今までですね、モデルを切り替えようとすると、設定ファイルをですね、編集して再起動しないといけなかったんですけれども、これをコマンド一発でですね、切り替えれるようにしました。
この背景はですね、前回少し話したんですけれども、今使っているモデルというかですね、バックエンドですかね、がクロードコードっていうソフトなんですけれども、で、これをほとんどメインで使っていて、切り替えることってあんまりなかったんですけれども、やっぱり一時的にですね、使えない状況が出てきたときに、すごい困ってしまうということで、その時にですね、いちいちこの設定を切り替えるみたいなのも、
今はもう全部ですね、この懺悔を通してですね、ボロットというAIアシスタントにお願いしていたんですけれども、これが使えなくなると切り替えることすら自分でできないというですね、非常に恥ずかしい状況でしたので、コマンド一発でですね、スムーズに切り替えれるようにして、
いざという時にですね、他の例えばコーデックスとかですね、ジェミニとかにAIアシスタントとしてすぐ来役を務めてもらえるようにしたというところですね、これもですね、すぐ切り替えれたりですね、あとはDiscordというチャットソフトで使っているんですけれど、
このDiscordのチャンネルごとにですね、使うモデルを切り替えれるみたいな機能も実装したので、例えばですね、Aチャンネルではクロードコード、Bチャンネルではコーデックスが使えるし、Cチャンネルではその他のですね、ローカルのLLM、いわゆるオープンなAIが使えるみたいなこともできるようになりましたという状況ですね。
03:22
今日の本題に入っていくんですけれども、この機能を実装した背景は、やっぱりクロードコードがいざという時に使えなくなってしまった時のフェイルセーフという位置づけでもあるんですけれども、このローカルLLMですね、が結構ですね、使えるようになってきたかなという体感もあってですね、
このローカルLLMを実際に使うことが増えてきたので、切り替えの手間をなるべくスムーズにしたりですね、チャンネルによってはそういったローカルLLMですぐいろいろな実験ができるようにしたかったという背景もありますね。
つまりローカルLLMの性能がですね、だいぶこのフロンティアなモデルに近づいてきたかなというのを実感しているというところですね。
無料のコミュニティの唐揚げ帝国というですね、コミュニティがあるんですけれども、そこでですね、唐揚げボットというですね、ローカルLLMを使ったですね、ボットを作っていろいろ実験をしているんですけれども、
これはですね、帝国に入国すればですね、誰でも手軽にボットとおしゃべりが楽しめるんですけれど、
結構このボットもですね、最近いろいろ面白いことを言ったりですね、基本はですね、役に立つとか便利というよりかはエンタメ用でですね、何か面白いことをしゃべったり、
あとはですね、一応絵とか音楽を作る機能があるので、そんなものを作ってですね、みんなを喜ばせるみたいな、ある意味マスコットキャラ的なですね、存在なんですけれども、
結構それがですね、こっそりローカルのLLMを入れ替えたりしながら実験しているんですけれど、最近初期に比べるとですね、だいぶ賢くなってきたというかですね、知的な面白い振る舞いをするようになってきたかなというふうに感じています。
これもやっぱりローカルLLMの性能が上がってきたからかなというところですね。
ただですね、こういったモデルはですね、結構エージェンティックな使い方っていうんですかね、いわゆるスキルっていうものがですね、アンソロピックという会社の企画であってですね、これが何かっていうと、いろいろな作業手順ですね。
これは本当に自然言語、プログラミング言語じゃなくて、自然言語でこういうことをやってね、みたいな、要はプロンプトですね、このプロンプトで手順を書いておいて、これを読ませることでですね、いろいろな作業ができるようになる。
例えば絵を描いてくれとかですね、ニュースを調べて教えてくれとか、論文を要約してくれとか、何かそういったですね、特定の作業をお願いするときに使えるですね、機能で、これをどんどん自分自身で増やしていくことで自分の機能を拡張していくみたいなことができるんですけれど、そのスキルを使うのがですね、なかなか弱いなという印象がありました。
06:28
これは人間でも同じですよね。手順書を見てすぐできるかというと、なかなか本当に賢い人間じゃないとすぐはできないですよね。AIも同じで、そのスキルの手順が複雑になるほどですね、賢いモデルじゃないと失敗ばかりしてしまうという状況で。
クロード行動だとですね、まず失敗しないニュースをまとめてですね、報告するとかですね、あとは絵を描くとかですね、音楽を作るとか、そういったスキルをですね、全然失敗ばかりするんですね。
それに対してちょっと考えたのがですね、トリガーという仕組みを考えたりしました。これはですね、詳しくはブログとかにも書いていますので、この概要欄に貼っておきますので、詳細はそちらを見ていただければと思うんですけれども、これがどういう機能かというとですね、要は引き金を引くようにですね、簡単に機能を使えるみたいなイメージですね。
ボタン1個押すと何か特定の機能が発動するので、あんまり賢くないAIでも簡単に使うことができる、いわば簡易版のスキルみたいな概念を作ってみました。
これもですね、別にめちゃめちゃ新しいことをやっているわけじゃなくて、もともとLADMってツールを使えるような機能があるので、それを少し拡張して、特定の用途だけじゃなくて、ちょっとスキルみたいにですね、何か機能を追加したくなったらすぐ動的に機能を追加できるようにしましたというところですね。
なので単体のツールとこのスキルの中間に位置するようなものをですね、作ってみましたというところですね。
これの発想はですね、この楽器でですね、ギターとか結構ピアノとかもそうですけど、弾くの難しいと思うんですけれども、インスタコードとかですね、簡単プレイっていうですね、最近楽器があってですね、
それだとボタン一つでコードを弾いたりですね、このボタンをポンポン押すだけで結構音楽が作曲できたり演奏できたりするみたいなですね、デバイスが発売されているんですけれど、
自分もそれ持ってるんですけれど、そこら辺に着想を得てですね、あんまり楽器を弾けないような人、すなわちローカルエレレミみたいな、あんまり頭が良くなくてもですね、そういった仕組みを使えばですね、簡単にいろんな機能を使えるんじゃないかということでですね、発想したアイディアになります。
09:05
これもですね、Zangiというソフトに実装して、誰でも使えるようになっていまして、そのサンプルのトリガーもですね、いくつか用意していますので、興味ある方はですね、使っていただいたり、自分自身でですね、新しいトリガーを作ってもらえれば良いかなと思っています。
ちなみにこのトリガーという名前はですね、ロックバンドのルナシーのですね、ロージアーというですね、名曲に出てくるですね、I'm the Triggerというですね、歌詞から取りました。
やっぱ名曲なんですよね、これ。ベーシストのJがベースソロを弾いた後ですね、必ずマイクスタンドを後ろに放り投げるんですよね。
これがですね、やっぱり最高にかっこいいので、ぜひですね、YouTubeとかいろいろなところでチェックしていただけると良いかなと思います。
ドラムのシンアさんがね、最近残念ながら亡くなられてしまって、本当にご冥福をお祈りしますというところですが、少し脇道に逸れてしまいましたが、そういったわけで、トリガーというですね、機能を開発してみました。
ただですね、正直この機能って、枝派の機能と言えばそうで、スキルとツールのあいのこで、よく言えばうまくですね、今のLLMの性能にはまったですね、賢い機能とも言えるんですけれども、悪く言えば非常に中途半端なものですね。
あくまでこういったローカルLLMが賢くなるまでのつなぎかなっていうのが正直なところで、何かこの機能で世界が変わるとか、そういうものでは当然全然ないですし、多分同じようなことをやっている人はたくさんいたんじゃないかなと思いますが、すぐに必要もなくなるかもなというのも感じていますね。
例えばですね、最近クエン3.6というモデルができたんですけれど、このモデルとかもめちゃくちゃ賢くて、ついこの前まで3.5だったんですけれど、いつの間にか3.6に上がってですね、これも31ビリオンぐらいですかね、MOEというですね、モデルなので結構早いんですよね。
詳細は割愛しますが、早い上にですね賢くて、結構エージェンティックな使い方、いわゆるスキルもですね、割と賢く使えるようになってきたので、早くもですね、このトリガーというものがいらない存在になっていくんじゃないかっていうのを感じたりもしています。
割と今までですね、エージェンティックな使い方だと、まだローカルLLMは実用的とは言い難いなみたいなことをですね、今までの配信で話してきたんですけれども、このクエン3.5とか3.6とかを見ていてですね、ちょっと認識を改めないといけないかなと思いましたね。
12:06
というのはですね、割とローカルLLMがいよいよですね、数年前からローカルLLMには期待するみたいなことを言っていたんですけれども、いよいよですね、自分の用途という枕言葉をつきつつもですね、実用的になってきたように感じますね。
なのでですね、ちょっと前にですね、APIが枯渇してしまって困ったこととかもあったので、少しずつですね、いろんな作業をローカルLLMにも任せていってですね、クロードコードのトークンを節約していこうかなと思ったりしています。
そのようなときにですね、やっぱりフロンティアモデルで使えるようなことがですね、使えなかったりするんですけれども、そういったところはですね、例えばツールだったらAIに使いやすいようなツールを用意してやるみたいな、そういったですね、AIにとって使いやすい環境を用意するみたいな考え方がですね、重要になっていくと思いますので、
最近の流行りの言葉で言うとハーネスエンジニアリングとか言うんですけれど、私はですね、この言葉あんまり好きになれないので、早く次の言葉が流行らないかなとは思ってるんですけれども、そういったですね、AIにとって使いやすい環境とかツールを整備するみたいなことはですね、重要だと思いますので、
今回ですね、自分が考えたトリガーみたいな仕組みですね、これを別にそのまま使う必要はないんですけれども、いわゆるAIに寄り添うような考え方ですね、使いやすいものをですね、どうしたら用意できるかみたいなですね、発想でですね、考えてみると、よりですね、いろいろなAIを使いこなせるようになっていくんじゃないかなと思ったりしていますという話でした。
といったところで、今日はですね、コメント返しは省略です。
唐揚げ帝国放送局ではですね、SNSのハッシュタグ、唐揚げ帝国放送局であったり、無料のコミュニティの唐揚げ帝国のお便りチャンネルですね、ここでお便り大募集中です。
積極的にコメントを取り上げていきますので、ぜひどんどんお便りをお寄せください。よろしくお願いいたします。
今日は以上です。それではまた。
