00:00
からあげ帝国放送局、始まります。
この配信では、AI関係の会社で働きながら、作家として本を書いたり、
個人でメーカーとしてものづくりを楽しむ私からあげが、
技術の話であったり、個人のスモールビジネス、その他雑多のことをお話ししていく配信です。
今日もいつものように、近所の公園を散歩しながら収録しています。
昨日はですね、愛知県は記録的な豪雨でして、なんか帰宅できない、帰宅難民の人とかが多くいたりしたようです。
私もですね、ちょっと愛知県なので、周りの人が結構困っている感じでしたね。
皆さんは大丈夫だったでしょうか。
子供も結構学校が早引けとかになって、早めに帰ってきたりしていましたね。
今日は一転してですね、めちゃくちゃいい天気で、セミもですね、みんみん鳴いている。
もう最後のですね、力を振り絞ってかもしれませんが、すっかりいい天気に今のところなっているっていう感じですね。
今日は早速本題の方に切り込んでいこうと思うんですけれども、
オープンAIの新しいモデルですね、GPTのASTRAというものが公開されました。
これですね、非常に性能がいいとかですね、もうAGIですよね。
汎用人工知能に近づいたんじゃないか、もしくはそのものなんじゃないかみたいなことでですね、すごい話題になっているモデルです。
ただですね、私そんなに新しいモデルとかそこまで興味がないっていうと、
AI業界にいるものとしてそれでいいのかっていう感じはあるんですけれども、
新しいモデルが性能良くなるっていうのは、過去も続いてきたことなんで、
ことさらそんなに慌てなくてもいいのかなというのと、
土日ちょっとですね、イベントとかで忙しくてバタバタしてたっていうのもあったりしてですね、
ようやく触り始めたんですけれども、実は衝撃的なことがあってですね、
ずっとですね、土曜日ぐらいに確かASTRA公開されたんですけれど、
私ですね、気づかずにずっとSOLを使い続けていたっていうところですね。
というのが私はCODEXっていうですね、主にそのAIコーディングソフト経由で使っているんですけれども、
それのですね、デフォルトの設定をですね、ソフトをアップデートしてデフォルトの設定をですね、
変えないとですね、ASTRAに切り替わらなかったんですね。
まあ私の環境の話なので、あの人によっては自動で切り替わったり、
あとは普通にウェブでチャットを使っている人はですね、そんな間違いはないと思うんですけれども、
私はですね、ASTRAに切り替わってないとはですね、ついも思わずですね、
ずっとそのASTRAに切り替わった手で一つ前のモデルですね、
GPTのSOLっていうものをですね、使っていたっていうところになります。
なので私も使っていてですね、ASTRAってすごい評判がいいはずなのに、
なんかイマイチだなというか、信じられないですね。
03:03
ボンミスみたいなのをしたりとかですね、うまく動いてくれなかったりして、
これどうなってるんだろうってちょっと不思議に思ってたんですね。
ただ結構時間がなかったんで、そんなに詳しく調べてなかったんですけれど、
やっぱりこれおかしいなと思ってですね、モデルの設定を改めて確認してみると、
ASTRAになってなくて、SOLのままでしたっていうところですね。
なのでおそらくですけれど、このASTRAが公開されたタイミングでですね、
もうみんなそっちに切り替えからということでですね、
オープンAIもこっそりSOLの性能をですね、NERFって言うんですけれど、
性能としてコスト削減みたいなことをしてるんじゃないかなと、
私はですね、特に証拠があるわけじゃないんですけれども、
体感として思ったりしています。
それぐらいですね、SOLが悪くなっていましたね。
で、ASTRAにですね、ようやく切り替えてですね、使ってみたんですけれども、
まだそこまでですね、頭の良さは感じてられるタスクをやらせれてないんですけれども、
おバカな挙動は減ってですね、やっぱりASTRAにちゃんと切り替わったなっていうのを
体感することができたっていうところですね。
ただですね、性能以上に体感しているのがですね、
このトークンの消費量の大きさっていうところですね。
私ですね、前もポッドキャストで話しているんですけれども、
トークンのですね、私GPTのですね、プロプランっていう、
だいたい月に3万円ぐらいのプランに入っているんですけれども、
そのプランだとですね、週にこれだけ使っていいよって枠が決まっているんですね。
で、それが使い切ってしまうとですね、
週のリセットがかかるまで使えないみたいな制限がかかるんですね。
で、その状態になると非常に辛いので、
結構豆にですね、トークンの使用量をチェックしていてですね、
私が開発しているAIアシスタントソフトですね、
Zangiっていうソフトもですね、これコーデックスとかと組み合わせてですね、
便利にAIを使うことができるソフトなんですけれども、
Webブラウザ経由でですね、ほぼリアルタイムにこのトークンの使用量とですね、
あと、週次のリセットを超えないようにするためのですね、
目安のバーみたいなのが可視化されるようになっているんですね。
でですね、今までは大体ですね、その余裕半分ぐらい持たせてですね、
使っていたんですけれど、
アストラに切り替えてからですね、
もう本当にギリギリというかですね、目安を超えてしまうぐらいですね、
使う体感数倍以上ですね、
使用量が激しくなっているっていう印象ですね。
なので、私プロプランなんですけれども、
それでもですね、ちょっと普通に使っていたらですね、
あっという間に週のリミットを越しそうになってしまうなということで、
かなりですね、怯えているという状態ですね。
なので結局ですね、アストラはですね、
ちょっと試したところで、
06:01
デフォルトの設定をですね、ソルに今戻していますね。
なのでここぞという時に、
アストラを使うみたいな運用にしようかなと思っています。
あとですね、Web上でいろんな人が話題にしているのがですね、
アストラにした場合ですね、
なんか今まで作ったスキルとかをですね、
1回捨てた方がいいみたいな、
そんな話も出てきたりしていますね。
なのでスキルとかですね、
エージェント.mdとかのAIへの指示とかですね、
ルールみたいな手順書みたいなものですね。
これをですね、変に古いモデルに合わせて作ったものを与えるより、
1回ですね、アストラにですね、
作り直させたり、もしくは全くなしで作業をやらせちゃった方が効率がいいよみたいな話がですね、
結構いろいろなところでですね、話題に上がっています。
これはオープンAIの開発者自身が言っていて話題になったんですかね。
あとはそうですね、
よく聞いているポッドキャストの落ち着きAIとかでも
支部長さんが話していたのを記憶しています。
これですね、私自身はまだ試していないというか、
アストラでは実感していないんですけれども、
実はですね、過去のモデルでもめちゃめちゃ同じようなことを実感していたことですね。
これ結構過去の配信でも話しているんですけれども、
私ですね、いろいろ個人的に興味があって、
ローカルのLLM、オープンなですね、大規模言語モデルを活用できないかなということで、
私はですね、NVIDIAさんの小型のAIスーパーコンピューターのDGXパークってやつをですね、
ちょっと持っているので、それでですね、
クエンとかですね、ディープシークといったローカルLLMモデルを動かして試しているんですね。
そういったモデルって結構賢くなってきているんですけれども、
いわゆるですね、オープンAIとかアンソロピックのフロンティアモデルですね、
チャップGPTとかクロードに比べるとですね、頭が悪いので、
そういうモデルをですね、何とか使おうとするとどうする必要があるかというとですね、
スキルとかですね、そういうプロンプトをですね、結構作り込んでですね、
指示をガチガチに固めないとですね、いけないというところがあります。
いかに制約を作るかというところが、そういったですね、ローカルモデルを使いこなすためのコツなんですけれども、
頭が良いモデルになってくるとですね、そういう制約が逆に邪魔になってしまうとかですね、
非効率的になってしまうみたいなのはですね、結構今までのモデルを使っても相対的に感じていたというところですね。
これはですね、すごい人間っぽいなって思いますね。
人間とかでもですね、例えば会社でですね、すごい優秀な人とかですね、
良い人ばっかりがですね、集まっている組織だったら、あんまりルールとかはいらないんですよね。
むしろですね、そのルールがめんどくさい邪魔の足枷になってしまって、効率が落ちるみたいなことがあってですね、
09:07
小集団で優秀な人がいたら、ルールをあんまり作らず自由に行動させて、その結果ですね、チームワークが生まれるみたいな、
広角機動隊とかでもですね、名言としてですね、我々のチームにチームワークといったものは存在しない。
ベストを尽くした上に生まれるチームプレイがあるだけだ、みたいな、ちょっと性格じゃないかもしれないんですけど、そんなニュアンスの言葉があって、
いわゆるプロフェッショナル同士の小さな集団という場合だと、そんな細かいルールがない方がうまくいくっていうのがありますと、
ただそういった組織がどんどん大きくなっていってですね、いろいろな人が入ってくる。
それこそですね、レベルも含めてですね、必ずしもいい人だけじゃなくてですね、ちょっとごまかしてしまうような人が入ってくるとですね、やっぱりそういったですね、
ルールが必要になってくる。会社だとですね、いろんな規則だったりですね、手順書みたいなのをやってですね、
誰かにチェックしてもらって確認してもらってみたいな、どんどんですね、いろいろ同じことをやるにしても大変になってきてしまう。
その分ですね、誰でもですね、同じタスクがこなせるようになってくるっていうところでですね、やっぱり会社が大きくなってくると、どうしてもそういう仕組みが増えてきて、
タスク自体の効率は悪くなってしまいますと、ただその分ですね、能力のない人も含めてですね、
同じタスクを同じような時間をかければですね、ある程度できるようになってくる。もちろんですね、実態としては人による差はどうしても残るんですけれども、
ある程度ですね、そこのクオリティといったものを担保することができるようになるので、どんどんですね、会社を大きくしていける。
それに従ってどんどんルールも厳しくなっていくみたいなことが起こるかなと思っています。
これは結構大きな会社にいた方とかですね、体感で実感している方もいるんじゃないかなと思います。
AIでもですね、結構やっぱり似たようなことが起こってくる可能性があると思っていまして、トークンの量がですね、やっぱりアストラとかだと半端ないので、
アストラはスキルとかなくてもいいかもしれないんですけれども、スキルを節約するためにですね、
例えばもう少し下のモデルですね、ソルであったりとか、もしくはですね、先ほど話したようなローカルなモデルですね、
電気代だけで動くようなモデルをうまく組み合わせてですね、何かの作業をやるにしてもですね、協力させたりですね、
そんなに急ぎじゃない仕事はですね、そういった安いモデルに任せるみたいなですね、結構使い分けの組織的なマネジメントが、
ひょっとしたらAIでも重要になってくるかもしれないなと、その時にですね、ルールをですね、全員一律にやるのか、
その人のレベルに応じてルールを作り変えるのか、みたいなのはかなり悩ましいところですよね。
12:00
あんまりガチガチにすると、せっかくのですね、賢いアストラくんとかの性能を発揮しきれなくなっちゃいますし、
かといって細かいスキルをですね、作らないとですね、頭の悪いモデルの場合はとんでもないことをしてしまってですね、
問題を吹き起こして、それでさらに効率が悪くなるみたいなことが起こってしまうので、
ちょっと会社みたいで面白いなといったところですかね。
ただAIの違いとしてはですね、人よりですね、ひょっとしたら安価にですね、多くの賢いAIですね、
頭脳を調達できる可能性があるっていうのが違うところですかね。
だからもしですね、今後どんなアストラも安くなっていってですね、たくさん調達できるなら、
ルールあんまりない状態でですね、アストラばっかりで組んじゃえば、一番ですね、効率的な運営ができるかなと思いますし、
逆にですね、アストラみたいなですね、フロンティアモデルが今みたいなですね、価格で本当に使い続けられるのか、
もっと値上がりしていくんじゃないかみたいな議論もあったりするので、
もしそうなるとすると、いかにですね、安いモデルをですね、たくさん集めてですね、
スキルとかですね、ルールをかなり厳しめに設定することでですね、
タスクをこなしていくみたいな工夫がひょっとしたら重要になっていくのかなと。
これどっち方向が重要になってくるのか、正直自分もまだわからないところですね。
私自身はですね、ここら辺のモデルとかがですね、トレンドとか価格がどうなってもいいようにですね、
ある程度柔軟に切り替えられるような仕組みですね。
AIアシスタントソフトの残儀というものを作ってですね、ある程度対応していこうかなとしていますといったところですね。
あとですね、モデルがアストラに切り替わってないみたいなですね、
ボンミスを防ぐためにも、そこら辺もですね、今使っているモデルをわかりやすくするような仕組みとかですね、
地道なアップデートもしていますといったところですね。
もしよかったら使ってみていただけると嬉しく思います。
無料でですね、残儀というソフトを公開しております。
といったところでお便りの方に行きたいと思います。
今日はですね、スポティファイの方に来ているコメントですね。
こちら、山田さんから前回に引き続きですね、コメントをいただいています。
2ついただいていてですね、1つはメーカーフェアの会についてですね。
唐揚げ先生、メーカーフェア東京お疲れ様でした。
私も出展を準備、ノリノリでワクワクしてて前日に心配になって、当日最高潮になって終わった後は反省しますみたいなコメントをいただきました。
ありがとうございます。
そうですよね、やっぱり自分だけじゃなかったんだ。
自分もですね、始まる前と始まった30分間がですね、一番こういうイベントとか楽しいみたいな話をして、その後はなんか反省というか後悔してしまうみたいな話をしたんですけれども、
15:05
私以外にもですね、同じようなことを感じている人がいて嬉しく思います。
あと山田さんからはですね、もう一つコメントをいただいていて、前回の配信に対してですね、投稿読んでくださってありがとうございました。
唐揚げ先生のマイルドな声が一層マイルドに聞こえていますよというコメントをいただきました。
これはですね、マイクの変更に関してのコメントですね。
はい、非常にフィードバック感謝しております。
声がですね、少しでもあんまり自分の声好きじゃないんですけれども、そう言ってもらえてですね、嬉しく思います。
このようにですね、コメントをもらったらですね、私返していきますので、
ぜひですね、SNSのハッシュタグの唐揚げ帝国放送局であったり、無料のコミュニティの唐揚げ帝国のお便りチャンネルでコメントをどしどしお寄せください。
といったところで本日の配信は以上となります。
それではまた。
