Jevの正体と速度・価格
ジェブってぶっちゃけどうなのー よろしくお願いしまーす。はい、お願いします。小松です。お願いします。
エンジニアリサーチャーのいわきです。お願いします。はい、今日もやっていきましょう。はい、ということでね、今週と言いますか、最近結構ね、ジェブっていうモデルがいろいろなところで話題になっているので、今日はここがぶっちゃけどうなのかと。
いやもうね、紐解いてください。結構ね盛り上がってましたからね。見ていきたいなーってふうに思います。はい、ちょっと今日は2人でねサクッとやっていこうと思うんですけど、そもそもこのジェブが何者かというところなんですけど、この今流しているおじさんですね。
この方が開発された新しいモデルと。いわゆるチャットGPTの研究に携わってきたオープンAIの研究者。この人がもう秘密裏に2年間かけて開発していたと。
あのチャットGPTの父と言うと大げさでしょうけど。だいぶすごい人なんですよね。うん、だと思ってます。このディオゴ・アルメイダスさんですね。が2年間温めていたと。
全力で作りました。何がすごいのかというとここに書いてありますけど、最大200倍速くて400倍安くて、性能も十分高いと。本当ですか?なんかすごそうですよね。
実際どれぐらい速いかというと大統時間が70から500ミリ秒。よくわかんないですね。1秒もないってことですね。ほぼリアルタイム。めちゃくちゃ安くて入力が100文字を24万回処理してようやく1ドル。
とりあえずめっちゃ安そうですよね。ここまで結構すごそうなんですけど、ちょっとこれ変わったモデルでした実は。
Jevによるブラウザ巡回デモ
今LMで当然文章で色々回答してくるじゃないですかと。なんですけどこのジェブに関してはなんとテキストを出力できないと。
どういうこと?って感じですよね。なんでお前はと。話せないんですよ。話せないんですけど、何ができるかっていうと意思決定って言われてるんですね。
AとBという選択肢があった時にどっちにしますかっていうのを判断してくれる。
あんまりイメージ湧きにくいと思うので早速デモをやっていきたいなと思います。見せてくれよ。見せていきましょう。
気になるねこれ。ちょっともうあらかじめこちらの方でセットアップを今回しておいて、ジェブを使って今回やるのがブラウザ操作ですね。
先に説明しておくとなんでブラウザ操作がジェブでできるかっていうと、例えばこうやってグーグル開くじゃないですかと。
やることって基本的に何かをあくまで有限ことというかいくつかの選択肢の中から何かをするっていうことになっていて、
例えばこうやったら分かりにくいですね。ヤフーとか見てみれば分かりやすいと思うんですけど。
ちょっと待ってこれジェブがブラウザ操作できる?
今からそういう説明というかそのデモね。
おもろい。代わり種のデモを持ってきた。
爆速でしかも爆安なんで。
なるほど。
そもそもその原理を先に説明していくんですけど、
これ今こういうふうに選択肢があるんですよ。ブラウザ操作ってよくよく考えると。
我々つまりはこの記事からどれを選ぼうかなと思ってクリックをする。
あるいは検索ボックスに何か入れてみるかみたいな。
普通のブラウザですね。
そういうこともしますし、あるいはちょっと一旦戻ろうかなみたいなこともやるわけですね。
なのでこれは一種の選択肢なわけです。
なので毎回そのジェブがその中で一番最適な選択肢を選んでくれれば、
このブラウザも操作できちゃいますと。
マジ触れるの?
そうってことなんですね。
早速見せてください。
ちょっと色々分からないと思うので、実際にやっていきたいなというふうに思います。
今から音声入力で指針も出していくんですけど、
今からジェブのスキルを用意しておいたので、
このスキルを使って我々が運営するマーベリックスAIニュースの記事一段にある記事をすべて取ってきた上で内容をまとめてください。
各記事は一番下までスクロールしてください。
ジェブの検証用にお願いします。
ちょっと長かったですね。
これChatGPTの画面?
これ今左で開いてるのはCodexですね。
Codexの画面なんで、今回専用のジェブのスキルを作っておいたので、
これを使って実際に我々が運営するニュースレッダーの記事を全部取ってきてもらって予約しようと。
どうなると、ここはChatGPT Codexしか出てないけど、裏側に実際動くのはジェブですか?
そうですね。ブラウザ操作は全部ジェブがやってくれるという感じです。
ではこれ実行していきたいなというふうに思います。
さあ、なるほどね。
その間にまたいろいろ説明をしていきたいなというふうに思うんですけど、
今もう早速と言ったらここまで来ましたね。
待って、これCodexのコンピュータユースではない?
ではないです。
コンピュータユースは使わずにあくまでCodexはこの画面にアクセスするところだけやっていて、
実際の操作は全部ジェブ側になってくれる。
ジェブってクリックできるの?
クリックは実はジェブ実際はしてないんですけど、
このクリックをするという選択をしているわけですね。
あ、そういうこと?
あくまでジェブのブレインというか意思決定をするだけなんです。
なのでさっきの画面だったら、今の画面だったらここから左下の記事を押してほしいとかあるわけですけど、
その記事でのクリックするという意思決定をジェブがして、
あとは実際にやるのはCodex側と。
ただ早速ちょっとバグっているかも。
若干糸と違ったんですけど、まあまあいいでしょう。
ちょっとこのまま待ちましょう。
あってますね。
ちゃんと糸に従って今やってくれているのが、
僕が作った、書いたうちにあまり100本以上あるので、
それを全部バーって見に行ってくれています。
これも全部ジェブが操作しているので、結構早いことがわかるかなと思います。
11ページまでも行きました。
ここからたぶん全部のページの中身まで見てくれるはずですね。
すごい。
マジか。
ちょっと苦戦していますが、たぶん行けるはず。
これ安いってことでしょう?
これは何がすごいかって、
シンプルに基本的には2つで、
安くて早いっていうところですね。
コンピューターですとだいぶ今のオレルだと早くなってきましたけど、
とはいえなんだかんだ毎回1,2秒ぐらいは待つようなイメージなんですけど、
ジェブ使うと本当に1秒、0.5秒とか、
さっき70から500ミリセックって言ってましたけど、
それぐらいのソフト感でできると。
むちゃくちゃ爆削ですと。
いう感じですね。
ようやく来ましたね。
ようやく来ました。
こんな感じで今機種の中身を全部取ってきてくれてます。
早くない?
これも似ているようなことをやろうとすると、
プログラムを書いて自動化とかもできるんですけど、
一切やってなくて、
毎回ジェブがこの画面を見て、
次は下にスクロールだ、
次はこのリンクに飛ぼうとか、
全部その場で今リアルタイムで判断してくれてます。
すごい。
こんなにできるんですか?
そうなんですよね。
これが1個見せたかったジェブのユースケースです。
この後100個くらい記事見そうでさすがにめんどくさいので、
そろそろまとめに入ってもらいましょう。
ちゃんと取れるかどうか。
一旦十分調査してくれたんで、
今の範囲で最終結果まとめてください。
みたいな感じで。
とにかく早そうだなってところを実感してくれればなと、
まずは思います。
はい。
Jevがマリオを操作する仕組み
で、他のユースケースもこの間に見ていきたいなと思うんですけど、
そうね、他何できる?
一番分かりやすいところで言うと、
役に立つかどうか置いておいて、
分かりやすいのはこれかなと思っていて、
これ今マリオをジェブにプレイさせるっていうやつなんですけど、
これはめちゃシンプルで、
要はゲームって、
DSってボタンなんか高いかな?
8個くらいしかないじゃないですか。
10個くらいか。
10個くらいのボタンのうちにどれを押すかっていうのを、
毎回そのジェブにその都度判断させてると。
このマリオはジェブが操作してる?
そう、これジェブが操作してる。
こんなのできるんだ。
普通の重めのLLMだとこれ一個一個時間かかっちゃうんで、
クリーボーを見てる間にどうしようっていうのを
考えるのに時間を使っちゃって、
クリーボーに当たって死んじゃうみたいなのが多いわけですけど、
ジェブだとそこの判断が早いので、
クリーボーを見た瞬間にそれを捉えて、
すぐさま上ボタンでジャンプできると。
上手くね?
そこがすごい頑張ってますよね。
ここで落ちるんですけどね。
目も口も持たないJevの構造
てことは何?文章じゃなく動画?
画像を見れるってこと?
そこもちょっとややこしいんで、
これから整理していきたいなって風に思うんですけど、
まずジェブが、何個かでも見せたと思うんですけど、
実はジェブ今目がないんですね。
視覚はなくてあくまで受け取れるのはテキストだけ。
出力できるのは意思決定のだけと。
要は選択肢の中から選ぶことだけなんですね。
結構原始的なものなんですね。
まずは前提として。
なるほど。
これはどうなってるかというと、
これも若干特殊な方法をやっていて、
画面情報を一種テキストに変換して、
コードに変換して渡してあげてて、
座標みたいなのをずっと渡し続けてる?
そうそう、まさしくそうですね。
それをジェブが受け取って判断してるって感じです。
さっきのブラウザも同様で、
この画面を見てるわけじゃなくて、
この画面のコードを見て判断してる。
なるほど。
HTMLとかを毎回見てるから、
クリックどこしたらいいって分かるんですか?
そうなんですよね。
あ、出た。
これさっきの結果を見てみますか。
早っ。
1分くらい、2分くらいリサーチさせた感じ?
そうですね、1分くらい、2分くらい。
1、2分になっていて、
ここもうちょっと早速しとくと、
これテキスト出てるじゃんってなるんですけど、
最後テキストまとめるところはコレックスがやってて、
それまでのブラウザ操作だけを
ジェブがやってるんで、
こういうことができるという感じ。
あくまで一緒のコントローラーというか、
を操作することしかジェブはやってないです。
なるほど。
まじ人間の手みたいな感じ?
そうそうそう、感じですね。
っていうのがジェブの中身ですと。
自由度を捨てて速度を得る設計
なんでこんなに早いのか、
何がすごいのかってところを伝えていきたいんですけど、
何がすごい?
ジェブは一種のトレードオフの中で、
ベストなところを選んだってところがあって、
どういうことかっていうと、
一種自由度を捨てる代わりに、
犠牲にして速度を得たんですと。
だからさっきもあれだけど、
テキスト情報しか見れない、
しかも出せないテキストは。
っていう自由度を縛った代わりに、
むちゃくちゃ早いですと。
そう、よくそういう、
漫画とかでもありますけどね、
すごい特殊なね、
特定の力に特化する代わりに、
何か一人だとできることは少ないみたいな。
五角形のグラフのビョーンって一本で出てる感じ。
まさしくそういうことですと。
で、ちょっとね、
昔の話をしていくんですけど、
そもそもその生成愛が出てきて、
なんで生成愛がすごかったのか、
革命を起こしたのかっていうと、
やっぱ一番大きいのは、
話せるようになったところだと思うんですよ。
一応その生成愛の前の時代から、
AIってものは存在していたわけですけども、
彼らは基本的にしゃべれなかったので、
人間とコミュニケーションも取れない、
っていうのが一つありました。
で、二つ目が、
チャットGBDとかって、
いわゆるデータを学習させる必要がないですよね、
基本的には。
そうなくて、
指示をすれば答えてくれるっていう。
その学習が必要じゃなくなったっていうところも、
めちゃくちゃでかい。
革命だった。
そこの二つが革命だったんですね。
で、ジェブに関しては、
その間を取っていて、
学習はジェブはいらないんですね。
今回はマリオのために学習したわけじゃないし、
このグラウド操作も専用の学習はしていません。
そこが便利なんですけど、
一方でしゃべれないっていう意味で、
昔のAIっぽいんですね。
うん、確かにね。
判断だけってそうよね。
そうそう。
なので、
しゃべれないって制約を受ける代わりに、
とにかく早い。
うん。
っていうのがジェブの特徴ですと。
うん。
価格と速度は本当に革命か
で、ここから本当にいろいろごちゃごちゃ言ってきましたけど、
ジェブは革命的なのかと。
いや、マジそうね。
そうなのかってところをぶっちゃけ話していきたいなって。
そう知りたいですよ。
思います。
もしかしたら、
昔のAIを一旦出してきて、
凄そうに見えてるだけなのか、
本当にもう最先端で新しいのか。
そうですね。
教えてください。
で、
まず、
ジェブの特徴を再整理すると、
早くて安いですと。
で、
安いっていう点に関してなんですけど、
ここは僕はかなり懐疑的でして、
よいしょ。
よいしょ。
今、AIっていうのは本当に年々安くなってるんですね。
確かに。
だいたいペースで言うと、
年で5分の1から10分の1くらいで料金が下がってると、
LMMに関しては言われてます。
ですよね。
半年ごとにどんどんAIの性能が上がってる割には、
コストはそこまで増えてないという感覚があると思います。
で、ジェブも安いんですけど、
言うてもGPTの一番小さいモデルの宝が5分の1くらいなので、
1年くらいのリードしかないんですよね。
半年から1年くらい。
って考えると、もちろん嬉しいんだけど、
革命ではないかなっていう。
いわゆる流れ通りぐらいな感じかなってことね。
今までの。
そうそう、そういう感じです。
で、速いことに関して。
ここはもちろんいい面もあるかなと思っていて、
本当にその速さって大事っていうか、
1秒が0.1秒になることでめちゃくちゃ嬉しいことってたくさんあるわけですよ。
それこそこうやって今最近よく前回やった、
昔やったGPTライブとかありましたけど、
あそこで喋ってる時にちょっと1秒黙られたら
コツとはとしてはふざけんなって思うわけですよね。
ふざけんなってなる。
なので、そういうすごいセンシティブなところ、
リアルタイム性がめちゃくちゃ求められるところでは有効かなと。
なるほどね。
で、じゃあどこで使うか。
イメージはメールを読ませるデモっていうか、
ありますよね。
これは問い合わせなのかクレームなのかと思ったのが、
1日300件400件くらいリードが来ますと。
そのリードのスコアリングってジェブでやるといいの?
みたいなのってあったんですけど、そういう使い方になる。
それがもちろんわかりやすいんですけど、
本当に必要かと僕は思ってしまうわけですと。
いわゆるわざわざジェブでやる必要があるのかってこと?
もちろんちょっと安くなりますよ。
ちょっと安くなってちょっと早くなりますけど、
今のLLMも十分早いんですね。
LLMはいろんなサイズがあるじゃないですか。
大きいものもありますし、
今我々がメインで使っているオーパスト5.5とかGPT-6とかありますけど、
それらに対してもちっちゃいモデルがあるわけなので、
その小型モデルよりもちろん早いんですよ。
もちろん2倍とか5倍とか早いんですけど、
それらもたぶん1処理1秒とかでこなしてはくるんで、
全然十分なことがほとんどだと思っています。
結果わざわざ使ったとしてもそんな変わらないだろうね。
そうなんですよね。
もちろん若干安くなるけど、若干早くなるけど、
待ってる側からしたら何か変わったの?みたいな。
どうなんですかね?どこで使うといい?これは。
そうなんですよ。
フィジカルAIへの可能性
結構気の考えを尽くしたんですけど、
あんまりないなって気づいていて、
ただこの考え方自体はすごい大事で、
今目がないんですけど、目がつけば、
いわゆるフィジカルAIとか製造業とかのところで、
工場とかに配置されるロボットとかが
高速に処理できたらめちゃくちゃ嬉しいですし、
要は結構リアル世界と紐づくようなものですね。
大抵めちゃくちゃ速度が大事なので、
ベルトコンベアに流れてくる何か製品があったとして、
それをパッとすぐに異常とか確認できないと流れていっちゃうわけですから。
確かに。
もし名とかついて、学習いらないっていうのがでかい。
例えばベルトコンベアの写真を何千枚も学習させて、
やっと使えますが普通だけども、それいらない状態ですぐ使える。
そこがやっぱり今の精々AI系のモデルの革命的なところの一つなので、
ゼロショットと呼ばれて一切学習いませんっていう。
ゼロショット。
どちらかというとブラウザとかサービスの中で使うっていうかは、
ロボットとかフィジカル系、もしくは人間がやるようなリアルタイムの動作とか、
使えると効果的、そっちの方向になりそう。
そうだと僕はすごい強く思ってますし、
正直ちょっと皆さん騒ぎすぎかなという正直な意見ですね。
言うてもだろうと、なるほど。
これニュースレターも書いてきたリサーチャーの岩切が言うコメントなんで、
なかなか信頼できますね。
これはそう言わざるを得ないですね。
持ち上げようとしてもなかなか持ち上げにくいなと正直思いました。
昨日考え尽くしたけど言うてもらったっていう。
そうなんですね。
「ハルシネーションなし」の真相と結論
ただ見せ方はちょっと話が変わりますけど、
マーケティングはすごい素晴らしい。
見せ方が上手かったなと思って。
一応この漏れはさっき言った爆速で爆やすで、
で、あとハルシネーションがないって言い方をしてたんですよね。
なんかすごそうじゃないですか。
意外とついに嘘をつかなくなったみたいな感じなんですけど、
だいぶ語弊のある言い方だと厳密には思います。
あくまでハルシネーションがないってのはかなり嘘で。
マジ?
かなり嘘。
そういうこと?
捉え方次第ってこと?
捉え方次第でも本当強引だなって思うんですけど、
要は選択肢が自分手の選択肢がA、B、Cってあったときに、
AかBかCかを選ぶモデルで、
その3つから選ぶっていうことから、
一撃することは絶対にないんですね。
必ずAかBかCを選んでくれるっていう意味で、
ハルシネーションがないみたいな、嘘をつかないみたいな言い方をしたんだと思うんですけど、
言えてみようまでもいかないかな。
でもなんか上手いな。
なんかすごいそれっぽく聞こえるなっていう。
なるほどね。
ジェブは負けだったかこれ。
勉強になります、非常に。
なるほど。
負けでしたね。
じゃあ結局今までのローカルだけ動く機械学習のモデルみたいな、
一緒のような形。
ぐらいで捉えて正直いいかなと思います。
ただこれからやっぱりこういうエッジ処理だったりリアルタイム処理っていうのは、
GPT LIVEをはじめとして一つトレンドとして来ると思うので、
そこの良い予習にはなったかなっていう。
確かになんなら三歩先ぐらいだった説があるってことね。
ここからどうなるか。
なるほど。
OKです。
なので、
結論としては、
ジェブは皆さん騒ぎすぎだと思いました。
ありがとうございます。分かりました。
そんな感じで今日はね、
終わりにしていこうかなと思います。
ありがとうございます。
よかったら皆さんチャンネル登録としていただけるとありがたいです。
今後もこういう話題になっているトピックをぶった切って、
ぶった切っていきたいなと結構シビアにいきたいなと思いますし、
色々ね、使ってみてなんぼってところはあるので、
できるだけ活用例をお見せしながら、
そうね、毎回デモとかでできるといいですね。
やっていければなというふうに思っています。
では本日はこの点で終わりにしましょう。
ありがとうございました。
ありがとうございました。
![[速報回]判定だけ返すAI TypeSafe「Jev」とは？Geminiの侵入成功、GPT Liveをゲストに生召喚(ep.106)](https://image.listen.style/img/UB0hZitO_aqh06nKevmXXezNB_JRYqC11Ht8HYl8mOY/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzkwMDU1ODk4NzQyLTQ0NjFmZGFhZDQ2Ny5qcGc.avif)
