00:00
こんにちは、AIで仕事をサボるラジオのしゅうへいです。
はい、ということでちょっと緊急解説で、今ですね、JevっていうものがめっちゃXのトレンドになってるんですよ、グローバルで。
で、これ初めて聞いたって人もいるかもしれませんけど、マジでね、大丈夫、初めて聞いた人でも9月15日に出てきたものなので、まだ1週間も経ってない。
で、これはね、アメリカのタイプセーフAIが公開した判断専用のAIモデルです。
うん、なんやそれみたいな。で、なんでびっくりしてんのみんなっていうことなんですけど、これすごいことなので、
まあちょっとこれをね、僕もちょっと入れてみて、まあいろいろ今、いろいろ導入をね、どこに導入しようかやったりとかこうやらせてるとこなんですけど、
また数日使ってね、まあいろいろレビューをしたいんですけど、まずはファーストインプレッションというか、まずそもそも僕ももう使い始めですから、みんなと多分同じような状況。
で、何がすごいんか、これどう使ったらいいんかみたいなところを今日は入門というかさ、話していきたいなと思います。
で、まずですね、これ文章を書くためのモデルじゃないんです。いいですか。
チャットGPTが出てきました。3とか3.5とか4とか、まあ僕ら3.5を最初に使い始めた世代だと思いますけど、
あれも最初になんかすごいすごいって僕らが触る前にもっと前から言われてて、
チャットGPT3ぐらいの時に、要するに本当に人間が書いてみたいな文章を出してきたっていうところで結構驚かれたんですよ。
じゃあこれニュースも書けるねみたいな。全然読めるじゃんみたいな。今では当たり前でしょ。今じゃ当たり前なんだけど、
当時機械が文章を書いても面白くないみたいな感じだった。読めないみたいな感じだったのが書けるようになったと。
それでチャットGPTすげえみたいになって、それが2020別れ2年とか3年とかで今に至るわけですけど、
これは文章を書くモデルじゃないんですよ。面白いよね。
あらかじめ決めた質問に対してどれを選ぶか、何点か、どの程度本当かという確率付きの決まった形式で返すっていうものなんですけど、
要するにめっちゃ簡単に言うと、自動販売機みたいな感じかな。ちょっと違うかもしれない。
何か入力があって100円を入れました。
そしたら確率的に、なんかわかんないけど、
例えば僕がDIY終わりにめっちゃ汗かいて自販機の前に来て、100円、150円入れました。
そしたら仮にジェブがいるとしたら、こいつが頼みそうなもの何かっていうのを判断するっていう感じです。
それはあらかじめです。
多分この人汗かいてて暑そうだったらコーラだろうなと。今9月だし、例えば気温が30度を超えてるからみたいな。
だからそういうイメージです。
いちいち何を飲まれますか?みたいなこと聞いてくるわけじゃなくて、
あらかじめ決まったルール化されたもので出力されるっていう感じです。
上から弾を入れたらカカカカカカカカカカピョンって出てくるみたいな。
網抱くじとは言わないけど、そういうふうに決まったものが出てくるってことです。
03:02
ただそれがもちろん分類できるようなものの方がいいですよね。
ただほとんどのものは分類されるからこそこれがすごいって言われていて、
本来はその時の状況とか質問とかに応じてLLM、要するにチャットGP1なりクロードなりが考えて出す。
けどそこの考えていろいろ考えて出すときに、結局モデルのその時の障害の状況だったりとか、
モデルの性能だったりとか、またナーフって言ってフェーブル5.1とかアストラ6が出てきても、
ちょっと性能が落ちやすかったりとか、あとはどんなデータを読み込ませるかによって
出力が全然変わってしまうっていうことがあったんですよね。
それって結構フロンティアモデルって最新モデルを使ってるのにも関わらず、
仕事のクオリティーが結構落ちたりとか、このGPTでも何でもいいんだけど、
入れて何か自動化させようと思ったときに何かその判断がいるもの。
その判断がブレる、ブレすぎることによって、それが結局何かビジネス入れるときのボトルネック。
人間が結局確認しないといけないよねみたいなところが、僕もそうですけど、
めっちゃボトルネックだったなというふうに思うんですよ。
多分このType-CFね、ジェブがみんな驚かれてるのは、要するにその分類さえしておけば、
ほとんど正解じゃん、合ってる合ってるみたいなことがボンボン出てくる。
それが何と要するに今のフロンティアモデル、すごい一番いい性能のものがめっちゃ高いのよね。
100万トークンあたり、例えば1500円とか2000円とかするの出力とか入力とかの、
よって違うんですけど、どれぐらいトークンの価格が違うんですけど、
そんなものよりも圧倒的にコストが安いんですよ。
びっくりするぐらい安いので、それでみんな驚いてるっていうのがまず概要でございます。
まずType-CFって何か、会社がまずサンフランシスコのスタートアップです。
総合社はディオゴさんかな、元オープンエアの研究者でだったということで。
約2年、ステルス開発、秘密で開発してて、シードチキンを調達して今回出したというもので、
JEBっていうのは最初の公開モデル。Type-CFが会社名でJEBっていうのは公開モデル。
アンソロピックっていう会社名でクロードっていうモデルがあるみたいなような感じですよね。
AIモデルかLLMかっていうところで言うと、これはAIモデルです。
ただ、一般的なLLM、大規模言語モデルではございません。
よくあるLLMっていうのは、チャットGPでクロードとかは、単語を順番に書いて文章を作るとか、つまり予測してるわけですよ。
この単語の後には確率的にはこういうものが来るなって常に生成して予測して、それを出しているってことですね。
でもJEBが何が違うかっていうと、文章を生成しないと。
渡された情報と状態を事前に定義した質問だけを見て、決まった種類の答えと確率を一度に返すと。
だから、説明文、要約、メール本文とか作れません。
JEB登録すると、今ウェイトリストっていう事前予約みたいなのをして、OKだったらどうぞみたいなメールが来て、
06:02
僕も登録したんですけど、課金なしで行けますよ。5ドルしかもクーポンもらえるからね。
やったんですけど、何があったかというと、最初にイエスかノーで答えるんですよ。
JEBは何か文章を作りますかって。なんかイエスって言いそうで、ノーなんですね。
別に間違ったからダメなわけじゃないんだろうけど、そういうクイズがあってびっくりしましたけどね。
だからまず作れません。テキスト入力のみで画像音声の直接入力ないと。
画像作れないなら音声返せないっていうことですね。
学習は顧客データでの個別微調整じゃなくて、その会社のRLCD、これ僕分かんない。
判断のための強化学習みたいなのもしてるらしいんですよ。
で、それアカウント共通の重み、ウェイトってやつですね。
いわゆるAIで言うといろんなパラメーターとかそういうのがあって、
そういったものを調整することによってAIの質量が変わるんだけども、
そういったものを全アカウント共通で使ってると。
返せる答えは3つだけ。チョイス、スコア、ノールかな。
チョイスは候補から1つ選ぶ。
で、返ってくるものは選んだ項目と各項目の確率と確信度みたいな。
スコアは決めた尺度で採点する。点数、分布とか確信度。
分析とかすごい良さそうだね。マーケットの分析。
ノール、これは正しいかどうか。
0から1の確率みたいなもので出てくるらしい。
この辺り細かいところあんまり気にしなくていいかもしれません。
複数の質問を同時に入力して同時に評価ができる。
高速に対応できる。
応答は公式発表で概ね70から500ミリ秒。めっちゃ早いってことですね。
料金は入力100万トークンあたり0.042ドルです。
出力無料です。ありえない。
AIモデルで入力がめちゃくちゃ安いのと、
入力ってのは僕らが情報を入れるってことね。
出力は向こうから返ってくる。
でも出力無料なの。なんで無料なのって言うとね、
ほとんどここにコストかかんないんだって。
だから取る必要がないぐらいっていうことらしいです。
コンテキストはリクエスト全体最大6.4万トークン。
でも多分そんなコンテキスト多くなくても大丈夫なんだろうね。
早期アクセスのAPIとして提供されて、
クラウドフレア、バーセル、ネットリファイなどのゲートウェイにも乗っているので、
クラウド上とかでも回せるみたいな感じになってるのかなと思います。
何に使うのかっていう世界の事例としては、
用途は人が読む文章を作ることじゃなくて、
ソフトウェアが次の処理を決めるということです。
だから面白いよね。
本来はAPIかましてGPTかクラウドか何か判定してたようなものを、
ここが先にできるので、
クラウドとかチャッピーとかの競合になるというよりかは、
おそらくクラウドもチャッピーもこういったものを事前に入れていって、
その上でクラウドを動かすとかフェイブルを動かすみたいなことになるんでしょうね。
だから競合するというよりかは、
ここで先に高速に判断させておくって、
09:02
地味だけどそんな効くものがあったんだって感じだよね。
世界の事例としては、問い合わせの振り分け。
これうちも入れました。
顧客のメッセージを見て、請求技術・営業どれに回すか。
だから結構問い合わせフォームで細かく選ばないといけないのあるじゃん。
よくあるのが電話するでしょ。
請求に関するお問い合わせは1を、
何とかに関するのは2を。
でも僕のやつ何番だって。
その他お問い合わせ4はまた4かみたいな。
だいたい当てずっぽで4か5をしますけどね。
だいたいそこに行くだろうみたいな感じですけど。
だからそういうことを聞かずに、
こういうお問い合わせって打つだけで、
これは返金ですね。
これは改善要望ですね。
これはクレームですね。緊急ですね。
みたいなことをルール作っておけば高速でやってくれて、
しかも安いと。
あと返金判定。チケット本文注文データ返金ポリシーを見て、
返金を求めているのか重複課金なのかというのを判定する。
あとは大量の文章チェック。この辺り良さそう。
37本の文章に対し各21問合計777件の判定を
0.7秒未満、約0.25セントで処理した公開実験があります。
執筆物の品質確認、方針の称号、
エージェントの作業点検などで使われています。
ブラウザ操作の判断が出てくる。
フライト検索、飛行機で次にどの操作を選ぶか、
中利比ロンドンの検索、7.1秒、
0.00039ドルで完了したコミュニティ事例があります。
だからブラウザはどこにどうすればいいか分かる。
あと税務書類の分類。これやばいね。
PDFの各ページの文字から多数のIRS様式と
ページ種類を分類する。
これ大量にだから今までルール化されたものとか
もうだいたいこういう風に決まってるってことで
バーッと基本出せるね。
というのがいろいろありますということですね。
あとリアルタイム制御の実験で
ゲーム、マリオカートじゃない?
スーパーマリオとかもやらせて
高速でクリアさせるみたいなことがある。
この時は飛ぶとか、ノコノコ来たら逃げる、飛ぶとか
取っとくとか、最後のとこジャンプするみたいな
そういうのは全部決まってるんでしょうね。
面白いよね。
向くこと、向かないことで言うと
向いてることは候補や尺度が先に決められてる判定
分類優先度、ルーティング、採点、引用
原文に合うか別のAIの出力を点検するといった作業です。
向かないのは長文作成、要約、対話
複雑な多段推論、計画立案です。
そこは従来のLLMの領域。
ジェブは狭い判断を早く大量に返すものとして
LLMや通常のプログラムと組み合わせて
使われますというようなものになっております。
なので今日の話だけでは分かりにくいかもしれませんが
ぜひジェブ調べたら出てきますので
ウェイトリストぜひよかったら登録して使ってみてください。
この辺りもフリコのコミュニティの中では
最速で僕も使ってどうだったかとかいろいろ出しておりますので
気になる方はフリコのコミュニティとかも
12:01
よかったら覗いてみてください。
今日も聞いただきありがとうございました。
この後も心地いい時間を過ごしてください。
バイバイ。
