GPT-OSSの概念
ナオミさん、GPT-5出たんですけれど、オープン映画、もう一つ新しい発表をしたらしいじゃないですか。
お!GPT-OSSのやつですかね。
OSS?なんすか、なんかそれ。
OSS。
あの、OS1なら知ってるんですけど。
OS1、健康になっちゃうやつだね。
あの、あれですよね。夏場でよく飲む、よく飲まないけど、何か蛍光水液だっけ?そっちはわかるんですけど。何ですか?OSSって何なんですか?
OSSっていうのは、これ結構OSSは厳密に言えばこうだっていう人たちがいるから結構その表現も難しいんだけど。
そうなんですね。
そう、あの、ライセンスを守ってくれたら誰でも自由に使えますよとか、そのソースコードとかモデルとかが公開されてますよみたいな。
はい。
それがOSSっていうオープンソースソフトウェアとか言われるんだけど。
オープンだから誰でもアクセスできるよっていう、なんかそういう感じなんですね。
そうそうそう。ただライセンスで大体いろいろ縛ってあったりするから、使えるけど商用利用しちゃダメとか。
え、そうなんですね。
ツールに組み込んじゃいけないみたいなライセンスもあるんだけど。
あくまでソースだもんね、ソースコードがオープンのだけだから。
別にそれを無料で使えるか有料で使えるかっていうのはOSSの定義としては入ってないですもんね、確かにね。
そう、だからライセンス守んなきゃいけないんだけど、今回のそのチャットGPTが公開したGPTOSSっていうのは、
アパッチライセンスって言われる、比較的自由に使っていいよっていう。
商用利用もできるんですか。
ライセンスだから、そう。
おーすごい、いいじゃないですか。
だから今回のGPTOSSは結構自由に使っていいよっていうチャットGPTのモデルが公開されました。
性能の違い
おーすごい、なんかニュース見てたらGPTOSSも2つ出たみたいじゃないですか。
GPTOSS20BとGPTOSS120Bっていうのが出てて、この2つって何か違うんですかね。
これは簡単に言うと性能がめちゃくちゃ違いますと。
あ、そうなんですね。
20Bだと普通のパソコンじゃ触れなくて、ちょっとGPUっていうすごい重たい処理やるときによく使われるものがあるんだけど、それが一定以上のやつだったら使えるよねみたいな。
120Bとかで言うと、もうなんだろうな、すごい専用のサーバーだったりとか、めちゃくちゃすごいパソコン使わなきゃ。
パソコンというかサーバーっていう感じ。
パソコンというかサーバーっていう感じが裸でわかる人めっちゃ少ないと思うからもうちょっと説明すると。
家用のパソコンとかじゃなくて、会社とかがウェブサービスとかを運用するときに使う。専用コンピューターじゃないけど。
みたいなのじゃないと結構動かないかなって言われてるんだけど、なんとAppleのパソコンだと結構いけるよっていうのがあって。
そうなんですか?Mac持ってたら動くんですか?その120Bってやつでも。
Macも100万ぐらいするMacがありまして。
ダメじゃないですか。
128GBメモリーのMac。
128GBメモリーのMac。100万円ぐらいするMacを持ってたら、このGPT OSS 120Bっていうのも動かせるわけなんですね。
動かせる。
これなんかWindowsでも同じ感じでいけると思ってたら実はいけなくて。
そうなんですか?
そのAppleはApple Siliconのなんていうんだっけな。CPU、GPU、NPUとか。
CPUっていうのが普通のパソコンを動かすやつで、GPUっていうのが秒がけ、画面表示するとか重たい処理するときに使ってる仕組みなんだけど。
その辺とかが本来は別々のメモリーっていって、CPU使うとき、普通の処理するときに使うメモリー。
メモリーってなんて言うんだろう。記憶容量とか言うんだけど。
簡単に処理を一時記録しておいたりとか。
だから人間で言うワーキングメモリーみたいな。考えてるときに何か処理するときに一時的に覚えておくとか。
そういうのに使うメモリーっていうのがあるんだけど。
CPUとGPU用に普通は分かれてるはずだ。
分かれてる。
Macはそうじゃないんですか?
Macは全部共通でいい感じに使えるよみたいなすごいことになってて。
これが革命で、このGPU用のメモリーってやっぱり大きいのって結構レアで。
そうなんですね。今説明ページ見たら80GBのメモリーがあるGPUじゃないと動かないよって書いてありますね。
NVIDIAのH100とかAMDのMI300Xとか使ってくださいみたいなこと書いてあるんですけど。
あれ100万とかするんだけど。
それを使う手段としては、Googleとかが結構GPU使えるようにしてくれたりとかレンタルできるようにしてくれたりとかたまにしてるんだけど。
そういうサービスで使うしか多分普通の人は使えない。
そうですね。今調べたんですけど、NVIDIA H100を買おうとしたら525万円でした。
思ったより高かった。
H100はそれくらいするのか。やばいんですよ。
家庭用だとやっぱりそんななくて、あっても多分30とか40とかかな。分かんないけど、なんか大体それくらいだった気がする。
だから一般家庭にはないし、しかもこのGPUのメモリ、VRAMってよく言われるんだけど、これがめちゃくちゃないといけないのってAIくらいなんだよね。
そうかそうか。GPUでそんなメモリ使うときはゲームしたい人くらいしかないんですよね。そんなGPU使いたいっていう人。
しかもゲームでもそんなVRAMっていうメモリはそんなにいらなくて。
そうなんですね。
そう。だからメモリを極端に使うのは今のところAI。だからAI専用端末とかがない限りあんまり使わないよねってなるから、自宅用のパソコンだとやっぱり全然ない。
じゃあ、Macで100万円払って動かせるっていうだけの。
めっちゃ安い。コスパめちゃくちゃいいってなる。100万円だけど。
いやいやいや、コスパいいんじゃないですよ。誰が買えるんですか?100万円のMacを。
でも、落合陽一さんはね、家にあるやつで動くよって言ってたからね。家にある人たちもたくさんいるんだろうね。
お金持ちと一緒にしないでほしいな。
だから一般的に言えば120と20かあるんだけど、基本的には一般の人が触れるのは20かな。それでもいいパソコン持ってる人。
そうなんですか。GPT OSS 20Bもそれのスペックのパソコンじゃないと結構動かなそうなんですか。
動かないときついかなって思ってます。でも逆にこれ一般の人が使うのかっていうと、普通に使うだけの人はチャットGPTのサービス使ったほうがいいよね。
絶対そうですよね、それはね。
そうなってくるから、会社だったりとかすごいニッチな、俺はローカルモデルが好きなんだみたいな人はこれ使ってくださいねとか。
だからわかりやすく言うと、個人だったら例えばチャットGPTにバンされそうな会話を作りたい人とかは、多分このローカルモデル好きだったりとか、
例えば自分が創作物作ってて、エロだったりとか暴力表現とかいろいろ幅広い表現をまず作ってもらってそこからいろいろ作りたいとか、
そう、なんかそういうちょっと過激な表現をまずは出してもらいたいなみたいな。別にそれ実現したいわけじゃないし、悪用するわけじゃないんだけどって思いながらも、
チャットGPTからしたらNGだから。
とかやりたい人とかはこれだし、あと会社として社外費の情報だから絶対にインターネットに出したくないっていう人とかは結構この辺大事なんじゃないかな。
そうですよね。インターネットに、結構法人のお客さんとのやり取りしてる会社さんの話聞いたりすると、どっかのAPI使うだけでもダメって会社さんとかもあったりして、
そういう会社さんだと完全にこの手元のパソコンだけで全て済むっていう、このGPT OSSはすごいかもしれないですね。
利用方法の提案
すごいよ多分。やっぱりなんか大抵の人は、言うてマイクロソフトのOneDriveとか使ってるじゃんとか、Googleドライブ使ってるじゃんとか、いろいろ突っ込みたいところはあるんだけど、
でもやっぱりとはいえAIって未知のものじゃん。よくわかんないから、やっぱりできるだけちょっと守りたいよねとか、よくわかんないかけるよくわかんない嫌だよね。
そうなる会社さんも結構ありますよねやっぱりね。
そう、だからそれ考えると、一旦怖いんだったらこれ使えばっていう選択肢ができたのはめちゃくちゃいいと思う。
確かに。
よくわかんない会社に情報を送るんだったら嫌だって止められてるぐらいだったら、性能落ちるけどこれ使ったほうがいいもん。
確かに確かに。でもこれどんぐらい使えるかって問題がありますよね。
そう、でもなんかさっき触ってみたけど、
触ったんですか?野口さんもしかして100万のMacを持ってるタイプの人間なんですか?
20Bのほうだね。
あ、120Bじゃないほうね。GPT OSS 120Bは動かさずにGPT OSS 20Bを試してみた。
ちなみに100万のMacは持ってるんですか?
持ってないですね。
持ってない。
いや、普段使わないからね、その性能。
じゃあ全然そうじゃないパソコン?どのレベルのパソコンなんですかそれは?
いやでも画像生成とかはできるぐらいのパソコンにしてて。
それなりにいいパソコンなんですねじゃあ。
でも逆に言うとそれくらい。
これも実際やってみたけど、今のGPT 5みたいな速さはないけど、
普通に入力したらそのままちょっと考えて、わーっと文章がすごい待たされるっていうよりは、
結構順調に、あ、家のパソコンでもこんな順調に動くんだってぐらい早めには動いてくれるし。
まあでも速さはねパソコンのスペックによりますからね。
まあまあ確かに確かに。性能としてもオープンAIが言ってるので言うと、120BのほうはそのO4のミニぐらいは動くよと。
あーそのぐらいの性能、O4ミニぐらいの性能だと。
O4ミニの性能ってやばくないですか?4Oじゃないんだ。O4のほうか。
あ、4Oか。
でもミニってついたってことは多分O4じゃないですか。
確かに。
推論ができるレベルですよね、120Bは。
推論できるって言ってて。
すごいですね、相当高いレベル。
で、20Bのほうは、O1ミニ、O3ミニぐらいの感じだよねみたいなこと言ってるから。
O3ミニも相当やばくないですか?性能的に。
そう。
だいぶ上ですよね。
実は相当すごいんだよね。
相当推論とか、つまり計算とかもある程度できちゃうっていうのが20Bっていう話ですけど。
でも言うのはさ、みんな言うじゃないですか、いいように。
いいように言う。
こんだけのスペック出ますみたいなことさ、どの会社も言うじゃないですか。
どうですか、実際触ってみて。
でも触ってみて、やっぱり最近4Oとかのいろんなのに慣れてたりとか、GPT-5とかに慣れてるからあれだけど、
結構ちゃんと出してくれるよねっていう肌感はある。
ただやっぱり普段使ってるGPT-5とかよりも、もしかしたら弱いのかなみたいなところはあるから。
でもしかしたらぐらいなんだ、逆に言うとまだ。ちょっと触ってみた感じだと。
あとそれで言うと、速度はやっぱり自分のパソコンだから、本当にややこしいことさせようとすると結構遅い。
だから、なんて言うんだろうな。
思ったよりも普通に最高性能じゃないけど、ベターな性能としてはこれ使えるじゃんっていうレベルにはなってる。
ローカルで、つまり自分のパソコン内で動かせるやつってGPT OSS 120B以外にもRAMAとかいろいろあるじゃないですか。
それと比べるとどうですか。
めちゃくちゃいい。
そうなんだ。
めっちゃいい。
GPT-OSSの特徴
他のやつもいろいろ触ったんよ。リンナとかも出してるし、サイバーエージェントも出してるし。
リンナも出してるんですね、そういうローカルで動かす用のモデルって。
それこそRAMAとかもあるし、いろいろあるんだけど、どれ触っても、本当だ、日本語喋れるねーのレベルなんよ。
なんかちょっと応答できるねーみたいな。
そのぐらいのレベルだと。
チャットGPTと同じテンションで使うにはちょっと厳しいよねっていうのがめっちゃ多くて。
なんか姿勢は感じられないぐらいなんですね、あんまり。
姿勢は感じる。頑張って考えてる。
けど、なんていうんだろうね。
頑張ってるねえらいねーって中学生とかがすげー頑張ってるねーみたいな。
すごいと思うよーみたいな。
どうしてそう感じるんですか、それは。
やっぱり拙い時のAIっぽい。
今のチャットGPTってちょっと優秀になりすぎて、ちょっと言われたら、あ、それ正しいかもってなっちゃったりとか。
あ、なるほどね、こういうことねって逆に納得させられるぐらいの言語力を持ってるんだけど、やっぱり前の段階だから、
こういうことを考えて喋ってくれたんだ、じゃあ。
ちょっと待って、これ表現難しいね。
日本語喋ってるけど、それがすごい、あ、ちゃんと喋って、ちゃんと使えるすごいで止まってたんだよね、やっぱり。
で、ちゃんと実用としてちゃんと、なんていうんだろう。
普通に会話して、チャットGPTと同じ感じで触りたいなって思えるレベルはやっぱり、このOS版のGPTのレベルなんだけど、多分難しいな。
なんで俺はそう思うんだろう。
まあ、なんだろうね、例えばそのチャットGPTだと、何かを聞いて教えてくれるなっていう感覚とかあるじゃないですか。
そういうのは過去のやつだと感じにくかったとか、そういう差なんですかね。
でも、それはめちゃくちゃある気がする。なんか知識っていうか、その辺で言うとやっぱりすごく弱くて。
で、もともとLLMって知識を持たせる系のAIっていうよりは、何かを考えるための前提としての知識。
だから、試行するために必要な前提情報としての知識を持たせればいいよねみたいなところが本来はあるから。
それで言うとやっぱり考える力の方に寄せてたから、やっぱりチャットGPTみたいに知ってる情報を答えてもらうみたいな。
とかはすごくやりにくかったし、情報を与えてあげてもやっぱりその、なんだろうな、結構プロンプト気にしてあげないとやっぱり全然性能出ないよねって感じがしたんだけど。
今回のOSSのやつはプロンプト気にせずにふわっと話しかけても、ふわっとちゃんと返してくれるから。
どういう表現したらいいんだろうね。この感じが結構すごい。
やっぱり今までの自分のPCで動かせるようなモデルは、チャットGPTと比べたら結構大きな差だったというところだったんだけど。
今回出たGPT、OSS、20B、120B、今回20Bを触ってみたところ、結構チャットGPTに近い感覚で触れてるなっていうのはすごい大きな差なんですね。
そうだね。やっぱり感覚的に違和感がないっていうのって結構すごいことだと思ってて。
このレベルになってるのはマジで他にはなかなかなかったんじゃないかな。
すごい進化ですね。
だからすごいよね。チャットGPTというかオープンAIも独占してればいいのに、これを自由に使っていいよって公開しちゃったわけだから。
ロボットへの応用
そうですよね。いいのかなこんなことしちゃって。
やばいよね。
ねえ、強豪強くなっちゃうよねこんなの与えたら。
強くなっちゃうよ。だってこれ自由に使っていいから、これをベースに自分のモデルを学習させてもいいわけだし。
そうですよね。
そう。しかもこれ自分のツールに組み込んでサービス作ったらチャットGPTのAPI使わなくなるよ。
そうですよね。チャットGPTのAPIにお金払ってた人が、じゃあこれからはこのパソコン内で動かせばいいからってなっちゃったら。
だいぶチャットGPTの収入も減りそうですけどもね。
だからこれ本当にオープンAI自信あるんじゃないかなと思って。
やっぱGPT-5に自信があるんですかね。
GPT-5もそうだけども、今後このモデルを公開したところで、このモデルをどう使うかが大事だよねと。
そういうことですか。
どう使うかに関してとか、どう組み合わせるかに関して、チャットGPTは負けないよというか、
モデルがいいだけだと別にもう勝てない時代だよみたいな、モデルがいいのは当たり前だよねみたいな世界を見据えてるよみたいなのをオープンAIは言いたいんじゃないかってぐらい、
多分モデルを公開したところでいたてじゃないっていう世界が描けてるんじゃないかな。
へぇー。
本当どうなっていくんだろうね。たぶんこの新しく出たOSS版のGPT、GPT-OSSは使ったら結構いろんなサービスも作れそうだから、新しいサービスポンポン出てきそうですよね。
そう、さっきも言ったけど規制が入らないのもめちゃくちゃ強くて、
チャットGPT側にバンされないとかで結構表現の幅も広がるから、使われる画質も結構増えてて。
そういうのもあるんだけど、やっぱこれってさ、ロボットとかにも使えるなって思って。
おぉ、いいね。実際チャットGPTで一時期ドローン動かそうとかいうのとかも結構動いてて、
あれ一応API接続で動いてたんだけど、それたぶんね、中に入れることができるから。
そう、インターネットに繋ぐ必要がなくなったロボットって結構いろいろできるじゃないですか。
家電とかにも入ってほしいよね。
そうなってきますよね。
うん。
もちろんまだまだね、動かすためにスペックが必要だから、もういろんなマシンに入ってくるっていうこともないだろうけれど、
例えば、何だろうね、犬のロボットとかあったじゃん。何だっけ、アイボか。
アイボとかね。
そうそうそう。そういうのに、アイボは日本語喋れないからあれだけどさ。
ペッパー君みたいなのももっとレベルアップするかもしれないけどね。
あぁそう、ペッパー君とかのレベルアップがすごい期待できるなって思うと。
なんかいろんなベンチャー企業が作っているロボットのレベルが今回一気に上がるんじゃないかなっていうところ、すごく楽しみだなって自分は思いました。
いやめっちゃ楽しみだよね。なんかできることほんと広がると思うからね。
そうですね。
いやでも今後これで何やっていくんだろうね。でもなんか自分のサービスにAI組み込むだったらまだChatGPのAPIの方が初期費用低いから、
一般的なライトなサービス使う人はAPIだけど、がっつりこれで事業を作っていこうとか思ってた人はChatGPのAPIに左右されずに使える。
そうですね。料金を気にしないでよくなりますもんね。限界が決まるから。
しかもさっきも言ったんだけど、ちょっとなんか変化したなとか、ちょっと違うかもみたいな違和感とかってモデルごととかにも結構あったりとかするんだけど、
だからプロンプトも同じプロンプトより動き続けるかっていうと、実はバージョンアップした時に上手く動かなくなるプロンプトとかも沢山あるんだよね。
そのバージョンアップの心配もなくなったんですねこれで。
そう。だからこれ使ってこれでやり続けてる限り、いきなり公開停止になることもないから、これで動くこと担保してればずっと動くんだよね。
そうですね。そっかそっか。なんか思った返答と違う返答が返ってくる可能性が減るんですね。バージョンアップが勝手にされないから。
これをハードウェアに組み込んでいろいろガチガチにやるんだとしたら、こういうローカルなモデルのほうがいいよねってなってくるから、なんかやっぱり使い方というかリスクが一気に減ったよね。
うんうんうんうんうん。
なんでもできる。
いや面白いですね。これいいもの出しましたね。ちょっとこれがどうペンチャー企業とか社会を変えていくのか気になりますね。
これがあればね、何でもモデルゼロから作らなくていいから、ここから進めることができるから、一気に盛り上がってもおかしくないからね。
将来の展望
ですね。というわけで今日はGPT-OSSの話をのんびさんとしていきました。
新しい技術と文化を楽しむ未来のジョーでは、今後も最近の面白いテクノロジーの話を、私横井とのんびさんでしていきます。
ポッドキャストのフォローもよろしくお願いします。次回もお楽しみください。では、バイバイ。
バイバイ。
