どういうやつそれ。
日本オワコンですみたいな。
はいはいもうAIはもう界隈です。日本はもう終わりですみたいなことを。
確かに。
言う人いるでしょ。
確かにそういうのに当てられすぎて俺終わってるんだと思ってた。
そういうのに当てられすぎちゃってるでしょ。
今日はそこ落ち着く回なんでね。
そこ落ち着けるんだ。
そこを落ち着いてもらおう。日本の勝ち続きってこういうことなんだねっていうのを。
ちょっと知っていきましょうという回です。
最近はやっぱね注目の集まるトピックばっか扱っててもしょうがない。
海外の。
我々のことを知りましょうと。
我が国を。
我が国を知ろうと。
語れるなぁ。ちょっとツイートで我が国のAIはどう?
我が国のちょっとね思想強めだからそのワードは聞けんかもしれんけど。
我が国の。
いいね。日本好きなんで。
愛国心あふれちゃうと違う意味合いに取られちゃうからあれだけど。
とにかく今日は日本のお話でございますよ。
ちょっと全く知らないんでね。楽しみですよ。
最初に今日の結論を言っちゃうけど。
バチバチに進んでますよっていう話。
そうなの?落ち着かないよ逆にそんなこと言われたら。
これはね技術の話だけじゃないのよ。
崩壊性も含めてもうすごい勢いでガンガンやってこうぜっていう感じになってると。
えー我が国が。
我が国が。
我が国がなっております。
マジ?
だから追った方がいいよねって話ね。
だから結局こういうことになりましたよっていうことは言えなくて。
常に今から変化をしていったりとか新しいこういう取り組みが行われていきますよねっていう段階にあると。
だからこういうことが行われてるからこれ知っておいた方がいいよねとかこれ見ておいた方がいいよねっていうのを今日皆さんにお渡しするっていう。
ちょっと助かるねそれは。
そうそれ助かるでしょ。
でも本当にね直近いろいろあるのよ。
本当に近いというか最近のトピックで言うと
11月末ぐらいにさチーム未来の
庵野隆弘さん党首の参議院のね総務委員会みたいなやつがYouTubeで配信されてるのね。
その政治家がこう話すみたいなやつ。
でそこでもうすでにその国産LLMの話が出てました。
そうなんだ。
庵野さんが国産LLMの開発に向けて開発を促進するために良質な日本語データセット必要だよねと。
現状やっぱねテキストだけじゃ足りなくて今いろんな動画とかさ音楽とか含めていろんなものがデータとして扱えるようになってますと。
マルチモーダル化してますと。
なんでその日本語の良質なデータセットとしてNHKのいろんな過去の放送とかアーカイブあるじゃん。
ああいうものをデータセットとして使えないかみたいな提案がちょうどね11月末にされてて。
これに関してまあいろいろとプライバシーとかその権利関係もあるけどそういうものを除去すれば使えるんじゃないのかみたいな議論がされてるのがYouTubeに上がってたよね。
それぐらいリアルタイムに今現在進行形で進んでるっていうのがこの国産LLMの流れなのよ。
なるほど庵野さん頑張ってるんだね。
そうだから本当にさチーム未来いろいろさ政治のなんだろ見えるかみたいなやつしてるじゃん。
やってるねなんか変わってる感出てるよねなんかね。
いやあれすごいよね。
一議席でこうも変わるのかみたいなねなんかね。
いやあのね期待感が半端じゃないよね俺別に政治さ全然興味なかったんだけどああいうのあるとあそういうことやってんだねってのは分かるよね。
そうだね一票の重さをちょっと感じたよ今回。
感じたよ本当にだからあのそうチーム未来がやってるねあのその政治のさ見えるかもそうだしそもそもチーム未来のYouTubeみたいなのがあってさそこでこういろいろAIの開発とかAIを国にどう取り入れていきましょうみたいな提案とかも話してるからそういうの追っていくとかなりリアルタイムで今が終えます。
なるほど。
これね見とくべきポイントの一つですね。
チーム未来を追っとけばいいですか?
これはね追っとかなきゃいけないと思う落ち着くためにも。
はいなんか色がね僕らの色と一緒の色ですねなんか。
僕らの色?
緑。緑の。
あそう緑のねそうそうそうそう。
なんか関係あんのかなとか思っちゃうねこれね。
いやなんかね投員になりたいよねあのなんかサブスクリプションで投員になれるって知ってる。
あそうなんだ。
チーム未来。
投員という名のなんかそういう感じ緩い感じでやってるのかな。
あそうなんかねこう色々情報共有できたりとかなんかこう参加できたりみたいなやつがあってゴールなんか色なんか1500円プランとか何円プランみたいなのあって。
そうなんだ。
なんかもう全然使わないサブスクのツール使うぐらいだったらもうこれ入っといた方がいいなってすげえ思ったわ。
なんかいいことあんの投員になると。情報?
なんか色々あったよ全部見れてないけど。
コミュニティーがあんのかなまた。
そうコミュニティーみたいなやつがあったりとか。
スクリプション得意の。
うんなんかそういうのがあるみたい。
情報共有できたりとか非常になんかちょっと僕チェックしていこうかなと思ってる。
落ち着くためにはチーム未来ちょっとフォローしないとって感じだ。
そうこれね追っといた方がいいと思います。
わかりました。
っていうのがあってね結構やっぱ法律関係っていうのが重要になってくると。
なんか新しいなほんとアプローチの仕方がノート使ったりさ。
いやそうでしょいやすごいと思うよこれ。
スマホに適応したこのなんかね政治を見える化するこのサイトとかさ。
なんか若者向けな感じね。
いやだよねいやこれはね本当に新しいなと。
いいね。
でもちょっと政治熱いよねそうね主張も変わって。
エンジニアだっけ?
AIエンジニアだよね。
エンジニアが。
エンジニアでソフトエアエンジニアでFS作家でみたいなすごい働きいっぱい持ってる。
じゃあAIエンジニアの支部長もなんか政治家になるかもしれんね。
恥ずかしい恥ずかしい同じ状況に挙げないで。
恥ずかしい。
そんな同じ状況に挙げないでくださいちょっと。
参議院議員の支部長です。
いやいやいや。
いやだ。
支部長偉くなっちゃったねとか言いながら語る日が来るかもしんないよ。
ってなっちゃうね数年後にもしかしたらそうなってるかもしれんねなんかね。
今回こんな提案をしてきましたよ。
喋りはねそれなりに上手い自負はあるけど。
上手いよね。
なんかちょっとチーム未来見を感じるよ。
支部長色もカラーもなんかさ。
カラー確かに。
いやいや。
そうそうそんな感じで。
この番組がそういうたてつけになってくって面白いかもしんないな。
いいじゃんね最近もう政治家もね小泉慎二郎さんポッドキャストやってるぐらいだから。
やってるよね。
逆にポッドキャストでなんかちょっとこう有名になってそっから政治家行くみたいな。
めちゃくちゃすごいなそれは。
そういうのもねポッドキャストがねどんどん盛り上がった機会はあるかもしれないね。
あるね。
やっぱりじゃあちょっとなんか未来をこう変えますみたいな話を毎回ちょこちょこしていかないとね。
嫌だな。こいつなんかちょっと政治意識しだしたよみたいなね。
将来なんか政治家になった時にさあげ足取られないために。
もうエロいこと喋れないじゃん俺は。
そうだね。
エロがなんかそのなんかね人間の価値だとか言ってるのに。
ダメだねもうでも大丈夫ポッドキャストあんまりこう切り抜きとかされないらしいから。
確かに。
引っ張ってこられるでしょ。
YouTubeだと切り抜かれる。
面白い面白い。
ということでまあとにかくその法律とか法令とかが結構関わってくるのよ。
で一個抑えるべき法令っていうのがあってさ。
これがねAI推進法。
推進法というものなんだよね。
こういう法律がですね2025年の5月28日に国会で可決されてます。
6月4日にですね交付されてまして。
日本初のですねAIに特化した包括的な法令だと。
今年出てるよね。
これってさ結構大事じゃない。
ちゃんと中身あるんだそれ。
ある。中身のある法令。中身のない法令なんてないと思いますけど。
言ってるだけでやる気ないやつとかあるじゃんいっぱい。
いやいやもうちゃんとやってかなきゃいかんよねっていうのが。
ここでねちゃんとAIの性能に驚くのもいいんだけどさ。
なるほどなるほど。
うちのこれ我が家のことじゃん。我が国のことでしょ。
ちょっと我が国という。
チャットGPTはもう隣の島の話だね。
そうだね。
どんなにモデルが良くなっても。
これは我が家の話だから。
なんか大変そうだけど。
ゼロからっていうかある程度モデルはある状態そのオープンソースのモデルとかはあるんだけど。
それをうまくチューニングして日本語に特化したものをとにかく制度をよく作らなきゃいけないよね。
っていうのはやっぱさなんとなくだけどやっぱ国産のLLMがないと日本独自のものって理解できなかったりする。
日本語をさうまく喋ってはくれるよ。
ちゃんとGPTとかでも。
だけど日本のドメイン知識持ってないよね。
ドメイン知識。何それ。
だからその日本のお役所のさ話とかその文化的な話とかさ。
意外とこのローカルのやつって入ってないし。
お役所仕事みたいな。
そうお役所のフローとか全然入ってないじゃん。
とにかくその日本のローカルの文化とかも学びきれてないよね。
いうのがある。
だからそういう日本語に特化した日本に特化したLLMを作ってそれを産業特化で使うと。
リッチな戦略ですかね。
そうリッチな戦略。
でやっぱその大きいもので汎用的にめちゃくちゃ何でも使えるよねってものじゃなくて、
細かく細かく特化したものを作って、
もう的確にそこにちゃんと使っていくみたいな。
こういうものは日本の中でも勝ち筋あるんじゃないのかっていうので、
そこで勝負しようって方向に日本はなっております。
なるほどね。そういうでっかい大きいとかやんないところってことだね。
そう。
はいはいはい。
かなりさドラゴンボールわかる?
わかるよ。線路。
線路。ドラゴンボール前回読んだ。
読んでないよ。
読んでないのか。
線路ぐらいはわかる。マジンブーとか。
じゃあちょっとドラゴンボールに例えようかと思ったんだけど、それはちょっとやめとくわ。
いやちょっと例えてみて。サッカーよりいいかもしんない。
例えるとね、あのね、ジャットGPTとかさ、ジェミーとかはさ、トランクスなんですよ。
トランクスはい。
ベジータの息子ね。
トランクスとセルが戦うときに、トランクスが俺は父さんを超えてしまったって言って、むきむきになるのね。
すごいパワーを手に入れるわけ。
すごいね。
むきむき。ですごいねパワーで攻撃をするんだけど、セルに当たんないんだよ。
それなんでかって言ったら、パワーをつけすぎて動きが遅くなってる。
なるほど。
で、ベジータはそれに気がついて、そのパワーをつけても動きが遅くなるからって気がついて、あえてその形態になってなかった。
なるほど。
なんだけど、トランクスはそれに気づかずに、これがお父さんを超えてしまった力なんだって言って、むきむきになって戦おうとする。
はいはい。
ベジータはそれを知ってその形態になってなかった、みたいなところがあるんだね。
なるほどね。
トランクスバカだなって思いながら見るんだけど、それと一緒よ。
なるほど。
チャットGPTはもうトランクス、あの時のトランクス。
バカじゃん。
そう、もうむきむき、もうモデルを大きくすることしか考えてない。もうとにかく大きくなろうって、身動きが取れないもん。
それは日本というベジータがこう、ダメだ!それじゃ勝てんぞ!みたいな感じでね、こうスマートにシュッとしてる。
おーすげーなんか自己肯定感、めっちゃ上がるじゃん、自己肯定感。
ベジータに例えちゃうと、ベジータも結構負けるからあれなんだけど、シュッとしてるってことが結構ね、今後勝ち筋になるんじゃない?みたいな。
へー。
今ドラゴンボールに例えたんだけど、意外とものづくりの分野とか、フィジカルなものってそうなのよ。
そのさ、なんか便利ツールみたいなものって、何でもできますよって便利ツールいっぱいあるんだけど、その便利ツールってさ、結構でかかったりとか、
なるほど。なんか賢い気がします。よくやりました。
あ、賢く。あとね、もうちょっといいニュースもあってさ、これはちょっと俺がセミナーで聞きかじった話なんだけど、
意外とそのGPUとかのリソースって、後の線、後出しで勝てるんじゃないかみたいなやつがあって。
えー。
今さ、結局、いくつだったかな、ちょっとね、データを持ってきたんだけど、全然日本ってGPU持ってないのね。
例えば海外のさ、AWSとか、Amazonとかね。
Amazon。
Googleとかさ、マイクロソフトってどのくらいのGPUを保有してるかって言ったら、数万機GPU持ってんの。
あ、そのデータセンターとかで。
データセンターとかで。
数万機あるな。
数万機あるの。日本でGPUまとまってどのくらいあるかって言ったら、例えばその山荘県だと960機あるのね。
960機。うんうん。
とか、東高台とかだと960機くらいある。
なんか少ないね。
少ないでしょ、1000機くらいしかない。
1機ってどれくらいよ。
1機は1個だよ、GPU。
GPUうちにも1個あるじゃん。
H100っていうGPU。
あ、なんかすごいやつか。
とか、A100っていうGPUがすごいやつが1個あったら1機。
あーなるほど。
それが960個バーってあったと。
でもそのAmazonとか、これも国の山荘県とか、そういう研究機関がそのくらい、1000個くらいしかないよと。
でもAmazonとかね、そのGoogleとかもう数万とかバーって持ってますよと。
っていう状態なのね。だから全然そのさ、設備として差があるらしい。
ただ、そんなとこに勝てないんじゃないかって思うんだけど。
そうね。
GPUが爆発的に成長してるっていうのがあって。
あのね、もう10年前のGPUとか、10年前じゃない、もう5年前のGPUとか、もう全然しょぼいのよ。
なんかもう性能が5年前のやつって今からすると、どのくらいだろうな。もう10分の1とか20分の1ぐらい。
あ、そんな変わる。
うん。でも価格がめちゃくちゃ下がってんの。
性能が、だから5年前と比べたら今のって性能が10倍とか20倍で、価格が10分の1とか20分の1ぐらい。
えーそうなんだ。
っていう爆発的な進化をしてるね、GPUって。
なんか家庭用のやつじゃなくて、なんかそういうガチやべえやつの話?
あ、そうそうそう。そのぐらいのハイエンドのやつが差があるから。これ何か、じゃあ何が起こるかっていうと、
今海外で導入されてるのって、数年前のGPUじゃん。
うん。確かに。
でしょ。で、それをいっぱい持っちゃってるよね。
はいはいはいはい。なんかそれ。
だからそう、めっちゃ性能が上がってめっちゃ安くなったやつを日本がいっぱい買えば、別にその後からそれをダって入れたら。
ドーンていけんだ。
意外と追いつけちゃったりするみたいな。
あー。
そういう後の線、全然あり得るっていうことらしい、実は。
そうですか。
なんか現時点で設備ができてないっていうのは、意外と、もうほんと絶望的な差ではないことになる可能性があるっていう話を聞いて、セミナーで。
負け惜しみも、まだ正当性ありそうな負け惜しみだなって感じなんだね。
そう。だから入れれば。
そうですか。
まあ当然ですと安くなったやつを向こうも入れるだろうが、ただやっぱすでにあるリソースを捨てるわけにはいかないから。
そこらへんとの兼ね合いあるよねっていうので、意外とこの線取れるかもしれない。
この線をどこで取りに行くかだね。
そうそうそう。
ここだって。
とにかくもうデータセンターとかで勝てないねっていう話ではなくて、全然GPUの進化に寄り切りで、意外と低コストである程度いける可能性もあるという。
なるほど。
そういう意外と絶望的な状況ではないんだよっていうのが一個ありますよと。
なるほどね。どんどん差が開いていってると思いきや。
思いきやリソース面ではやっぱGPUの技術の進化が差を埋めていってるっていう側面がある。安く早くなってるからね。
それになんかGPUいらなくてもいいじゃんみたいなディープシークみたいなのが出てきたら余計に?
余計に。
まあどっちかっつったら日本の戦略ってそのディープシークよりコンパクトに作りましょうというところなんで。
で今実際にデジタル庁でそのガバメントAI、げんないってやつがいて。
げんない。
政府でAIを使いましょうって言って、げんないっていうシステムの中で翻訳とかいろいろAIをローカルの日本語LLM、国産LLMを使って利用していきましょうっていうプロジェクトがあると。
でねこのプロジェクトも面白くて、今ねそのコンペティションみたいなのやってる。
コンペティション。
日本の国内のガバメントAIとして使う国産大規模言語モデルを公募してるの。
いろんなさ企業とかがさ国産LLM開発してるんだけど、国で作るやつを競って決めましょうみたいな。
公募制なんだ。
そう公募制が始まっております。
これ今月から始まってるね。
12月から。
ガバメントAIで使用する国産大規模言語モデルの公募って言って。ちょっとリンクはチャプターに貼っとくんだけど。
これができ始めたら、まずはデジタル庁の中で使われて、どんどんどんどんこのガバメント、政府の中でAI活用、このモデルをベースに構築していこうみたいな。
なるほどね。
そういう計画がある。
これは応募するのがみんな中国系ばっかりだったときは大丈夫なんでしょうかね。
いやいや、ちゃんと国産があれだから、条件だから。
日本国内で作ってます系、中国系みたいな。
いやいやいや、原料だけここで詰めましたみたいな、そういうことはできないんで。
できないの?
できないできない。
ほんと?
国産と偽るためにね、海外から持ってきたものを日本で詰め合わせたみたいな、そんなことはできない。
公募したものの中国系のやつが性能良くて、日本のやつゴミばっかだったときはどうするんだ?
そんなことはないでしょ。
みたいな悲観的なことばっかり考えてしまいます。
ちゃんとそこもちゃんとチェックする。やっぱり持続的な開発っていうのも見ると思う。単純な性能だけじゃなくて。
性能も当然あるけど、その後その人たちと開発するとか、やっぱ国産で国の中で完結してるっていうストーリーが重要だから。
こんな事業者いっぱいあるの?LLMを作れるような。
事業者いっぱいあるし、そこもいいパスだね。次の話に繋がるパスですから。
あんの?ってそもそも。
ちゃんと国が支援してます。
そこなんだ。
これはプロジェクトがあってね、経営参照がやってるジェニアックというプロジェクトがあるんですね。
ジェニアック。
これは何の略かっていうと、Generative AI Accelerator Challengeっていうね。
わけ分からんけど。
そのままでしょ。生成AIを加速させる人たちのチャレンジを応援しようみたいな。
日本語で書いて欲しいね。
そうね。AIの名前、げんないとかだったからね。
ホームページかっこいいなんか。なんだこれ。
ジェニアック?
ジェニアック。
ジェニアックですごいかっこいいです。加速させましょうみたいな。
ちょっと未来感感じさせるな。
これはね、何をやってるかっていうと、公募してくれたプロジェクトに対して計算資源を提供したりとか、データの実証の場所を上げたりとか、マッチングさせてあげたりとか。
とにかく応援をしてくれるような、そういうプロジェクト。
僕らも応募したほうがいいんじゃないの?
何を開発するの?国際LLMを。
落ち着きAILLMみたいな。
落ち着きAILLM。会社を立ち上げないと。カネリンポッドキャストスタジオでやる。
カネリンAIスタジオ。
カネリンAIスタジオでやりますか。
ガチの人たちをここに応募してるのは、研究者の人たちだからね。
ガチモンか。
ガチモンでございます。
いかんな。冷やかしでいったらやられるな。
今ね、このジェニアックチャレンジっていう。ジェニアックチャレンジじゃないや。
ジェニアックプライズっていうね。
チャレンジがちょうど始まっていて。
懸賞金がね、合計8億円で出ます。
8億円?
8億円出ます。合計。
めっちゃ出るね。
で、その官民安全性とかあって、4つのテーマで競ってて。
いろんなテーマがあってですね。
年末ジャンボより高いぞ。
一括8億円じゃない。いろんなテーマがあって。
人生逆転みたいな人が集まってんの?
AIで一発逆転みたいな。
じゃなくて、それぞれみんなこういう研究した方がいいよねっていう人たちが研究費取るために頑張って競い合うみたいなチャレンジがやっていて。
このチャレンジの結果が来年3月に出るみたいなんで。
このジェニアックってのもチェックしといた方がいいね。
チェックしといた方がいい項目が多いけど、多分チェックしないです。
チェックしてください。
落ち着きAIでフォローアップしましょう。
フォローアップしましょうと。これはもちろん結果発表されたら取り上げますんで。こういう機会がありましたよと。
じゃあジェニアックチェックしないよねと、カネンが言うなと思ったんで。
しないでしょ。
いやいや見ておいた方がいいよ。
そうだねって。
チェックしないねって言うと思ったので。
はいはい。
じゃあジェニアックでどういうプロジェクトが支援されてるかっていうのをまとめてきましたんで、それ今から話していきますねという。
先取りしてますね。
見てくださいね。じゃあね。あまり見ないから。
絶対見ないよ。
絶対見ないことなんですよ。
かっこいいね。
ホームページにあるのよ。
基本的にはジェニアックっていうのはさ、恒例で支援してほしいですよって言って採択されたら1年間ぐらい、採択された支援を受けながら開発ができるっていう感じなんだけど。
今ね、第2次採択までいってんのかな。第2次は2025年の話だからまだ進んでる段階。
今から紹介するのは第1次採択って言って2024年から始まって一応1回結果出たよみたいな。そういうものの紹介をちょっとしていきます。
これもホームページから見れます。
一応ね、もう全部公開されていて、こういうコンセプトで開発しましたよと。こういう企業ですよ、こういう結果出ましたよっていうのがYouTubeの動画で全部上がってます。15分ぐらいのプレゼンテーションで。
何社あったかな。8社か9社ぐらいあったと思うんだけど。基本的にはベンチャー企業が多いね。
っていうので、3社ぐらい有名なところをちょっと紹介していきますけど。
まずですね、これ第1次採択ですね。去年の話だねこれ。去年こういうの作りましたよ。2024年の2月から8月ぐらいまでかけてやりましたよって内容なんだけど。
こういう内容、この会社はいろいろなところでも出てくるから覚えておいた方がいいよっていう名前なんだけど。まず1社目ね。
Eliza?
そう、株式会社Eliza。
これ一番頭に出てきてた。これ前もElizaとか出てこなかった?
Elizaはね、まだ放送はされていないけど、第1次AIブームの話をした時に出てきました。
そのうち放送されるご勉強会ですね。
そのうち放送されるであろうAIの歴史会っていうのがあるんだけど、中でElizaっていうのが出てきたね。
Elizaは馴染みがあるな。
Elizaエフェクトとか、世界初のチャットボットとして名前が挙がった。Elizaになぞらえて作られた名前だと思うけど。
ここはね、かの有名な東大の松尾研究室からのスピンアウトしたベンチャー企業やね。
そう、本当にガチの研究者。
で、この人たちは日本語の国際LLMを性能向上させようと思って取り組みましたよっていう感じなんだけど。
そのモデル自体はラマっていうね、すでにオープンソースとして公開されているモデルを使って。
ラマってフェイスブック系じゃないの?
そう、メタが作ってるやつ。おそらくかなり知ってるんやね。
なんか聞いたことあったぞと思って。
そう、ラマっていうものをベースとして使いながら、そこに日本語をガツガツ学ばせて日本語の性能を上げましたよっていう。
そういう取り組みをやってると。
オープンソースなんだね、ラマは。
オープンソース。
オープンソースなんだ。
特徴的なのは、デプスアップスケーリングっていうですね、既存のラマのモデルを後付けででっかくするっていう拡張を行ったってことやね。
で、ちょっとパラメーター数をそれで独自に増やして、それで自己学習と事前学習をして、モデルの性能を向上させたと。
インフラとして使われるような日本語のLLMを作ってですね、非常に高性能なものを作りましたよっていうのが、このジニアックの中でやったことやね。
これ何、その学習させるのが結構難しいの?
やっぱ日本語をどうやって学習させるかっていうのが結構難しいっていうのもあるし。
なるほどね。
やっぱモデルを、既存のモデルを拡張させるっていうのも結構技術的には難しい。
そうなんだ。なんかもう既にあるやつにデータバーンってぶっこんだだけかよって思っちゃいそうだけど。
既にあるやつを拡張したっていうのが結構新しいところね。既にあるやつだけにぶっ込んで学習させましただけだったら結構誰でもできるじゃん。
できそう。
じゃなくて基盤モデル、ベースのモデルを独自に拡張したよっていうのが技術的なポイントの1個と。
ただ学習とは別なんだそれは。拡張。
脳みそをもう1個つけたみたいな。このぐらいの脳みそだったのをもう1のをつけようかなみたいな感じでパラメーター増やしたよね。
パラメーターを増やす。
パラメーターを増やした。それを学習させて上手いことタスク、日本独自のタスクっていうのをクリアさせたよみたいな。
っていうのが去年開発されたこのElizaというもんね。
なるほど。
こういう日本のローカルAMの開発をサポートしてるのがこのJENIACっていうプロジェクト。
そういうのが確立されると、サクサクいろんなものが作れそうになりそうだね。特化。
よりコンパクトにスピーディーに専用モデルを開発するっていうことを取り組んだ。これを採択されてやったっていうのが去年の話だね。っていうのがありますと。
なるほどね。
最後ちょっとこれも非常に有名な会社なんで覚えておいた方がいいんだけど、魚AI。
はい知ってるよそれは。
知ってる魚AI。
用テレビ出とるからねこれ。
魚AIはもうめちゃくちゃ有名だね。
有名だよね。
めちゃくちゃ有名。
分かりやすいし魚とか言って。
でも何がすごいのかよく分かんないって。
ここはね、まずそのCTOがすごいのよ。
そうなんだ。
あのさ、トランスフォーマーって話をさちょくちょく出すじゃん。
トランスフォーマー。
2017年に出たそのAIをガラッと変えたようなですね、非常に素晴らしいアーキテクチャなんだけど、
そのJATGPTのTだよね。
Generative Pre-trained Transformerっていうね。
そのトランスフォーマーっていうモデルを使ってるのがやっぱすごくて、
トランスフォーマーがやっぱ今までのそのAIの常識を変えたすごいモデルなんだけど、
そのトランスフォーマーの発明者の一人、ライン・ジョーンズっていう人がCTOをやってるのがこの魚AI。
海外の方なのね。
そうなんだけど日本の会社のCTOをやってるの。
へえ。
だからすごく期待されてるし。
よく分からないけど、なんかスイミーみたいな感じだよね。
そう、スイミーみたいな感じ。スイミーで一個さなんかぴょって横にこう反れてるような。
そうね。
これは一応意味があって、さっき言ったようにさ、結局みんな大規模。
もうとにかくね、学習、多く学習させて、大きい計算リソースで大きいパラメーターでみたいな。
やるんだけどっていう流れがこの黒い魚で。じゃなくて違うアプローチあるよねっていうのがそのスイミーのさなんか一個違うぴょって向いてる。
違う方向向いてる魚。
それが自分たちだよってこと?
それが自分たちだよっていうアピールらしいです。
違う方行くぜみたいな。
そう。
ロゴマークだよね、あれ。
だからね、スケール則っていうさ、これも以前説明したんだけど。
スケール則。
とにかく今言ったように。
あるけど。
いっぱいの学習データとでっかい脳みそとでっかいの計算リソース。これだけあればどんどんあった分だけ賢くなるよねっていう。
札束での殴り合いを推奨するわけじゃないけど、そうなってしまってる前提の法則だよね。
とにかくすべてが起きければどんどん性能上がるよと。だからどんどんそこにお金かけようぜっていう流れではある。
確かディープシークの話でしたんだけど。
そうだったかな。札束則。
札束則。札束でみんな殴り合ってるんだけど、そこから脱出する。AIっていうのはもっと柔軟でしなやかなシステムだったほうがいいよねっていうので、魚AIっていうのがいろいろ開発してる。
なるほど。
で、小型の高精度なモデル。それを実現しましょうっていうことでやってまして。
このジニアックの第一採択でやったのは知識上流っていうもの。
知識上流。ディープシークがやったやつじゃないの。
そう。その上流っていうプロセスをやった。なんかね、このプレゼンを見る限り、知識上流とか上流っていうのは別に生成AIの文脈だけじゃなくて、機械学習っていうところのAIでもよく行われてたことなんだよ。
なんだけど、言語モデルにおいて上流っていうプロセスを取ったところは、この時点ではほとんどなかったっていうふうにこのプレゼンの中でやってる。確かに去年の話だから。結構ね、上流っていうプロセスに注目したっていうのが新しい部分だったらしい。今だとディープシークのイメージがすごい強いんだけど。
その上流を使って、ちっちゃいモデルでもいい性能を叩き出したと。あとは素性っていってね、スパースとか言うんだけど。いろいろさ、LLMって複雑に内部が紐づいてるんだけど、それの本当に必要なとこだけを使えば、もっと計算量を減らせるよねっていうので、そういうのをスパースって言うんだけどさ。
そう、素にするみたいな。スパース。で、計算量を減らしたりとか。そういうものを使ってですね、ちっちゃいモデルを作ったっていうのが、まさかのAI。
分かったような分からんようなだけど、なんかスイミーで頑張っとるよね。
そう、上流を使ってね。運用コスト10倍の。
スイミーで頑張っとる。しか言えない。
スイミーで頑張ってるだとね、結局大規模、ストーリー的には最終的に大規模になっちゃうけどね。
そうだっけ。
だってなんか魚いっぱいさ。
みんなと一緒に行って。
みんなでこうバーってまた。
あ、そうか。スイミーじゃないじゃん、じゃあこれ。
あ、でもそうかもしれん。だってさ、スイミーってさ、ちっちゃい魚が小さく集まって大きい魚を追い払うみたいな。そういう話じゃん。
そうだね。
大きい魚をGPTとか。
なるほど。
今第二次採択っていって、2025年版のプロジェクトをやってると。
その中には当然イライラとかアビダとか魚AIも入ってるんで。
今年の結果どういうのが出るかっていうのは、これはまたお楽しみだから、すごく見ておくといいと思います。
なるほど。
一応キックオフっていうのがあって。
見とくもの多すぎて、見ないんで、落ち着きAIで取り上げてください。
取り上げます。予習しておくといいと思いますよという意味で、見とくといいと思いますと言ってると。
じゃあ捉えてください。
リスナーさんお願いします。予習しておいてください。
予習しておいてください。
見といてください。
これはキックオフはごめん、今日は説明しないんだけど。
この第一次採択でこういうことをやりたいんですよっていう資料はもうすでに上がってるんで。
それは見とくといいと思います。
これあれだよね、今ページに上がってるYouTube。
YouTubeとか。第一次採択、第二次採択で。第一次採択のほうは結果のほうが上がってるから。第一次のほうはこれからやることが取り組まれてます。
これ何、このプレゼン見てわかるの?普通の人が聞いてこれ。
わかるよ。
難しそうじゃん。
結局多分その発表自体は研究者向けとかじゃなくて。
一般?
一般向けにやってるから内容はすごくわかりやすい。
見てみようかな、じゃあ。
何を課題としてどういうことをやったか。
その細かい技術的なところは深くはわかんないかもしれないけど。
パッて見て、こういう取り組み、こういう課題があってこういう取り組みをしたんだなってことはわかると思うし。
やっぱね、こういうとあれだけどベンチャー企業にしとってプレゼンうまいのよ。
慣れてんの?
資金調達するから。
プレゼン慣れしてんの?
見せるプレゼンしてる。
なるほどね。じゃあ楽しませてくれるの?
なんなら客いじりするぐらいの余裕があってさ。
結構面白い。
淡々と研究者の報告みたいな感じじゃない?
じゃない。
いいね。
縦にはCEOだから、多分CTOのほうじゃないよね。
表に出て資金調達をする人たちだから。
バシバシやるんだね。
やっぱね、うまいね。
ほんと。
でもわかりやすいもんすごい。話が。
プレゼンもかっこいいし。ベンチャーがあるよ。
支部長も好きそうだよね、プレゼンとかさ。
ベンチャー企業のプレゼン好き。
なんか極めそうだね、そのうちね。
いやー、するほうはなー。
そのさ、なんか偉そうにプレゼンするのはいいよ。
なんかお願いするさ、お金を取らなきゃいけないとかっていうのはね、
なんか心が痛そう。
やれって言われやるけどさ。
いやー、なんかね、そう。
資金調達。
いやー、もう胃が痛くなるもん、資金調達なんて聞いた瞬間。
かっこいい世界だね。何が起きてるのかよくわからない。
いやー、もうかっこいいな世界だと思うよ。だってベンチャー企業なんてさ、
なんか崖から降りながら飛行機を組み立てるもんだってよく言うんだよ。
おー、なるほど。かっけー。
そういう世界だね。もう血を流しながらさ、出血しながら輸血するみたいな。
崖を降りながら飛行機組み立てて飛ばすみたいな。
そう。それを落ちながらやるのよ。
そのぐらいのスピード感がないと地面に撃沈して死んじゃうよ。
あー、なるほどね。スピード命と。
そう、だから陸で飛行機組み立ててるみたいな悠長なことをしないともう落ちてるんだと。
組み立てて早く飛ばないと死ぬぜみたいな。
そういう企業が採択されてるってことね。
基本的にはベンチャーってそういうものだよね。
スタートアップとかベンチャーとか。
スタートアップとかベンチャーとかそういうことです。
いいねー。
っていうのがいろいろあって支援されてますよと。
いいですね。投資したいね。
っていうのはあります。あとはこういうベンチャーもありつつも、当然大きい企業もあるからさ日本は。
いっぱい日本企業も頑張ってますよと。
一回富士通とか。
そう、大企業ね。で、まあ大企業のやつも一応調べたんだけど、何が違うのかよくわかんなかった正直。
大企業はやっぱさ小さくというよりはちょっと大きめに作ったりさ、するから。
なるほどね。
特にソフトバンクなんかはなんかもう大きさ物量でいこうとしてる感じ。
ソフトバンクね。ソフトバンクはもうあれでしょ。王者の戦略みたいな。
王者の戦略。とにかく日本版のでっかい大企業言語モデル作ろうみたいな。そういうのをやってるね。
大企業じゃないとできないことだよね。
そうそうそうそう。
やってほしいよね。それは何価値筋あんのそれでも今の話聞いてて。
価値筋はどんだけあるかわかんないけど結局日本語に特化してるってところが重要。
日本用ってことね。
日本用ってこと。だからベンチマークテストでもう完全にジェミとかと勝たなくてもいいんだわ。
日本語の性能として日本の中のタスクにおいて非常に特化した性能が出せればそれだけでもう日本っていいから。
それもそれでニッチ戦略には変わりないってことか。
ニッチ戦略の中でもより小さく作ろうっていう人たちと日本版チャットGPTみたいなの作りたいぜっていう人たちがいるから。
なるほどね。
その中のプレイヤーとしてはNTTとかNECとか富士通とかソフトバンクみたいな会社があると。
まだその辺は日の目を見てない?
一応サービスとしてはリリースはされている。
あんまり話題になってない。
名前はなんか日本っぽいよねみんなね。
つづみとか。NTTはつづみだし。
NECはことみ。ことみよくわかんないけど。
我が子につける名前じゃねえんだからさみんなさ。
富士通はタカネだったね。
みんななんか名前みたいな人だね。
ソフトバンクはサラシナ。
みんな日本風の作るんだね。
みんなそれをローマ字で書いてる。
合わせてるよね。そういう風がいいよねみたいな。
クロードの俳句みたいな感じだね。
そうそうそうそう。まさにそんな感じ。
名前をつけていってみんなそれぞれ開発を進めているけど
企業に関してはどこまで今やってるのか正直見えないからさ。
外からじゃ。
つづみはなんかやってるっぽい。
つづみ2っていうのが10月に出てた。
つづみを開場したつづみ2が提供開始しました。
買い道あんのそれ。一般の人。
一応ある。一般の人が使うものじゃない。
チャットGPTみたいに使うものじゃなくて
この企業と契約して中のシステムに組み込むみたいな。
そんな感じだと思う。
日本語能力が高いということで
そういう大きい企業の取り組みもあるということですね。
個人的には観光庁にどの程度導入されてくるのかっていうのが気になりますね。
特に捜査機関。
モデリングできなくてもすぐ想像ができますよみたいなやつをパフォーマンスとしてやったのよ。
支部長実際やってるから説得力が違うよね。
そう、実際自分が作った支部長フィギュアみたいなの持ってったり
その場で先生の写真撮ってその場で3Dモデルしたりみたいなのをやって
すごい受けが良かったよね。
ちゃんとしてるね、なんかね。
結構キャッツ神は良くて
その後も先生たちがさ、これもちょっと自分でもやってみたいですって言って
アカウントを作ればね、一応無料でできるから
できますよって言って先生たちにやってもらうと思ったんだけど
できなかったのよ。
あら?なんで?
中国語のサービスだから。
何だっけそれ
ハイテム3D
ハイテム3D
そう、ハイテム3Dね、落ち着きAIの中でも紹介したじゃん。
やったね、最初のほうに。
あれ中国語のサービスなんだよ。
そうかそうかそうか。TikTok系だっけそれ?
そう
バイトダンス
いやバイトダンスはね、シードリームのほうだよ。
シードリーム
あれどこだったかちょっとごめん、会社パッと思い出せないけど。
中国系ね。
中国系なんだ。
ダメなんだ、先生。
で、そこね、公立校なの。
だから、一応Wi-Fiとかネットワーク系ってさ、全部行政のものなんだね。
はいはいはいはい。
行政のネットワークって中国のそういうのはアクセスできないようになってる。
だからAIのサービス使えないと。
で、基本的に3D生成のやつって全部そういう、全部中国だから。
何も使えない。
ちょっと置いてかれちゃうね、中国早いのに。
そう、だからさ、やっぱ国産のサービスめっちゃいるわって思ったその時。
なるほどね。
何もさせてあげられないというか、別にさ。
先生は自分家でやれよ、先生。
自分家でやればいいんだけど、趣味で自分家でやるのはいいよ。
だけどさ、学生といろいろ交えながら授業に取り入れようと思ったらできないのよ。
なるほどね。
そう。
自分のスマホを使ってやっちゃダメなんだ、自分のパソコン。
それはね、やっぱできないよね。
ちょっといろいろ問題ある。
問題あるし、責任問題もあるからなかなかね、そんなトリッキーなことなかなか先生たちにやらせるわけにもいかない。
なるほど。
っていうので、それは3Dモデルの話だけどさ、やっぱ安心して使えるのってやっぱ国産のサービスだし、行政に取り入れていけるのってそういうサービスだから。
教育って文脈においても、やっぱ国産の生成AI系のサービスめっちゃ大事だなって実感した。
教育現場に入ってけないんだね。
そう、使えない、確かに使えんわと思って。
GPTとかGeminiはいけんの?
Geminiはいけんじゃない、でもGoogleが許可されてるかどうかにもよる。ごめん、そこまでは見てないけど。
それもまた学校によるんだ。
うん。
国産だったら基本その辺OKなのかな。
国産だったらOKじゃない。許可を取る必要はあるかもしれないけど、そのセキュリティ上ね、このソフトウェア使えますよみたいな。
ダメっていう、決済検知のダメっていう理由がないか。
しかもね、今国が主体でそうやって観光庁ベースで国産LLMやってるんだったら、やっぱ国のね、国産のものですよっていうのだったら。
国から行くだろうね、これ教育。
行くと思うからさ、やっぱ国産LLMに限らずいろんなサービスだよね。
なんかやっぱ国産のサービス特化したものがあると絶対大事だなと思った。
だからこういう国ぐるみでAIを、生成AIの活用と開発を推していくっていうのはすごく大事になってくると。
なるほどね。
思います。で実際にこういうふうに今日話したように取り組みが行われてるわけなんで、日本はオワコンではないです。
オワコンじゃないね、なんかね。
カジスジ全然あると。
これでも日本の中でって感じなの?結局でも。
そうだね。
海外の人が使うものではない。
海外の人が使うものではない、そこまでの戦略じゃないよね。
だからそれで世界を取ってやろうというよりは、日本、だからあれだよね、お金の流出を止めたいんだよね。
外のサービスを使う必要性をなくすっていうことか。
そうそうそう。やっぱ国内でお米の自給じゃないけどさ、食料自給率じゃないけど自給したいのよ。
自給率上げるんだね。
じゃないともう海外にお金が流れ続けるから。
そういうことか。だから国家戦略になってるのね。
そうそう。それで世界を統合しようみたいな、そういうストーリーじゃない。
国策だね、じゃあね、これね。
国の中で何とか使って、自給して上手く使っていこうっていう。
勝つ戦略というよりは負けない戦略だよね。
でもそれがカジスジだと思う、日本の。今更世界をAIで牛耳るってなかなか難しいじゃん。
日本以外の人に使ってもらわなくてもいいと。我が国の国民が使えば良いと。
そう、まず我が国。
いいね、今日愛国心あふれる。
そう、我が国ですよ。
聞いてますか、政府の方。高市さん。
そこまで。
せめて庵野さん。
なるほどね。
はい、ということでそういうネガティブなワードに惑わされないように。
いろんな取り組みがありますから。今後落ち着きAIの中でもさっき言ったようなことが話し進んだりとか結果が出たよっていうのは即公開の方とかでもお伝えしていこうかなと思うし。
またまたトピックになったらこういう深掘り回で紹介していこうかなと思うので。
日本をね。
お願いします。
こっからですよ。
ちょっとでもほんとスッキリしたかもしれない。
スッキリしたでしょ。
やってんだって。
というお話でございます今日は。
こんな話でも聞かない限りもうはいはいとしか思ってなかったから。
いや反省ですよ。
そうでしょみんなさ新しいモデルが次はGPTいくつが出るんだろうとか地味に3点アーダコードがいつ出るんだろうと。
ほんとだよ。
そっちよりもこっちですよ。
なるほどねこれはこれでちょっと熱い分野ではあるんだね。
熱い分野ではある。
なかなかこの自分の手元で動かすってことにならないから自分ごと化はできにくいんだけどより自分ごとになっていくっていうのはやっぱこの日本のLLMの方だと思うから。
じゃあさこれ支部長的には将来例えばじゃあ10年後とかにこの国産LLM界隈がなんかそれなりにバーンってなった時にはさ。
俺らは日本国民はみんなGPTとかよりもそっち使ってるイメージなの?一般の人って。
企業とか使うとして。
いや結局汎用タスクだったらチャットGPTとか使うと思う特にプログラミングとかさああいうのってもう言語じゃん。
日本語関係ないかな。
日本語関係ないじゃん。
なるほどね。
コーディングとかはやっぱ全然向こうの方がいいとは思うけど。
じゃあなんか日本語の文章作る系のやつとかは割と国産行っちゃう?
割と日本語の文章を作る系のやつとか日本人向けのサービスとかだよね。
今やっぱそういう国産LLMここにかました方がいいよねっていうのは全然あると思う。
でより日本人が使いやすくなったりとか性能が良くなるっていうのがあると思うから。
多分ねまあその良くなるというか無駄がいっぱいあるんだわ。
世の中に。
特にその国の仕組みとかの中にいっぱいあるじゃん。
そういうのがちょっとずつ国産LLMで良くなっていくと思うんだよね。
そういうことか。
AIのプロダクトがどうっていうよりその国産LLM使うことで社会が良くなるぜっていう。
そうそうそう。
そういう恩恵の受け方ってことか。
そういう恩恵の受け方だと思う。なんか破壊的なイノベーションが起きてこんなことがなるんだよっていうよりは改善とか良くなるよっていう文脈であると思うし。
日本語の性能が上がったことでこういう新しい差別性も当然生まれるとは思うんだけど。