00:00
からあげ帝国放送局、始まります。この配信では、AIの会社で働きながら、作家として本を書いたり、個人でメーカーとしてものづくりを楽しむ私、からあげが、技術の話であったり、個人のスモールビジネス、様々な雑多なお話をしていく配信です。
今日はですね、いつものように公園を歩きながら配信をしているんですけれども、いつも朝散歩しながら配信しているんですけれども、今日はちょっと朝早くからですね、ミーティングがあった関係で行けなかったので、夜に散歩しながら収録をしています。
初めての夜の収録なんですけれど、めちゃめちゃ暗いですね。当たり前なんですけど、所々ですね、明かりが多いってあって、ぼやーっと道が見えるんですけれど、めちゃめちゃ怖いですね。
そしてシーンと静まり返っているので、収録のコンディションとしては良いかもしれませんが、若干怖い感じですね。そんな中ですね、配信をしているんですけれども。
そうですね、昨日ですね、NVIDIAさんのGTCですね、というイベントの発表があってですね、私がですね、実はNVIDIAさんとコラボしてですね、そのGTCのオンラインのキャンペーンをやっていたりします。
そのキャンペーンはですね、詳しくはまた概要欄にも貼っておきますが、なんとですね、そのバーチャルオンラインでの会場に入っていただいてスクショを送るとですね、抽選で1名様にDGXパークというですね、スーパーAIコンピューターが当たって、これがだいたい80万円ぐらいの代物ですね。
それに加えていくつか復唱としてはですね、NVIDIAさんのマグカップかな、が何名かに当たったりしますので、ぜひですね、応募していただけると嬉しく思います。
もう生配信は終わってしまったんですけれども、おそらくアーカイブでですね、スクショが撮れるはず、ちょっと私試してさっきダメだったんですけれど、1回うまくできた気がするので、おそらくタイミングの問題かなと思いますので、ちょっと諦めずにですね、チャレンジしていただければと思いますし、私もうまくいったらですね、また手順をちょっと書いてツイートとかをしようかなと思っております。
というところでですね、今日の本題はですね、このNVIDIAさんのGTCの発表について少し話そうかなと思います。
実はあんまりまだちゃんと見れてなくてですね、とりあえず分かっている範囲でということなんですけれども、やっぱり一番面白いなと思ったのがですね、NEMO CLOUDって読むんですかね、というですね、OpenCLOUDというソフトのNVIDIAバージョンみたいなソフトがすごい面白いなと思いました。
03:21
OpenCLOUDというのはですね、何回か前の配信でも取り上げているんですけれども、いわゆるAIアシスタント的なことをですね、実現するソフトでして、PCの中で何でもできちゃうというかですね、結構デフォルトの設定がですね、かなり強めの権限を持つような設定になっているので、
いろいろなPCのファイルを操作したりですね、あとは様々なデータの処理をしたりとかですね、いろんなことができるようなAIエージェントというか、自分はAIアシスタント的な存在と呼んでいるんですけれども、そういったソフトがOpenCLOUDですね。
このOpenCLOUDはですね、それ強力な分ですね、やっぱりちょっとセキュリティ的にというかですね、いろいろ副作用というかですね、誤ってファイルを消してしまったりとかですね、いろんな人にデータを乗っ取られてしまったりとか、いろんなですね、機密情報を抜かれてしまったりみたいなリスクがあるということでも話題になっていまして、
私もですね、少しだけソフトを覗いてみたんですけれど、まあちょっとかなりですね、ダーティというかですね、結構ですね、そのLLMというかですね、AIのAPIの使い方もですね、グレーゾーンを攻めるような書き方をしていてですね、ちょっとこれはかなり危ないソフトかもなって思ってですね、なんかそこまでちゃんと手を出さずにですね、
ただそのコンセプトはめちゃめちゃ素晴らしいなぁと思ったので、それを参考にというかインスパイアされてですね、今、Zangiというソフトを作って、それの使い方のですね、本とか同人誌、技術同人誌という形で生活に溶け込むAIという形で出したりしているというところですね。
そんなオープンAIのですね、この派生系というか子供みたいなやつをNVIDIAさんが作るということで、結構前から話題になっていたんですけれども、GTCでですね、満を持して発表されたという形ですね。
ソフトウェアとかも公開されていてですね、誰でも使えるような形にはなっているんですけれども、見てみてですね、面白かったのが、私がですね、事前に想像していたものと結構違うコンセプトの製品だったので、そこがですね、面白いなと思いました。
06:04
前提としてですね、私もまだ少しソフトをですね、リードミーというかドキュメントとかを軽く見て少し動かしてみた程度なので、ちょっと間違っている箇所があるかもしれないことはご了承いただければと思うんですけれども。
私の理解なんですけれども、私の理解が正しければですね、このネモクロウというのはですね、ネモクロウとオープンシェルというですね、2つのソフトから構成されているんですけれど、実はですね、一番重要なのは自分の理解だとこのオープンシェルと呼ばれるソフトかなと思っています。
このオープンシェルがどういうソフトかというとですね、オープンクロウがですね、結構セキュリティ的に懸念というか危ないところがあるっていう話をしたんですけれども、そのヤバいですね、オープンクロウのロブスターみたいなアイコンで有名なんですけれども、そのヤバいロブスター野郎をですね、シェル、殻でですね、包んでやって安全にしてやるみたいな。
ただ、殻に包んじゃうと何もできなくなっちゃうので、本当に必要なところだけ穴を開けるというかですね、使えるようにしてあげる。
ここの部分は通していいよみたいな感じで、ポコポコ、必要最低限のところだけネットワークにつながる部分とか、最低限の穴を開けてやるみたいな、そんなイメージのソフトですね。
だからそういったですね、サンドボックスとか言うんですけれども、そういった環境にですね、ヤバいオープンクロウを閉じ込めることでセキュアに使おうという。
実体はですね、オープンクロウをほぼそのまま使っているので、人気のあるオープンクロウはそのまま使おうと。
ただ危ないところはもう全部塞いでやれっていう、そういった結構力技的なコンセプトがオープンシェルであり、
そのオープンシェルとかを含めたですね、オープンクロウとかのセットアップを簡単にする、いわゆるスクリプト集みたいなやつですね。
それがネモクロウの正体というかですね。
なので実はネモクロウ自体はですね、割と中身としてはなかったりしますね。
さっき話したオープンシェルっていうですね、オープンクロウを守るやつの設定であったり、
そのオープンクロウとか、あとはいろいろなですね、AIですね、AI関係のソフトとかをどうセットアップしてどうつなぎ込むかどう設定するかっていうところをですね、
管理するのがネモクロウの正体かなというのが自分の理解ですね。
ここらへんのですね、包み込んでやるみたいな発想は自分には全然なかったので、面白いなと思いましたね。
09:07
自分の作っているZangiというのはですね、本当にオープンクロウのコアの部分ですね、最小限の部分だけをですね、
その自分で理解するためも含めて構成し直す、本当に自分にとっているソフトだけをですね、
つなぎ合わせて最低限のAIアシスタントを作るみたいなコンセプトなんですけれども、
なので実はNVIDIAさんもそういうものを作るのかなと、
だから結構この自分の作ったZangiっていうソフトと丸かぶりしちゃうのかなとか思ってたんですけれども、
やっぱりNVIDIAさんですね、発想のスケールが違いますよね。
そんなみみちですね、一からしょぼいものを作るみたいなことはしないで、
お人気のオープンクロウをそのまま丸ごと使ってやろう、食べてやろうみたいなコンセプトでですね、
オープンシェルっていうソフトを作って、
で、ネモクロウというですね、中身のないというと失礼ですけれども、
いわゆるただの設定集みたいなものをですね、
オープンクロウのファミリー的な雰囲気を出してリリースするっていう、
やっぱこの発想とスケールがさすがのNVIDIAだなと、関心極まりといったところですね。
で実際ですね、私もNVIDIAさんに対応いただいているDGXパークというですね、
小型のAIスーパーコンピューターがあるので、
早速ですね、ネモクロウをセットアップして動かしてみました。
でちょっと動かした感じなんですけれども、
NVIDIAさんが同じく提供しているですね、
AIエージェント向けのLLM、いわゆるAIですね、大規模言語モデルがあるんですけれど、
そのNemotronって読むんですかね、そのファミリーのAIの性能がですね、
なかなか良いんじゃないかなと、割と実用の域に近づいてきたのかなというのを少し感じましたね。
なのでですね、私も今Zangiっていうソフトは、
Cloud CodeとかGemini CLIとかCodexといったですね、
いわゆる大手企業のAIエージェントしか対応してなかったんですけれども、
ちょっとこれを機にですね、ローカルLLMの対応もですね、
しようかなと思ってですね、本当に今日中にはしてみたいなと思っているところですね。
やっぱりですね、ローカルだとどうしてもそのAIの能力っていうのは、
サイズとか計算能力も限られているので、スピードだったり性能だったりとかで、
商用のオープンAIのモデルとかに比べると劣るところはあるんですけれども、
その差っていうのはだんだんやっぱり年を追うごとに近づいてきてですね、
12:02
画像生成とかだとやっぱりそのオープンなモデルっていうのが、
商用のものを追い越すみたいな現象も見られてるんですね。
なので、いわゆるですね、言語の大規模言語モデルの世界でも、
そういったことが起こるのがだいぶ近づいてくるのかなと印象を改めて思いましたね。
やっぱりですね、ローカルでできるとなると可能性はいろいろ広がるんですよね。
まずそのAPIのお金とかを一切気にせず使うことができたりですね。
あと回数とかもそうですよね。
毎分毎分実行するみたいなこともやっぱりなかなか商用のものだと、
お金の関係でやりづらいこともできますし、
ネットワークがなくても動くので完全にですね、
セキュアに実行することができるっていうのも、
なんだかんだで気持ち的なことでも実際に実用上でも嬉しいところかなって思いますので、
もうちょっと先かなって思ってたんですけれども、
このNVIDIAさんのですね、ネモクロを使うことで、
ひょっとしたら用途を絞ればですね、
実用的なAIエージェントだったりAIアシスタントですね、
それがローカルLLMで実現するようになって季節あるかなと思ったりしています。
でそうですね、唐揚げ帝国でも以前に唐揚げボットというですね、
ローカルLLMで動かすボットを動かしていたんですけれども、
ちょっとですねパソコンの調子が悪くて休止してたんですけれども、
これを機にですね、ローカルLLMに対応した残儀で唐揚げボットをリブートしてですね、
また実験とかをしてみようかなと思っていまして、
うまくいけば今週中にはリブートしてですね、
みんなに使ってもらうみたいなことをやってみたいなと思っていますし、
あわよくばですね、そこから何かお金を設ける道もですね、
つなげていきたいなと夢見ておりますというところですね。
それではコメント返しの方に行きたいと思います。
今日のコメントですけれども、前回ですかね、
出版社はSNSフォロワースで出版を決めるのかというですね、
配信に対してズッキーさんからですね、
空手に挑戦をして競争心がないと再確認した話が面白いですと、
唐揚げさんの発信の原動力は競争でなく、きっかけづくりや交流なんだなと思いました、
というコメントをいただきました。
そうですね、この配信の時に最初にその娘と一緒に空手の体験をしたみたいな話をしたので、
それにいただいたコメントかなと思います。
ありがとうございます。
やっぱりそうですね、なんか自分は競争するみたいなのがあんまり得意じゃないかなというのはありますね。
15:06
なのでみんなで何かを作ったり、みんなで勝ちたいみたいなところがありますね。
だから結構ですね、データサイエンスの分野だと、
このモデルの性能競争をかぐるみたいなデータコンペと呼ばれるものがあるんですけれども、
それもですね、すごいいい試みで全く否定的ではないんですけれども、
正確的にですね、競いやって最後1位になるのを競うみたいなのがなかなかできなくて、
自分はちょっと向いてないなって思うことはあったりしますね。
逆にですね、そういうところで無類の強さを発揮するような人もいるので、
そういったですね、自分の向き不向きみたいなのを理解してですね、
取り組む内容みたいなのを考えるっていうのは結構重要なことなんじゃないかなと思ったりします。
というところでですね、唐揚げ帝国放送局ではお便り大募集中です。
SNSのハッシュタグの唐揚げ帝国放送局であったり、
無料のコミュニティの唐揚げ帝国の放送局へのお便りチャンネル、
もしくはですねSpotifyなどでコメントをいただければですね、
この配信でコメントを拾っていきたいと思いますので、どしどしお寄せください。
今日の配信は以上です。それではまた。
