00:00
からあげ帝国放送局、始まります。 この配信では、AIの会社で働きながら、作家として本を書いたり、メーカーとして個人でものづくりを楽しむ私、からあげが、技術の話であったり、個人のスモールビジネス、その他雑多なことをお話ししていく配信です。
今日もいつものように、公園を散歩しながら収録をしています。 少し肌寒い日が続きますね。
最初にお知らせですけれども、NVIDIAさんに協力して、GTC、GPUテクノロジーカンファレンスというイベントのPRをしていまして、詳しくはこの配信の概要欄にもリンクしておきますけれども、
GTCというGPU関係の大きなイベントが、いわゆるシリコンバレーであるんですけれども、そのイベントがオンラインでも楽しめますよという宣伝ですね。
このオンラインイベントに登録して、当日、ジェンソン・ファンさんのNVIDIAの社長ですね、川ちゃん社長として有名ですけれども、その基調講演のスクショを取って応募すると、
NVIDIAのDGXパークというハードウェア、小型のAIワークステーション、スーパーコンピューターみたいなものが当たるという、超ビッグな企画をしていますので、ここら辺に興味ある方は、特にAIとか興味ある方はぜひ応募いただければと思います。
このDGXパークですね、私も持っているというか、NVIDIAさんに今対応いただいているんですけれども、購入すると多分70万以上するような本当にすごいマシンなので、めちゃめちゃお得ですね。
当たるのは1名なんですけれども、他にも確かNVIDIAさんのマグカップとかが数名に当たるような副賞とかもあったりしますので、ぜひ応募いただければと思います。
DGXパークなんですけれども、私は何に使っているかというとですね、今本を出しているAIアシスタントをですね、作っているんですけれども、それをですね、今度はラズパイという小さなシングルボードコンピューターで動かしましょうということが書いてあるんですけれども、
私はそのDGXパークでAIアシスタントを動かしてですね、24時間働かせているという状態ですね。
本当はLLMですね、そこまでですね、完全にローカルで動かしてローカルのAIアシスタントを作れれば一番いいんですけれども、やっぱりLLMはですね、少しローカルだと性能がどうしても落ちてしまうので、
03:11
今はそれ以外のですね、例えばデータ分析用の少し小さなAIのモデルとかですね、あとは音声だったり画像を生成するAIとかをですね、そのLLMの手足として使うことでいろいろなですね、高度な作業をさせていたりするという感じですかね。
このNVIDIAさんとですね、私はですね、因縁あさからぬというかですね、いろいろ前から関係があってですね、一番初期の頃はそうですね、ジェットソン超入門というですね、NVIDIAさんが出しているRaspberry Piみたいなシングルボードコンピューターみたいなものがあったんですけれども、
それのですね、本を書いたりしています。それが私の最初に書いた商業紙ですね。5人ぐらいの方と一緒にですね、協調という形で書かせていただいて、その時のですね、一緒に本を書いたですね、なかちょんさんとかザッキーさんとかですね、結構今でも仲が良かったりするので、すごい思い出深いし、
私がいろいろ活動するきっかけにもなった思い出深い本ですね。その本で扱ったのがNVIDIAさんのジェットソンという、いわゆる小型PCみたいなものですね。
このジェットソンにはですね、GPU、グラフィックプロセッシングユニットですね、これが搭載されていて、AIの計算が得意ということでですね、かなりAI関係の人とか、特に小型でですね、省電力で動くので、ロボットとかにですね、搭載したりですね、
あとはネットにつなげないような環境でAIが使いたいみたいな人に、かなりですね、重宝されて使われているようなマシンだったりしますね。
GPUってもともとはですね、画像処理の計算とかに使われるですね、計算機なんですけれども、なのでパソコンのゲームですね、特に3Dがバンバン出てくるようなゲームをやっている人はですね、なじみ深いものだと思うんですけれども、私は全然ゲームとかをしなかったのでですね、もうAIになってから慣れ親しんだという感じですね。
GPUって行列演算がすごい得意なんですよね。なぜかというと、ゲームの画像処理とかって、その行列演算の塊みたいな処理がめちゃめちゃたくさんあるんですよね。
その3Dの様々な視点の計算とかもそうですし、例えば光とか影の具合をつけるシェーダーって言われるような機能があるんですけれども、そういったこともですね、やっぱりその光がどの位置に当たってどう影がつくみたいなのは行列演算の塊なので、GPUのようなものが有利ということで長らくゲームの世界を制していたんですけれども、
06:19
ある時ですね、AIのところにもこの行列演算がめちゃめちゃ使えるから、GPUをそのAIに使うといいんじゃないかってことでですね、そこからですね、このNVIDIAさんはAIの方に舵を切ってですね、AIの会社としてある意味リブランディングして、今映画を極めているという状態になっているわけですね。
このGPUとか、あとCUDAって呼ばれるですね、GPUの計算をするためのソフトのプラットフォームみたいなものがあるんですけれども、それをですね、使うとAIの計算がめっちゃ早くなるっていうことでですね、素晴らしいものであるんですけれども、昔はですね、これのインストールがめちゃめちゃ大変だった記憶がありますね。
まずですね、昔はWindowsとかMacでは動かないっていうところがあってですね、Linux OSですね、それをインストールするところから始まってですね、GPUドライバーっていうやつを入れる必要があるんですけれども、これを入れるとですね、高い確率で真っ黒の画面になってしまってですね、そのバージョンを変えたりとか、設定を変えたりして、何とかその黒側を元に戻す。
もう真っ黒になっちゃうから、基本インストールをし直すしかないんですよね。
だから私もLinuxのインストールの回数は本当に100じゃ効かないぐらいの回数セットアップをし直したかなと思っています。
で、GPUのドライバーを入れた後もですね、そのCUDAと呼ばれるソフトウェアのプラットフォームをインストールしたりですね、CUDNNって言われるライブラリなのかな、そういったものを入れるんですけれども、ここら辺のですね、ドライバとCUDAとですね、あとはAIのソフトウェアですね、PyTorchとかTensorFlowと呼ばれるフレームワーク、これのですね、それぞれのバージョンの組み合わせみたいなのがあってですね、
この組み合わせが外れるとですね、AIの計算も走らなかったりするっていう、結構ですね、このバージョン時刻があったりして、最近は割と簡単になってきたんですけれども、昔は本当にそのAI自体よりですね、そこもめちゃめちゃ難しいみたいなところがあって、かなり苦しいんだかなっていう覚えがありますね。
だからやっぱりそこら辺のですね、苦労したことがある人だとですね、すごい自分は同じAIをやってきた人としても親近感が湧くっていうところはあったりしますね。
09:05
今はですね、やっぱりそのクラウド上で動くAI、特にLLMですね、大規模言語モデル、ChatGPTのようなものはクラウドで計算されるものがほとんどですけれども、やっぱりですね、こういったものどんどん小型になっていってオープン化されていくっていうのが他の分野、例えば画像生成の分野とかでも流れとして、
あと歴史的に見てもですね、やっぱり非常に大きなモデルがどんどん小型になって、スマホとかですね、自分の手の上で動くようになるっていうのが大きな流れとしてはあるので、そのローカルのLLMみたいなものもですね、どんどん実用的になっていくんじゃないかなと個人的には思っているんですけれども、
やっぱり今ですね、クラウド上で動くChatGPTとかですね、GeminiとかCloudとかの進化が激しいので、ちょっとそのタイミングをですね、私も見極めているというかですね、なかなか使いどころ難しいなと思ったりしていますね。
だから将来的には自分が今作っているAIアシスタントとかも、頭脳の部分ですね、LLMの部分はクラウドのものを使っているんですけれども、将来的にはローカルで自分のですね、それこそDGXパーク上で学習させたようなLLMのモデルっていうのを使ってですね、完全に自分だけのAIアシスタントを作ってみたいなみたいなことは思っているというところですね。
あとそうですね、NVIDIAって会社は本当にその人材とかもすごいなって思っていまして、結構NVIDIAの中の人と何人の方かとお会いしたりご飯旅に行ったことあるんですけれど、すごい皆さんめちゃめちゃとりあえず優秀なんですね。
優秀な上に結構個性的な方が多くてですね、なんかそういった方をすごいうまく優秀で個性的な多様性をですね、生かした会社なのかなというふうに感じたりしていますね。
それこそそのNVIDIAがAIを火事を切るようになったですね、きっかけがですね、その社員の方から今AIの分野でこのGPUがめっちゃ使われてますよっていうメール一本がきっかけで、それを取り入れたみたいな逸話が多少話を持ってる気はするんですけれども、
でもそんな逸話があるぐらいいろんな対応のある社員がいて、その意見をジェンソン・ファン・カワジャン社長が聞くみたいな体制ができているのがその会社のすごいところなのかなと思ったりもしますね。
NVIDIAをですね、これは仲の人からではなくてですね、やっぱりその就職で転職の時に受けたっていう方がいてですね、その方の話を聞いたことあるんですけれど、面接とかも台、なんかめちゃめちゃ回数多くて、
12:05
だからその人を取るってことに対して、ものすごく時間とコストをかけて真剣にやってるっていうところがあったりするらしくて、やっぱりそのNVIDIAの会社の強さっていうのは、そういった人をしっかり見たり、人を大事にするっていうところとか、多様性を生かすっていうところにあったりするのかなっていうのを感じたりしましたね。
それではコメント返しの方に行きたいと思います。無料のコミュニティの唐揚げ帝国の放送局へのお便りチャンネルへのコメントですけれども、前の配信でネットで本名と顔を出すことについてと、
あとは副業と会社の考え方みたいな話をした時の配信に対するコメントで、イーグルさんからは副業についての会社との関係全く同感です。憲法で職業選択の自由が認められているのに、自分の働き方が縛られすぎですよねというコメントであったりですね。
あとは金丸さんからですね、コメントでそうだよなすごくわかるな自分も同じような理由でオープンな場では顔や名前を出していません。もちろん所属企業もとはいえ多少は自由に動きたいので予防線貼ったりして備えておく感じでしょうか。
あと職場で誠実に働くのが一番というコメントをいただきました。イーグルさん金丸さんコメントありがとうございます。そうですねこの回ですけれどもやっぱりその顔を出すかどうかっていうところと、あとは会社以外のところいろんな働き方をしたいということに対して共感とかのコメントすごく多くいただきましたね。
ここでオープン以外にもいろいろクローズドな場でもコメントをいただきました。やっぱりなかなかはい仕事によって難しさとかはあるかなとは思うんですけれども、やっぱりですね一つの仕事だけしているっていうのはある意味今後の時代リスクにもなっていくかなとも思いますので、もちろんその会社のルールっていうのは大事ですし守ることも重要なんですけれども、一方で自分自身でのルールですね。
今後生きていくのに向けて自分はこういうルールで動いていくんだっていうその自分自身のルールも決めることが大事ですし、そのルールと会社のルールがどうしてもバッティングしてしまった場合にどうするかっていうのはいろいろな考え方とか手段はあると思うんですけれども、時にはですね自分のルールっていうのを大事にすることも大事ではないかなと思ったりしますというところで。
そうですね、今日の配信は以上となります。唐揚げ帝国放送局ではお便り大募集中でして、SNSで唐揚げ帝国放送局のハッシュタグであったり唐揚げ帝国の放送局へのお便りチャンネルへのコメントをお待ちしております。コメントはこの配信でですね、できるだけ取り上げていきたいと思います。というところで本日は以上です。それではまた。
