00:00
AIメディア編集長のたつけです。 AIコンサルタントの平岡です。この番組は、AIの最新動向をもとに未来を考察するポッドキャスト番組です。
新興AI半導体企業の挑戦
ということで、本日のテーマは何でしょうか? 新興AI半導体企業はNVIDIAを打倒できるのか?
打倒できる。 打倒できる派ですか? まさかの? 打倒できる派でございます。打倒までいかなくても競い合って、より良いものを作ってほしいなと思っている次第でございます。
前回、今更聞けない半導体の今ということで、半導体について紹介しました。 話した内容としては、もともと親指サイズだったトランジスタがどんどん小さくなっていって、
NVIDIA H100という現在一番ポピュラーな半導体には800億のトランジスタが入っているということを紹介したわけです。
このトランジスタを小さくする技術として、TSMCという台湾の半導体自宅製造企業の技術がすごいよというのも併せて紹介しまして、
他の企業では作れないような3nmというサイズでの製造に成功して、最近ではさらに2nmでの量産を始める計画まで出ているという、このTSMCがすごいんだぜというのを話しました。
確か、サムソン電子かTSMCぐらいしかこの技術使えないみたいな話だったよね。 そうだね。
なんだけどそれを超えてくるぐらいのレベル間で今TSMCはやっているみたいな感じだよね。
だからNVIDIA H100という半導体が覇権を握っているということで、今はNVIDIA一強という状況なんだけど、最新技術としてASICという技術が注目されているということで、
このASICというのは特定の用途に特化して設計された集積回路、要するにAI用のチップが登場してきているというのが前回お話しした内容という感じですね。
今回はこのASICという技術を使ってNVIDIAが倒される未来はやってくるのかというのを話していきたいと思っております。
いやいやNVIDIAが倒されるなんてそんなわけないでしょって多分皆さん今思っていると思うんですけど。
そうね、本当に今世間的にはというか実際問題NVIDIA一強なのは事実だから、ちょっといかにNVIDIAが一強なのかというのを説明したいんですけども、
AIモデルに使われる半導体市場、ここの市場だけで見るとなんとNVIDIA70から95%のシェアを誇るという。
もう完全に独占市場ですよね。
ほぼ100。ほぼ100。ほぼ100。すごい。だから本当にNVIDIAが一強なのは事実。
なんでNVIDIAがこんなシェアを取れているのかというと、実は半導体って学習用途と推論用途で求められるスペックが違うわけですよ。
NVIDIAはちゃんとそれに合わせて両方提供していて、学習用途はNVIDIA H100、推論用途はJetsonという形で、この両方にちゃんと力を入れてきたからこそこのトップシェアがあるというような感じなんですよ。
そんなNVIDIAに果敢に挑戦する振興企業がいるというのが今回のメインのお話でして、
その企業がエチトとグロックという2社ですね。
すごい会社ですよ。すごい会社だよね。本当に挑戦している会社だからね、今。
すごいですよ。
ASICの特徴と性能
まず1社目、エチトという会社なんですけど、この会社はハーバード大学を仲大した2人によって2022年に設立された会社ですね。
主力の商品はSOFUと呼ばれるAIチップ。
このSOFUはトランスフォーマー特化型のASICということで、要はNVIDIAのGPUと違って汎用性がない。
何にでも使えるわけじゃない。
ただ、AIモデルに特化したASICだからこそ、超高速演算だったり、効率性の高さというのが特徴ということ。
AIモデルといっても型がいろいろあるんですけど、これはトランスフォーマーと呼ばれる、いわゆるチャットGPTとか使われている型に特化したASICということですね。
NVIDIAのH100よりもどれくらい性能がいいのかということで、これがすごい大事ですよね。
いかにNVIDIAよりもすごいのかというところだから。
まあどうですかね。2倍とか3倍とか違うだけでも相当すごくない?
だって市場の70%から95%ぐらいのシェアでしょ?
うん。
そんな独占市場のチップの何倍早いか。
これ2倍早いだけでも結構すごいと思うよね。
そうだね。2倍早いでも相当すごい。
なんとゼロが1つ違うということで。
20倍高速かつ低コストで動作するというふうにエチト側は主張してるんですね。
20倍ですか?
20倍です。
やばいですね。
やばいよね。だから今もうほぼ70から90近く独占しているところよりも20倍高速なものを提供できるわけだから、絶対乗り換えた方がいいよね。
それは乗り換えた方がいいってなっちゃうね。トランスフォーマー型使ってるところだったらね。
すごいよね。
もう一社がグロックという会社でして、これはGoogleのTPU。
これは前回の配信でも紹介したGoogleが出しているASICなんですけど、これの設計者であるジョナサン・ロスという方が2016年に創業した会社ですね。
そうなんだ。Google TPU作った人なんだ。設計者か。
メインというか作ったグループにいて開発者の一人って感じだよね。
そうなんですね。そりゃもうASICの塊みたいなもんですよね。
ASICの塊みたいなもんだね。すごいね。
主力商品はLPUという商品ですね。
Language Processing Unit。
このLPUというASICがどれくらい速いのかということで、1秒間で500トークン出力することができます。
500トークンってどれくらいすごいんですかね。
最近話題になった最新のAIモデルで言うとGPT-40 miniがGPT-40ぐらいの性能でめちゃくちゃ速いみたいな話題になったじゃん。
この40 miniが1秒あたり約168トークンなんで、40 miniが168でLPUが500ということで、だいたい3倍ぐらい。
すごいですね。めちゃくちゃ速いですね。
めちゃくちゃ速くなりました。
実際、Glock出た当初に僕も触ったんですけど、速いっていうレベルじゃないよね。一瞬で出てくる感じだよね。
画面が変わったみたいな感じだよね。文字のない画面から文字のある画面に切り替わったみたいな。それぐらいの速度があるよね。
Chat GPTだと文字が出てくる感じがありますけど、ああいう感じではないです。パンって出てくる。
エチトとGlockともにNVIDIAよりも高速なんだけど低コストということが魅力のASICということですね。
この性能差だけで考えたらめちゃくちゃ良さそうですよね。
NVIDIAに対する優位性
さらにもう一個NVIDIAを指し置いて絶対にこっちの方がいいじゃんっていう魅力の部分があって、やっぱりNVIDIAのGPUの最大のデメリットとして消費電力がやばいわけですよ。
そうですね。これは前々回の配信でもうアメリカ電力やばいよっていう話をしましたね。
その理由がまさしくこのNVIDIAのGPUがデータセンターの中で稼働することによってとにかく消費電力がやばくなっているということで、
このH100消費電力としては700Wの消費電力なんだけど、NVIDIA今新しいチップも開発していて、
現在開発中のB200っていう最新チップはなんと1000Wの消費電力になる予定だって報じられてるのよ。
1000W、わかりやすく言うとドライヤーだと思ってほしいよね。
そうだね、ドライヤーがちょうど1000Wぐらいが多いよね。
データセンターとか行くと数万個とかのチップが置かれてるから、数万個のドライヤーが同時稼働24時間みたいな。
そうだね、H100が入ってるのがDGX-H100っていうGPUサーバーがあって、そこにH100が8個入ってるらしい。
はいはいはい。
だから、1個1個のチップっていうよりかはこの1つのチップだから。
あーなるほどね。
そうそうそう、だからこの1つのサーバーでドライヤー8個が常時同時稼働みたいなそんなイメージかな。
半端ないね。
まあどちらにしても半端ない。
すぐプレイカー落ちるね。
ね、普通の家だったらやばいよね。
一瞬。
前々回ね、AI×核融合の回で紹介したけど、ドナルド・トランプさんの発言で、
アメリカの電力需要の2倍が今後AIで必要になるっていう風に話して話題になったっていうことを紹介したんだけど、
だからやっぱこのNVIDIAのGPUがやばいからこそ起きる問題ということで、
これに対してこのASICっていう技術は用途に特化したチップだから、消費電力も抑えられるわけですよ。
ここがすごいメリットだよね、やっぱりASIC。
そこがね、すごいメリットだと思う。
エチトのCEOであるウベルティさんは、
この送風が業界の消費電力の問題の解決策になるっていう風にちゃんと言ってるから、
やっぱりこれはこの振興企業側もちゃんと賞賛のある部分だっていう風に認識してるっていうところだよね。
で、この特化したチップっていう部分がすごい重要で、
結局NVIDIAのチップってあくまでもゲームとかグラフィック用なのがたまたまAIにも合ってたから、
これ使えるじゃんっていうことで一気に拡大して、あれよあれよの間にNVIDIAがすごい成長していったっていう背景があるわけよ。
はい、そうですね。
だからGLOCKとかも本気でここの部分は賞賛があるっていう風に踏んでて、
GLOCKの投資家向け資料には推論に使用する場合、
NVIDIAのGPUよりも4倍高速で、5倍安価で、さらにエネルギー効率がいいっていうふうにちゃんと書かれてるから、
だからこの振興企業たちはNVIDIAに対してここの部分で勝てるっていう風に踏んでるから、
結構本気で勝負に挑みにいってるような状況っていうことだよね。
なるほどですね。
本当にタイムリーで、こないだ調達もしてたよね。
そうだね、調達もしてたね。
本当に今すごく注目されている2社だと思います、ここは。
だから世間的にもNVIDIA一挙ってどうなの?みたいなところからそういうところにお金を入れてこうみたいな、
そういう意識が働いてたりとかっていう背景もあるかもしれないよね。
そうですね。
やっぱりそのたまたまっていうところと、彼らが言ってるのって、
一から特価を作っているっていうのは我々しかいないっていうのもすごく主張していて、
確かにその通りだし、今って例明期というか、これからっていう時のASIC特価型のチップをゼロから作っているっていうのは、
なかなか他にないと思うので、非常に期待が持たれますよね。
NVIDIAの強さと未来予測
そうね、だからこれからチップを作るってなったとしても、
わざわざNVIDIAみたいなGPUを作るわけはないみたいなこと言ってるよね。
そうそうそう、そんな感じっすよね。
おっしゃる通りだよね。
そんなことも踏まえた上で、じゃあこの振興企業が本当にNVIDIAを倒せるのかっていうところを後半未来予測をちょっとしゃべっていこうかなと思います。
僕個人的な予想としましては、政府というか国単位でNVIDIAに規制みたいなのが入って、
振興企業が伸びていくんじゃないかなっていうのはちょっと個人的な予想として思ってる部分があって、
やっぱりトランプさんの発言でもあったように、国として電力問題に着手しようっていうふうに出てるじゃん。
例えばプラスチック削減しようっていうふうに言われてからヨーロッパだと、
フォークとかナイフとかストローみたいなプラスチック製品の流通を禁止しようみたいな法律ができたりとか、
あとは日本だってビニール袋を有料化したりとかってあるわけじゃん。
だからアメリカの電力事情的に消費電力の少ないAシックを使えみたいな流れになる可能性っていうのは全然あるんじゃないかなっていうふうに思ってて。
なるほど、確かにそれはありそうですね。
このままいったらやばいじゃん、単純にアメリカ。
シンプルに2倍電力が必要になったら東京電力もう1個作ってくださいっていう例えを前回したと思うんですけど、
それって現実的に可能ですかっていうところなんですよね。
企業に対してAシック使ってくださいねっていうふうにお願いしたりとか、
Aシックの方に税制的な優遇かけたりとかっていうことした方がよっぽど現実的なところはあるよね。
そうですね。
水産業でも魚を取りすぎないように漁獲量が制限されたりとかって普通にあるわけじゃん。
そうですね、だから今税制優遇みたいな話したけど、
Aシックを使えみたいな直接的じゃなかったとしても、
例えば1つのデータセンターで年間で使える電力の消費量に上限が設けられるみたいなさ。
その制限クリアしようとしたら必然的にGPU変えるしかないよねみたいな状況にするみたいなのは全然あり得るかなって思ってて。
あとは独占禁止法の観点からも新興企業の追い風かなっていうふうに思ってる部分があって、
先日出たニュースなんだけど、NVIDIAが独占禁止法の調査対象になったっていうニュースが出てるのよ。
これは競合のAIチップの購入制限をした疑いっていうことで、
そういったクラウドサービス提供する企業に対して要はNVIDIAのAIチップ使えっていうふうに当然迫るし、
AMDとかIntelみたいな競合のチップを購入したらネットワーク機器の方の価格値上げして、
それが嫌だったらAIチップこっち使わなきゃダメだよみたいな感じで追い込みをかけるみたいなことをしていたんじゃないかっていう疑いがかけられてるっていうことね。
それで今調査対象になってるっていうことで、
こういう顧客の足元を見るような商売してるところって結局潰れるよって個人的には思う。
やっぱりソニーのウォークマンとかだって当時みんなが持ってるような超大人気商品だったわけじゃん。
そうでしたね。みんなソニーのウォークマンだったね。
だけどiPodはその座をiPodに開け渡しちゃったわけだけど、これも結構その消費者目線の欠如って言われてて、
ソニーは当時ソニーミュージックエンターテインメントって音楽会社があったからウォークマンにコピーガードをセットしなきゃいけないとか。
はいはいはい。
あったね。そうCDの成功に続いてAMDを成功させたいみたいな社内の思惑とかがメインで動いててさ。
でも消費者化すると本当に欲しいものってそこじゃない。本当に欲しいサービス欲しい機能ってそこじゃないっていうところで結局iPod負けちゃったわけじゃん。
確かにね。
あと独占禁止法の文脈で言っても、過去にマイクロソフトの独近法の裁判の影響でGAFAが急成長したみたいな。
はいはいはい。
こんなのも全然あるから、だから個人的には電力関係の法規制、あとこの今の殿様商売の雰囲気、さらに独占禁止法。
この3つの要素が絡まると全然NVIDIAの画像が崩れるっていうのは個人的にはあり得るかなっていうふうに思ってるって感じだね。
そうですね。
ASICの利用とAIサービスの競争
振興企業が伸びるか伸びないかっていう論点でいったら僕も伸びると思うし、やっぱり今言ったようにNVIDIAってチップがたまたま売れてあるけど課題がたくさんあるっていうところから考えると、
やっぱりそういう振興企業ってスケールスキーたくさんあるよねと思うから。
伸びるか伸びないかで言ったら間違いなく伸びるよねとは思う。
それがGlock、エチトなのか他の企業なのかっていうのはちょっとわからないけど、現状ね、やっぱGlockとかはかなり有望なとこだろうなっていう感じはしますよね。
じゃあここからあえて違う視点で話をすると、僕最初の3話か4話ぐらいの時にNVIDIAの回を話したんですけど、
その時に話した内容って、いろんな技術を使って推論コストを下げて、結果NVIDIAは安泰だぞと。
だから株はみんなまだ手放さない方がいいぞって言って、その数ヶ月後ぐらいに世界ランキング1位になったんですよね。
確かにすごいよね。
だからAIファンシーをあの時聞いてて、被るのをちょっともうちょっと待とうかなって思った人は、たぶん今すごい儲かってるはずなんですよ。
そのトークからすると、NVIDIAはやっぱ強いからそんな簡単には崩れないぞという視点じゃないですか。
タスキの視点でいくと、新興企業が伸びるか伸びないかっていう話でいくと、伸びるっていう話だったじゃん。
これは伸びるんだけど、NVIDIAも依然強いままっていう。
なるほどね。
さっきの話で言うと、ソニーがウォークマン出してiPodに取られたって言ったけど、依然としてソニー強いよね。
ソニー自体は全然強いよね。
そうなんですよね。だからある分野で取っていかれる。
それでいくと、ASICっていう領域においては負ける可能性はあるかなとは思うんですけど、
ただNVIDIAってチップ売ってるだけじゃなくて、やっぱそのAI専用のもちろんチップも開発してるし、
そもそものAIの推論コストを下げるための取り組みを行っていたりとか、かなり先手を打ってるんですよね、そもそも。
うん、そうだね。
だからどっちかっていうと、その技術を新興企業に売っていくだったりとか増やしていって、結局このネットワーク効果をめちゃくちゃ使ってくるんじゃないかなっていう予想なんですよ。
確かにな。結局何やってもどっかしらでNVIDIAが絡んでるみたいだね。
そう。現実問題、これだけ今シェア取っちゃってるわけじゃん。
そう思うとスイッチングコスト、いわゆる今使ってる商品を他の商品に乗り換えるコストってもう半端ないと思うんですよね。
今からじゃあデータセンターのチップをめちゃめちゃ買いますみたいな。
無理だよね、現実問題実際。
現実的じゃないじゃん、これって。
だとしたらNVIDIAのこのチップを使いつつ、電力需要を何とかして、かつAI自体の推論コストを下げるっていう取り組みの方が注目されるんじゃないかなっていう視点で、そういう未来もあるんじゃないかなと。
そしたらもうちょっとこの使うチップ数っていうのが減るから。
以前NVIDIAは技術的にめちゃくちゃ強い会社っていう立ち位置を持ちつつ、特化的なLLM専用チップみたいなのがもちろん伸びていくみたいな。
あれはどうなのかな。今って結局どこの企業も裏っかで動いてるのはだいたいGPTじゃん。
GPTだね、だいたい。
それこそグロックだとラマが使えるじゃん。メタのやつね。ラマ3。
あれが例えばだけど、要は生成AIといえばちゃんとGPT。最近だったらジェミニも結構来てるよねみたいな感じだけど、そこをもう割って入って、もうAIといえばラマでしょみたいな感じまでいって、全員がグロックでラマを使うみたいな状態になったら、
そしたらパワーバランスは変わらないんだけど、その利用者側っていうのの利用部分がASICの利用規模が増えるみたいな、そういう可能性はあるかなとかちょっと思うんだけど。
全然あると思います。むしろそっちの戦いなんじゃないかなとは思ってる。結局ユーザーってチップじゃなくてAIのUIを使うわけだし。
じゃあそのAIがどこトップ取るのっていう話から、結局チップどこが最適化なのっていう話にはなってくる可能性はすごい高いよね。
だからここのAIだと、なぜか料金が安い。なぜか無料で使える。その理由をひも解いていくと、結局そういうバックボーンで動いてるチップの部分でかなりコストが抑えられてるから消費者に還元できてるみたいな図式になったら、じゃあっていうふうにスイッチングコストかけても切り替える企業とか出てきてもおかしくないみたいな感じだよね。
それは全然あると思う。だから依然としてどこのAIサービスが使われていくのか、そのシェアっていうのはすごく紐づいてくるんじゃないかなと思うけど、NVIDIAの強いとこって汎用的なGPUじゃん、逆に言うと。AIで他に食われても全然他にたくさんあるのよくらいだよね。
GoogleのTPUと競争の可能性
だから痛くも痒くもないって言ったらちょっと語弊があるけど、やっぱりNVIDIAはずっと強いと思うよ、俺。
そうね。で、しかも例えばそのチャットGPT出ました、オープンAIガーってきました。でもさ、いざGoogle本腰入れたらさ、一瞬で同じ領域までポンって来たじゃん。
そうだね。
だから結局なんかそのASICの方が来て、NVIDIA規制されてやばいってなったとしても、やっぱ企業の底力というか他で売り上げ立ててるからこそ、なんか振り切ったらそっちに一瞬でヒュンって追いついてくる感じもするよね。
いやそうなんだよね。もう体力というか力が、リソースが違いすぎるっていう感じがするよね。
で、これ逆に言うとこの振興企業が危ないなって思うとこってGoogleだと思うんですよね、どっちかっていうと。
あ、どっちかっていうと。
だからそれこそTPU作りましたっていうのも、この最初の多分ASICの走りとまでは言わないけど、やっぱGoogleのTPUがやっぱ凄かったわけじゃない?あのα5を動かしたやつね。
あんな技術をさ、ちゃんと作れるんだっていうGoogle。
そうね。
したらもっとすげーASIC作ろうぜって多分、高発で入って一瞬でかっさらっていくみたいなことはできるよねっていう。
あーなるほどね。
結局なんだろうね、そのネットワーク効果でたくさんのところに導入してますとか、地味に使われてますみたいな状態で、そういうやばいのが出てきたら一瞬でもってかれるみたいなね、サービス。
だから伸びていくと思う、もちろん新興企業は。
で、特定の用途で使われ始めていくと思うけど、やっぱりNVIDIAあとGoogle、この辺はもうめちゃくちゃ強すぎて、我解する方法はかなり難しそうだなって思う、個人的には。
でも新興企業だとさ、そこを完全に倒しきらないとさ、逆に反映しないというかさ、終わってっちゃうみたいなとこない?
かちきらないといけないじゃん、そういう。
いや、なんかそうでもないんじゃないかな。
そうでもないかな。
例えばさ、ChatGPT、オープンAIが出てきて、Googleが緊急事例ですみたいな出してたじゃない?
あれ何年前?1年半くらい前だったかな?
そうね、ChatGPTが出て半年とか1年くらいだった。
半年1年くらいで、もう緊急事態ですみたいな、コードレットみたいな出してたじゃないですか。
で、Googleはもうやばい、終わったみたいになって、ガーハムからも抜け落ちて、世界ランキング7位とかに落ちて、過分をとんでもなく下がってみたいな。
やばい状態になったけども、結局今盛り返してきてるわけじゃない?
でもこれなんで落ちて盛り返してきたかって、オープンAIのおかげなんだよね、逆に言うと。
どういうと?
オープンAIとかこういう振興企業がものすごい影響力を持ってくると、さらに強くなっていくっていう仕組みになっちゃってるんじゃないかなって、Googleが。
あーなるほどね。
Googleとかそういうデカ企業だね、本当に。
あれか、もうベースというか、これをやったらいいっていうものがあるわけだから、それを要は力技でちょっと上ぐらい出しとけば勝てるみたいな、そういうことかな。
うーん、というよりかは、今までGoogleの内部でそういうのが生み出されなかったものが、新しい脅威として出てくるわけじゃん。
で、それに変化に適応していくというか、対応していくような形で進化していってるから、
なんか、相似で進化してってるんだよね、それぞれの企業って。
逆に言うと、そういう企業がいなかったら衰退しちゃうと思う、Googleとかって。
あー、結局やっぱ競ってることがやっぱ大事ってことなのか。
競争の世界、競争してないんだけどね、競争してるみたいな感じだね、厳密に言うと。
じゃあ、このASIC振興企業も成長するが、共にNVIDIAも伸びるっていう、そういう感じが未来って感じかな。
そうですね、前のエピソードでも言いましたけど、半導体業界はもう本当にしばらく安泰だと、個人的には思っているので。
僕の予想はやっぱり、いろいろ規制がかかって、結構NVIDIAは潰れるまでいかないけど、
ちょっとそこそこ弱体化して、振興企業が結構来るんじゃないかなっていうふうには個人的には思うけどね。
まあ、そのシナリオはね、ちょっとエモい感じするんですけど、そんな簡単じゃないよ。
ちょっと夢見すぎ?
80%シェア取ってるんだぜ。
競争の未来
まあ、そうね、確かにな。
勝てないって、なかなか。
まあそうですね、確かに。どういう未来になるのか楽しみですね。
はい、それではエンディングでございます。
今日のお話、面白かったですね。この伏線をたくさん回収してきたね。
ああ、そうだね。今回ちょっとね、今までと作りを変えて、過去のやつと紐づくような感じにやってみたんだけど、どうですかね、みなさん。面白かったですかね。
ぜひちょっと感想が欲しいですね。
そうね。
で、Xをですね、AI未来話公式のXをちゃんと始めたので、ぜひこちらにコメントであったりとか、お便りとかもいただいたらそこで返信をしたりだったりとか、
ちょっとこうXでみなさんと交流みたいな感じでしていきたいなと思っているので、よかったらフォローの方お願いします。概要欄に貼ってますので。
あと先日お便りまたいただけたんだけど、でもちょっとこの収録を過去のやつからちょっとね、こう紐づけて配信するみたいなシステムにしたおかげでさ、
ちょっとそういうのがタイムリーにご紹介できなくなっちゃってるところがちょっと残念ではあるけど。
ああ、そうなんですよ。だからXとかでちょっと紹介っていうか、
ああ、ちゃんと触れようかな。
回答していこうかなみたいな感じで考えているという感じですね。
では最後に告知です。お聞きのポッドキャストアプリでAI未来話の番組フォローとレビューをお待ちしています。
フォローすることで最新話が更新され通知がきます。この番組はランキングに入る可能性が上がります。お互いウィンウィンなのでぜひお願いいたします。
レビューをしていただくことで番組の改善やまだ聞いたことない人の結果どうかの判断指標になりますので、ぜひ推し評価お待ちしております。
来週も木曜朝7時に更新されます。通勤通学のお供に聞いてくれると嬉しいです。
ということで本日もありがとうございました。
ありがとうございました。
