はじめるを応援するポッドキャスト、STARTFM。 今週も始まりました、ナノヒューマンというAIスタートアップをやっている伊藤です。
アメリカに拠点を置くテイラー代表の柴田陽さんと、企業や独立を考えている方に役に立つ情報を話していくポッドキャスト番組です。
陽さん、おはようございます。 おはようございます。
今日はですね、最近のベイエリアでのAIのトレンドがどうやらあるみたいで、
ちょっと陽さんの方からめちゃくちゃ面白いトレンドの話を持ってきていただいたということで。
そうですね。なんかニュースサイクル的には多分1、2ヶ月前ぐらいまで、6月、7月前半ぐらいまでは、
オープンAIとかアンソロピックがいかにすごいか、特にね、スペースXの上場とかあったし、アンソロピックも上場するっていう話がオフィシャルになって、
アンソロピックのレベニューがね、ほんと100ビリオンいくんじゃないかみたいな話があって、
そのモデルレイヤーがいかに強いかみたいなナラティブがメインだったんですけど、
このシリコンバレーあるあるで、1回ニュースサイクルが消費し尽くすと、それのカウンターナラティブが流行るっていう話があって、
それの一部かなって感じもするんで、ちょっと割り引いて考えた方がいいかなって思う部分もあるんですけど、
ちょっと前置きはそのぐらいにして、今日はコンポーザブルAIというテーマを取り上げたいなと思ってるんですね。
コンポーザブルAIっていうワード自体は結構初めて聞いたっていう方が多いような気がしますね。
そう、コンポーザブルAIって言っている、別に全員が言ってるわけじゃなくて、いろんな呼ばれ方されてるんですけど、
たまたま僕が聞いたポッドキャストで何人かがコンポーザブルAIっていう呼び方をしてたんで、
ちょっとコンポーザブルAI使うんですけど、要はそのいろんなモデル、例えばアンソロピックとかオープンAIとか、あるいはラーマーとか、
あるいはちょっと極端な例言うとディープシークとか、ああいういろんなモデルをケースバイケースで使い分けながら最適化していきましょうみたいな考え方ですね。
これいくつかなんでこれをするのかっていうバックグラウンドがあるんですけど、
ちょっと大きく今日は3点バックグラウンドについて話してから、なんでコンポーザブルなのか、そしてそれがどういうふうになっていくのかっていうのをディスカッションしていきたいんですけど、
一つはコストですね。アンソロピックの売り上げ100ビリヨン。100ビリヨンってどのくらいかっていうとGoogleが400ビリヨン前後なんで、
4分の1Googleに今年の年末にたどり着くんじゃないかみたいなことを、これは言われているっていう感じなんで別に確定した数字じゃないんですけど、みたいな話があって、
それって裏返せばそれだけそれに課金してる人がいるってことなんで、企業からするとコストじゃないですか。コストというか支出じゃないですか。
いくらなんでもコストかけすぎだよねっていう、ちゃんとGPTとかアンソロピックの売り上げ爆増に対する裏返しとしてそういう話が出てきて、
特に今ってトークンを仕入れて売るビジネスモデルはさておきそうじゃない人たちにとってみると、AIから明確なROIってあんまり出てる会社多くないと思うんで現時点ではですね。
これちょっと抑えていかなきゃいけないよねみたいなことをCFOが言い出しているみたいな文脈があって、より安いモデルを何とかして使えないかみたいなコスト起点の考え方っていうのは一つですね。
これは一番多いかなと思います。
二つ目がなんて言うんですかね、結構アンソロピックとかって自分たちのユーザーが使い方とかを彼らで当然プロンプト全部見えてるんで、
どんな感じに使われてるのかみたいなを利用して自分たちのビジネスを作っていくっていう、ある種のアップストアを作って流行ってるアプリを自分たちのOSのフィーチャーに取り入れていくみたいなことが初期のiOSであったんですけど、
昔懐中電灯みたいなアプリたくさんあったと思うんですけど、今はOSに取り込まれてるんで懐中電灯っていうアプリは存在してないと思うし、写真加工とかも結構そういう多いんですけど、
その感じでそれのより強力なやつがあるよねっていう見方があって、
アンソロピック使って特にすごい大きい企業ですね、例えばなんでもいいけど保険会社みたいなものがアンソロピックのモデル使って自分たちの事業をしてると、
そのうちアンソロピックが保険会社あるいは保険会社アザサービスみたいなの作ってきて自分たちがコモディティ化されるんじゃないかみたいな、
そういうリスク管理とか情報企業のIP管理みたいな観点でマルチクラウドにした方がいいんじゃないのみたいなと同じ文脈でマルチモデルにした方がいいんじゃないのっていう文脈がありますと、
当然そのモデルの会社たまに特にアンソロピックですかね、君たちにもう提供しないんでみたいにいきなりブチって線抜いちゃったりするんで、
それはちょっとたまんないよねっていうことでそこの冗長化っていう意味でやってますよみたいな話がありますと、
3つ目は当然そのレイヤーをビジネスにしようっていう試みがあるのかなと思っていて、
ちょっと後々でも出てくるんですけど、パープレキシティとかが一番いい例だと思ってるんですけど、結局自分たちでは積極的にフロンティアモデル作りにはいってないけれども、
GPTラッパーみたいなところの進化系としてここのAIをどういうふうにハーネスしていくかみたいなところを自分たちの収益レイヤーにしていこうみたいな試みがあると、
この3つぐらいの動機がないまぜになってコンポーズアブAIっていうのを流行らせようっていうふうな試みがあるっていうのがちょっと今起きているかなというふうに思っていますというところですね。
そうですよね。3つ全部結構盛り上がってるのかなと思いましたね。
特に1個目のコストとかって、ぶっちゃけもう最近AIアプリケーション、モデルを裏側で使って何かアプリケーション作って提供している会社とかの減価率がすごいことになっちゃってるみたいな話も盛り上がってますもんね。
これは結構、そもそもモデル会社の今のバリエーションがどのくらい正当化できるのかみたいなところともつながってくるすごい良い論点なんですけど、
結局、ディープシークとかZAIとかああいう中国AI勢がやっぱりフロンティアモデルを上流っていうんですかディスティレレーションっていう手法を使って、
彼らのパラメータをある種リバースエンジニアリングしてほぼ似たようなコピーを作るみたいなことをやっているんですよね。
これはもうある種公然の秘密になっていて、おそらくアンソロピックとオープンAIの間でもやってるような気がするし、それ以外のAIモデル各社はおそらくほぼ100%この上流っていう手法を使って、
それが故に開発費スクラッチでトレーニング回すより安いんで、組み合わせだと思うんですけどね、プリトレーニングも当然やってると思うんですけど、
上流することによってすごく安く3ヶ月遅れとか6ヶ月遅れであれば安く作れるみたいなことがもう多分手法として確立していて、
これ機会があったらちょっとどっかのエピソードでまたやりたいんですけど、おそらくこの上流っていう手法に関してはその利用規約違反ではあるもののダイレクトに法律、
例えば著作権法とかで規制するってのは難しいと僕はいろんな情報を総合するに思っていて、おそらく世の中の体制としてもそういうふうに思ってる人たちが多いんで、
これに対してフロンティアラのモデル作ってる会社さんがどういうふうにしていくのかっていうのはすごい興味深い論点ではあるんですけど、
いずれにせよ現実としては6ヶ月遅れのモデルだったらオープンウェイトという形でモデル自体はIPに対してのコストはほんと0円になっていて、
当然ながらインファレンスのチップを回すコストは必要なんですけれどもっていうのが成立しちゃってて、すんげー安く使えるよってことですよね。
ヘタローさん言ってる通り、モデルを仕入れて、モデルというかトークンを仕入れてトークンを売ってるような会社、
例えば一番わかりやすいのはギジロクアプリとかが多分一番わかりやすいんだと思うんですけど、ユーザーはギジロクという形でトークンを消費していて、
裏側ではいろんなモデルにMP3何々を渡しているみたいなとか、
あともうちょっと極端なさらに薄い例で言うと、昔よくあったようなLINEでChatGPT使えますみたいなマジでGPTラッパーになってるようなサービスとかって、
基本はトークンを仕入れて右から左に流してるんで、もしユーザーがChatGPTを使っていると思っているんだけれども、
実はZAIのモデルでインファレンスしてたらめっちゃアービートラジできるっていう状況が生まれる余地があって、
すごい動機はあると思うんですよね。だから11LOVESとかラバブルとか最近話題のシエラとか、
あの辺はすごくトークン仕入れているタイプのビジネスモデルがやっぱりメインだと思うんで、結構これやる動機あるのかなと思っていますし、
さっき言ったように極論するとPowerPlexyとかもそういうふうに言う、カーサーとかもそういうふうにそういう枠組みで捉えることもできるのかなと思っていて、
この辺はすごくこういうオープンラウター的なものを使って、裏側でモデルのトークンの計算モデルの先を組み合わせて最適化していくっていうことがするインセンティブめっちゃあるし、
する余地っていうのはあるのかなっていうふうに思っていますけどね。
あとはあれですよね、今日うちの会社のスラックで起こったことみたいなプロンプトを多分社内で20人ぐらいやってたら、めっちゃ難しくないじゃないですか、同じことやってる、同じデータに対してほぼ同じ指示を与えてるみたいなこともあるんで、今度そうなると記憶の共有ですか、メモリの共有っていうんですかね、組織の中でのですね。
この辺も多分削減余地としてはあり得るのかなっていう感じがして、キャッシュみたいなことなんですかね、要するにセマンティックなキャッシュみたいなことなんだと思うんですけど、そういうのをやる会社みたいなのもたま出てくるんじゃないかなという、出てきてるのかな多分ねっていうふうに感じはしていて、このレイヤー自体はそれなりに大きくあるんじゃないかなっていうふうには感じがしている。
うん、そうですよね。それこそ今の話みたいな、コスト削減とか、これ無駄だよねみたいなところを効率化しましょうみたいな意味でのモデルルーターもあると思いますし、それこそ最近ファイアワークスとかベーステンみたいな、まさにそのレイヤーですね、推論のレイヤーになってるような大きなプレイヤーとかが、よくXとかで主張してるなと思うのは、ルーターを挟んだ方が性能も高いっていう訴求を結構してるんですよね。
例えば、フェイブル5があって、じゃあキミK3があって、GPT5.6ソルがあると。フェイブルだけを単純に使う場合よりも、その3つのモデルっていうのをルーターかませて使った方が、いろんなタスクをやらせてみた時のトータル性能が高い。得意なことが違うからルーティングした方が性能が高くなるっていう、そういうプラスもあるんですよっていう訴求を結構したりしますもんね。
そうですね。例えばモデルの特性に合わせて、当然得意不得意みたいなのもあると思うし、結局モデルの特性に合わせた指示の与え方みたいなのも当然あると思うんですよね。モデルごとにメモリの取扱いだったり、コンテクスト量だったり、そもそもトレーニングされたデータが違ってたりするんで、当然プログラミングタスクはアンソロピック系にやらせた方が得意であるとか、それからツールユースの有無みたいなのも変わってくるんで、
結局ブラウザーエージェントでさせるならチャットGPT系のオープンAI系のやつにやらせた方がツールが強いんで得意ですよねみたいな話とかもあると思うんで、結局それはありそうだなと思ってて。
アナロジーとして結局のところアドテクにちょっと似てるなと思って、インターネット老人的には思ったんですけど、特にリアルタイムビリングっていうのが登場してきたときに、インターネット広告に詳しくないとわけわかんないと思うんですけど、僕らが今目にしているインターネット広告特にバナー広告みたいなものって、
皆さんその自分に何かあったやつが例えばオーラリングを検索するとやたら健康ガジェット系の広告に追跡されるなみたいな感じは当然みんなあると思うんですけど、それって結局その人のデータを元にその人がウェブサイトにアクセスしてウェブサイトをリクエストしたときに自動的に裏側で100ミリセカンドぐらいのスパンの中でビリングが行われて、
一番高くビリングしてきた人の広告を表示する、もうちょっとアルゴリズム細かいんだけど一旦ざっくり言うとそんな感じのことが起こっていて、そうすると常に一番その人に高くお金を払ってくれる人の広告が表示される、つまり何かしら収益を生み出す確率の高い広告が表示されるみたいなことが起こっていますと。
これをやるためには当然ながら広告のメンの在庫もなきゃいけないし、広告を出したい人の在庫もたくさんないとこのマッチングの効率が悪いんで、最初は利用が乱立してたんだけど、最終グーグルでダブルクリック買収して、アドセンスというプロダクトに全部集約されていって、今広告ネットワークって基本はGoogleのほぼ独占状態になってるというのが僕の認識なんですけど、
なのでそれでアドテック死ぬんですよね、アドテックというジャンル自体が。
その後、プライバシーの問題とかあってクッキーが使えなくなったりとかもいろいろあるんだけど、基本はソーシャル系はFacebookがユーザーデータというところでプラットフォームをうがめていって、それ以外のリスティング系というか非SNSの広告名に関してはGoogleが独占するっていうそういう住み分けで、
インターネット広告のその大半はメタかアルファベットの収益になるみたいな構造に今なってるんですけど、結局なんか最終はそうなるんじゃないかなと思うんですよ、このアドテックもそうであったようにめちゃくちゃ瞬間風俗的にすごい伸びる会社が、
これって結局すでに起こってるトークンの売買の中にチョンって差し込んでチューチューするような感じのビジネスモデルなんで、めちゃくちゃ伸びると思うんですけど、結局規模の経済性すごい働くんで、最終的にはもうプラットフォーマーが垂直統合していっちゃうかなっていう感じもするんで、
パワープレキシティとか経営者すごく優秀そうに見えるんで、最終的にどうなるかめっちゃ興味あるんですけど、おそらく5年後とか7年後ぐらいのスパンで言うと、オープンAIかSpaceXかアルファベットかなんかになってんじゃないかなっていう感じがめっちゃする、はするっすね。
売収されていくみたいなイメージですね、そのアードテクノアナロジーとか。
そうですね、ダブルクリックのGoogleの売収みたいな感じの、結局これって言ったってモデルの数多い方がいいし、ユーザーも多い方がいいし、で結局そのあと今あれとの関係性もありますよね、結局インファレンスのキャパシティ制約があるんで、インファレンスも確保できないと結局いくらラウティングしても量足りないですよね。
だから今アンソロピックの売上って何で立足されてるかって言ったら単純にインファレンスのキャパシティで立足されてるんで、ラウティングするのもそれで言うと広告の面がないみたいな感じですよね、今のインターネット広告の例えで言うと。
だから広告面が抑えられないと売上伸びないので、結局キーボードの経済性は働いちゃうと思いますね。
確かに。
なんかあれだよね、B2C考えると普通に広告をインジェクションしてそれでタダでトークン提供しますみたいなそのハイパーネット。
ハイパーネットって知ってます?
ハイパーネットはもう。
板倉雄一郎って人がやってた。
社長失格というのはもう大好きなんで。
そうそうそうそう。
さすが、さすが若者なのによく知ってる。
そういうのすら可能な気もしますけどね。
究極、市民のためのAIみたいな。
そうですよね。
一方でちょっと思ったのは、それこそ例えばクラウドのアナロジーだったら、テラフォームとかあるじゃないですか、ハシコープがやってる。
マルチクラウドで管理するツールとか、AWSもGCPもAzureも使ってますっていう会社って実は普通に結構あって、そういうところがじゃあAWSのツール使って全部管理できないよね。
じゃあマルチクラウドプラットフォームだみたいなので、一定ビジネス成立してるのかなと思っていて。
そのアナロジーで考えたら、AIのモデルの方もじゃあオープンAIも使ってるし、アンスロピックも使ってる、グーグルも使ってる。
なんならAIモデルの今のケースにおいてはオープンモデルももうたくさんあるんだっていう世界観。
だとそれらをこうマネージしていくみたいなところは、オープンAI一社でできるのかって言われたら、実はできなそうやなみたいな感覚があります。
実際、自前でやるか第三者でやるかっていうところで言うと、例えばデータブリックスとか自前でやってるっていうのを聞いたことがあるんですけど、
そこの振り上げの部分というか、マルチクラウド自体も多分本当の意味でマルチクラウドできてる会社ってすごい、もちろんテック企業はできてると思うけど、
非テック企業というか、いわゆる伝統的に産業の会社で本当の意味でクラウドアグノスティックにできてるかって言うと、そんなことはないと思うんです。
結局AWSロックインされちゃって、AWS依存のサービスをアプリケーションレイヤーでたくさん使ってる以上、
いくらテラフォームとかKubernetesとかで仮想化されていても、結局クラウド依存がある状況っていうことで、
もちろん素で使ってるよりははるかにポータブルだと思うけれどもっていう感じで、そこを自前でやり切るのってすごい難しいと思うんで、
いずれにせよ自前で手組みでインフラを作るっていうのは、本当一部のデータブリックスとか本業の会社以外はちょっと難しいかなというふうに思っていて、
例えばオラクルとかできると思うんだけど、そうするとじゃあ誰かに頼もうねってなって、
そこから先はやっぱり何ですかね、結構経路依存的だとは思うんですよね、インターネット広告とかって結構裏側の話であんまり誰も興味なくて、
規制当局もなんかあんまり興味なくてっていう中で、いつの間にかそのメタとアルファベットの下線が完成して、
なんか今更プラットフォームは強すぎじゃねえかみたいな感じのこと言ってるんだけど、本当は15年前とかに決着ついていた話で、
今回はでも結構そこのトラウマが多分各国消費者も含めてあるし、ヘイトもだいぶ溜まってるんで、
下線化に対するアンチテーゼみたいなものは働きそうっていう力学もあるし、一方であんまりにもいろいろ小難しいこと言うと中華モデルに全部取られるんじゃないかみたいな恐怖感もあると思うんで、
ある程度アンソロフィックとオープンAIの二強の状況を作りに行くみたいな政策もあり得ると思うし、ちょっとそこはなんかどっちに転ぶかっていうのは本当に時の運だなというふうには思いますけど、
ただそれこそハシコープのテラフォームもそうですけど、それが独立企業になるのかそれともGoogleとかに変われていくのかっていうところはさておき、
水平的にはすごく下線化が進みやすいところなんで、いずれにせよそれがその大きな垂直統合方向に統合されていくかはさておき、水平方向にはかなりコンソリデーションされるかなという感じはしますね。
たしかにそうですね。あと別の視点でちょっと思ったのは、アドテックとかクラウドに比べてAIの方がやれることとか用途が広いから、ハーネスの余地も多いっていう、だからその差分はちょっとありそうだなって感じが。
おっしゃる通り、多分AIっていうのはインターネットぐらい広くなっちゃってるんで、それはそのインターネットっていうのは広すぎて、インターネットを独占するとかっていうのは多分無理で、特定のレイヤーを独占していくっていうことが起こると思うんで、あるいは特定のバーティカルを独占していくってことが起こると思うんで、
AIについてもそれはそうかなと。AI全部が何か1個になるみたいなことは当然ちょっと難しいかなというふうに思いますね。
うんうんうん、そうですよね。インターネットの場合は本当にいろんなミドルウェアっぽいレイヤーのプレイヤーとか事業が成り立ち続けてるっていう感じだと思うんで。
そうですね、インターネットはそもそもB2CとB2Pで全然違くなってるし、だいぶいろいろ。結局これもテクノロジーなんで定常状態ってありえなくて、どんどん例えば検索っていう絶対に崩れなそうだった河川すらAIで検索しなくていいじゃんみたいなパラダイムシフトが起こっちゃうみたいなものすごいドラスティックなパラダイムシフトが起きるんで、
そういう意味ですごく拒否的な観点に立てば、それはいくらでも新しい新規参入が起こってシェアが変動していくっていうことではあると思うんですけどね。
なんかそんな中で、それこそAIの世界ってモデルレイヤーとかアプリケーションレイヤー、今みたいなミドルウェアレイヤー、いろんなレイヤーでプレイヤーが出てきていると思うんですけど、日本の会社とか日本としてこのAIをどの領域がどういうふうにポジショニングするといいみたいなの、どんな感じなんですかね。
そうっすよね。さっきもチラッと言ったんですけど、アメリカ対中国の文脈で言ったんですけど、日本はやっぱり少なくともモデルに関して言うとほとんど歯が立たないと思うので、やっぱり僕らというのは日本国としては表彰はともかくとして、水面下ではモデルをコモディティ化する方向にみんなで頑張った方がいいと思うんですよね。
つまり何だろう、それこそオープンラウター的なものを流行らせれば流行らせるほどフロンティアモデルに対する依存が減っていくので、かつ例えば上流、さっきチラッと言った最先端のモデルをリバースエンジニアリングして劣化版コピーを作るっていう、これを法律としてどう取り扱うかみたいなのは当然今後議論になると思うんですけど、
やっぱり日本は別にそれってオープンな知識なんだからオープンでいいでしょうみたいな方にスタンスを取った方が国策としてはいいですよね、当然ながらそうじゃないとデジタル明かしがまた半端ないことになるんで。
そうですよね。まさにそれこそ日本のAIラボだったら魚AIさんとかもまさに複数のモデル組み合わせて精度出すみたいなプロダクトをやられてますもんね。
そうですね、現実はさておき、ただ方針としてはそうだと思いますし、魚以外にもどんどんこのダンっていうのかな、ハーネスのレイヤーと近いと思うんですよね。
ハーネスをモデルアグノスティックに作っていけば結局、モデルに依存しない形にどんどんしていけばいくほどモデルをコモディティ化することにつながっていくので、
あるいは例えば第三のモデルみたいなのが登場してきたときに、それのシェアが早く立ち上がるというかですね、アグノスティックになってればなっている。
だからそういう意味ではハーネスのレイヤーを頑張るみたいなのは一定ありなんじゃないかなと。
その変ななんか自分で日本語でトレーニングされたモデルを作りますみたいなことをやるよりは、はるかにモデル依存、無依存にしていく方が筋がいいとは思いますけどね。
まさにオープンソースモデルの流れとか、それらを組み合わせるコンポーズアブルAIの流れとか。
そうですね。あとはチップもね、結局日本はそのバリューチェーンではチップから利益を得ている立場だと思うんで、
モデルは取れないけどチップとハーネスが取れるみたいになってれば別に3分の2のマーケットに手を出せているので、AI競争戦略としては何か合格点なんじゃないでしょうかっていう感じがしますけどね。
あんまないっすよね結局ね、日本にそのハーネスの会社ね。
そうですね。結構どうしても現時点だとDevToolっぽくなるから、まさにマイオーさんがおっしゃってたDevToolだと。
グローバル単一企業だからね。
日本にとかっていう話があんまなくなっちゃうのかもしれないですね。
そうですよね。あとやっぱりどうしてもアプリケーションアプリケーションってなっちゃうから、最終消費者を意識しすぎるとなかなかハーネスレイヤー作れないですよね。
こういういわゆるビジネスゴールがあって、例えば経費生産をするみたいなビジネスゴールがあって、経費生産をAIでどうやって楽にしようみたいなことだけ考えるとどうしてもアプリケーションに寄ってっちゃうんで、
モデルの使い方でハウの部分だから、結構ハウだけにフォーカスするっていうのはなかなか難しくなっちゃうから、ハーネスの会社もっと出てきた方がいいのになとは思っています。
だいぶ面白かったと思います。
ありがとうございます。
スタートFMでは皆さんからの質問やメッセージを大募集してますので、概要欄からぜひ送ってください。
チャンネル登録と高評価もよろしくお願いします。
ありがとうございました。
ありがとうございました。