Mythosの登場とその衝撃
AIメディアを運営しているMiraLabの平岡です。
この番組は、AIメディアを運営する私が、AIの未来を考察するポッドキャスト番組です。
ということで、先週の予告通り、今日のテーマは、アンソロピックのMythosです。
Mythosなのか、Mythosなのか、Mythosなのかはまだ分かりませんが、一旦、Mythosということで進めていきたいと思います。
このMythos、かなり騒がれているので、「おいおい、その話はもう聞き飽きたぜ!」という人もいると思うんですけれども、
もう一段、深めて話をしていきたいなと思っています。
というのも、未来話を最初から聞いていただいている方は、こういうモデルが出て、
使える人が限定されていくとか、AGIが出たらどうなるとか、
AI開発のアライメントってすごく難しいよね、みたいな話はずっとしてきたと思うんですけど、
これがMythosを通して現実になったという感覚になっているんじゃないかなと思います。
なので、これまで話してきたことの全部の線みたいな辞書が、いわゆるこのMythosになってくるんじゃないかなと思います。
なので、この話は、危険なモデルが出たんでしょう?ということではなく、
もちろん危険なモデルなんだけど、危険なモデルが出たということだけではなく、
MythosはAGIそのものではないんですが、
AGIが来た時に起こるはずだった国家や企業の反応、これを先に現実化させたモデルなんじゃないかと、
いうことですね。ということで今日は、Mythos登場でAIは誰でも持てる時代を終えたんじゃないかというお話をしていきたいと思います。
では、Mythosがどういったものなのかということを知っている人も多いと思うので、重要な部分だけ抜粋して解説していきたいと思います。
Mythosの具体的な能力と事例
ではまず、4月7日にこのクロードMythosプレビューというのが発表されました。
そしてこのモデルは一般公開ではなく、防御的なサイバーセキュリティ用途に限定した招待制のプレビュー版ということですね。
このMythosは現時点で最も能力の高いフロンティアモデルと位置付けされていて、
ソフトウェアの脆弱性の発見と悪用という点で、ほとんどの人間より強い水準に達しているということです。
ではどういったソフトウェアの脆弱性があったのかということを3つだけ事例を出しますと、
1つ目が27年間見つからなかったOpenBSDの致命的な脆弱性というところで、
OpenBSDという安全重視で知られているOSがあるんですけど、
27年間見つからなかった脆弱性が見つかったということなんですね。
ただこれ自体も衝撃なんですけど、もっと本質的なのはこういうのって誰も知らなかったというより、
人が知らみつぶしに探すには手間がかかりすぎた領域でもあるということなんですね。
人間のサイバーセキュリティ人材というのは非常にコストが高いわけですね。
なので多層に防御があるので、攻撃しようと思えばできるけどもう面倒すぎるし、
そもそもコストに対してメリットがないというところで、やられていなかっただけのケースっていうのは多いんじゃないかなとも言われています。
なのでこの脆弱性が見つけられたことがすごいというよりかは、
コストの観点から従来人間がやるにはできなかったことがAIで一気に実行可能な領域に入ってきたというようなイメージですね。
実際にアンソロピックの公式でも脆弱性の発見から悪用までの時間というのが数ヶ月から数分に縮んだというふうにも言われていて、
非常にインパクトの大きいところなんじゃないかなと思います。
そして2つ目がサンドイッチ事件といって、これも知っている方多いと思うんですけども、
アンソロピックの研究者がMISOSにサンドボックス領域という閉じた環境に置いて、
今から公園に行ってくるからこのサンドボックスを抜け出せたら僕にメール送ってくれというふうに言った結果ですね、
公園でサンドイッチを食べている時に抜け出せたよっていう形でメールが飛んできたということですね。
つまりサンドボックスを突破できるというかなり衝撃的な事件ですね。
つまり自分のパソコンの中の安全な場所に置いていたのに脆弱性をついて脱出して、
本来アクセスしちゃいけないファイルにアクセスできるようになるわけですよ。非常に怖いですよね。
そして3つ目が4つの脆弱性を連鎖させて、
ウェブブラウザ向けのエクスプロイトというセキュリティの脆弱性をついて、
サンドボックスとOSサンドボックスの両方を突破したと言われていますね。
これは簡単に言うと脆弱性を見つけましたという話ではなくて、複数の欠陥を繋いで、
侵入経路を組み立てて、侵入ができたという話ですね。
早い話、ハッキングができたということですね。
これを自立的にやれたというのがかなり怖いところでもあるんですけども、
もっと驚くべきところで言うと、
サイバー専用モデル、ハッキング用にチューニングされたモデルなんだなって最初僕思ってたんですけど、
これは汎用モデルだそうでして、特にチューニングをするわけではないと。
汎用モデルでありながら、特にコンピューターセキュリティ領域で突出して強いということみたいですね。
これらの事例を受けて、普通の新モデルみたいに一般公開というのはせず、
世界で最も重要なソフトウェアを守るための取り組みとして、
プロジェクトグラスウィングというのを発足したと。
ですので、このプロジェクトに参加しているのも、
AWSとかApple、Google、Microsoft、NVIDIA、JP Morganとか、こういった大手が中心で、
今まさに40以上の追加組織を広げている段階ということですね。
そして、アンソロピックからこの参加しているプロジェクトに対して、
1億ドル分の利用クレジットを出すということも言っているんですよ。
これは世に出たら危ないからというのもありますが、
同様のモデルがもし出てしまったときに、世界で重要なソフトウェアが攻撃される恐れがあると。
プロジェクトグラスウィングとAIの統制
つまり、まず最初に防御を固めないとまずいということで、
防御の導入を加速するために補助金みたいな形で、
1億ドル分の利用クレジットを出しているということですね。
なんでわざわざアンソロピックがそんなことをしているのかなって思ったんですけど、
狙いはおそらく先にルールを握ることなんじゃないかなっていうふうに思っています。
強いサイバー能力を持つモデルが今後もっと増えると思うんですよね。
ですので、勝負はこのモデルを出すか出さないかという話ではなくて、
誰にどの条件でどういう監視付きでも出せるかっていうところのルール。
アンソロピックはおそらくそのデフォルトになりたいんじゃないかなっていうイメージですね。
なので、今まではずっと性能が云々観音という話をしていましたけれども、
性能ではなくて配付と統制、ここが争点になってきていると。
ですので、銀行業界とか規制当局っていうのもこのリリースかなり重く見ていて、
オーストラリアとかニュージーランドの中央銀行とかもMISOSを監視対象として今見てるんですって。
なので、どう監視してるかというと、アンソロピックとの直接対話、これを検討していたりとか、
MISOSのような先端AIでサイバーリスク化と変わるのかっていうのを議論していたりとか、
既存のサイバー実務の現状分析、把握であったりとか、
他にもNPCIっていうインドの決済アプリとか銀行が載っている共通インフラみたいなのがあるんですけど、
この共通インフラの元締めみたいな存在がMISOSに早期アクセスを求めてたりするわけですね。
つまり金融系がもし攻撃されたら大恐慌に起こり得るわけですよ。
というか多分世界がかなりやばいことになるので、実際にそういうハッキング化される可能性があるということであれば、
事前に防御をしっかり固めないとまずいという状況になってきているということですね。
ここまでの話もそうですし、世の中的に言われていることも踏まえると、
このMISOSというモデルが非常に危険であるということはもう皆さん認識としてはあると思うんですけども、
そもそもなんでこんなに強力になったのかというところをちょっと掘ってあげると、
これアルゴリズムの改善とかじゃないんですよ。
これ直接的とは言われてはないんですけども、
一応NVIDIAのブラックウェルというチップを使ったことによって、
その計算資源で重い推論を回せるようになったということがかなり大きいんじゃないかと言われているんですよね。
イメージとしては、より賢くなったというよりかは、
前ならコスト的に高すぎるコストというのが、
このチップのおかげで低コストで、現実的なコストで回せるようになってきたという方が正しいですかね。
つまり何が言いたいかというと、スケーリング則がまだ終わっていないということなんですよ。
Mythosの能力向上を支える技術的背景
今の現状でいうと、計算資源というのが明らかに足りていないという状況で、
電力だったり半導体の製造とかデータとか、いろんな制約が今あるわけですよ。
つまり現段階の制約がある中でもこれだけの能力を発揮しているということは、
まだまだスケーリングはしていくというふうに分析されているわけなんですね。
これは2030年までは学習スケーリングは続き得るというふうな研究とかもあります。
なので今回のMISOSみたいなモデルというのは、突然変異が起きたわけではなく、
未だ続いているスケーリングの経過途中みたいなイメージですね。
ちなみにNVIDIAは、このBlackwell Ultraというチップなんですけど、
昨年の3月に出しているんですよ。
これがリーズニングモデル、推論向けの進化版という形で出していたチップなんですけども、
なんとですね、今年の1月にRubinプラットフォームというのを打ち出していて、
このRubin系のチップはBlackwellと比べた時に性能がなんと倍になって、
推論コストを最大で10分の1まで下げ得るというような説明もあるんですね。
そしてこのRubinは、2026年、今年の後半からパートナー経由で提供開始というふうにも言っていて、
この対象も出ているんですけど、AWS、Google Cloud、Microsoft、Azure、Oracleなどの大手クラウドとか、
NVIDIAのクラウドパートナーを挙げているわけですね。
なので今年の後半にはもっとヤバいチップが出ると。
しかもですね、このRubinも量産体制に入っていて、
2026年後半にも出荷予定が言われているんです。
遅延とかもしかしてあるかもしれないんですけど、
今年の後半にはヤバいチップがまだまだ出てくると。
つまりですね、MISOSはこれだけヤバいって言われてますけど、
全然まだ経過途中っていうのが、もっと怖いところですよね。
新しいチップ出たら2倍の性能ですよ。
しかもコスト10分の1ですよ。ちょっと半端ないですよね。
ということでここからが本題みたいなものなんですけども、
MISOS見ていて僕が一番大きいなって思うのは、
強いAIっていうのはもう誰でも同じように持てるものではなくなり始めているなということですね。
理由はシンプルで、強いAI持つ相手によって意味が変わりすぎてしまうということですね。
この辺は当たり前っちゃ当たり前なんですけども、
例えば今回のMISOSのハッキング能力を攻撃側に使ったら、
結構ヤバいことができるわけですよ。
でもホワイトハッカー的に防御として使えば、先に脆弱性を潰せるわけですよね。
なので誰が持つのか、どういう目的で使うのか、
誰が監視に入るのかっていうのはすごく重要になってくるわけですね。
実はこういうのはアンソロピックだけじゃなくてオープンAIからも出ていて、
オープンAIは2月頃からTrusted Access for Cyberっていう枠組みを始めていて、
強いAIへのアクセス制限と競争優位性
これはサイバー能力の強いモデルを本人確認や信頼性の確認を通した相手に、
段階的に開いていくっていう仕組みを2月頃から始めているんですけど、
最近4月14日にこの枠組みを拡大していて、
GPT 5.4サイバーを最上位の認証済みユーザーに開きますっていうのを発表しているんですね。
ここで大事なのはオープンエンジンシーがよりパーミッシブ、つまり寛容にっていう、
通常より制限が緩いモデルですっていう風に言ってるんですね。
つまり最初の入り口の審査って非常に厳しいんですけども、
審査を通した相手には普通のモデルよりも制限をかなり寛容にした危ない能力を渡しているっていうようなイメージですね。
これまではとにかくモデルをアップデートして広く配る。
問題あったら後から考えるみたいな形で進めてきたんですけど、
もうそういうフェーズではなくなってきていて、
アンソロピックもオープンAIも強い能力だから最初に配る人を限定して渡している。
こういう状況になってきているということですね。
すごいことですよね。
モデルが出るたびにベンチマーク見てあれがいい、これが良くない、
そういう話で盛り上がってきてたわけじゃないですか、今までは。
そういうこともできないレベルに達してきてるんだなって思うと、
いよいよこういう話ってAGIを匂わせてきますよね。
なのでこれからの話はですね、AGIピルという話、皆さんご存知ですかね。
AGIピルというメガネをつけて世界を見ていくとまたちょっと違った視点が見えたりもするんですけども、
AGIピルというのが元をたどるとですね、Aがマトリックスに出てたモーフィアスが
救世主のネオに赤いカプセルと青いカプセルを出して、
真実を知りたいなら赤いカプセルを飲んで、
青のカプセルを飲んだら目が覚めたらベッドでこれまでと同じ日常だみたいなことをする、
もう名シーン中の名シーンがあるんですけど、
そこで不思議の国のアリスに行くには赤いカプセルだということで飲んでいくんですけど、
真実を見ていくわけですね。
そこから比喩されているみたいなんです、このピルっていうのは。
なのでAGIという世界で物事を見ていくと、
AGIピルの視点と社会への影響
AIの未来がどうなっていくのかっていうのがより面白く見えてくると。
このAGIピルの視点で見るとミソスはめちゃめちゃ重要でして、
なぜかというとAGIそのものが来る前に、
AGIが来た時に起こるはずだった社会の反応っていうのが先に始まってるよねっていう最初にお話ししたことですね。
これがミソスの本当の意味なんじゃないかなと思っていて、
AGIってつい人間みたいに何でもできる知能が完成して何でもできちゃうみたいな、
そういうのを想像しがちなんですけども、
実はそうじゃない可能性が高いかなと思っていて、
むしろ先に起こるのは一部の重要領域、今回で言えばこういうサイバーセキュリティの領域で、
人間の運用前提を壊すほど強い能力が出ることなんですよね。
その領域が今回サイバーだったということで、
確かにもう人間の運用前提を壊すほど強い能力だなと思うんですよこれって。
イギリスのAIセキュリティインシチュートっていう評価があるんですけど、
これは何かっていうと、
AIに社内ネットワークへの侵入から乗っ取りまでを模した実技試験みたいな評価なんですね。
この実技試験を実際にやらせるんですけど、内容としては一問一答ではなくて、
32個の工程を順番につないでいって企業ネットワークを攻撃していくっていうようなシミュレーション内容で、
イメージとしては最初に偵察して、
弱い入り口見つけて侵入して、権限を広げて、違うマシンに移動して、
最終的にはそのネットワーク全体を掌握するみたいなハッキングの流れですね。
その32ステップっていうのを10回MISOsにやらせた結果、
3回最後まで完走したということですね。
10回中3回は乗っ取りができたと。
平均でも32ステップ、12、12ステップまで進めているということで、
結構そのヤバいような数字が出てしまったっていうことですね。
なのでちょっとAGAピルの話に戻すと、こういったことを受けて、
ちょっと賢いとかっていうレベルではなく、もう防御側の前提を変えなきゃダメだねっていうような状態になってきたので、
国家とか企業とかがこれは普通に市場へ流してはダメですねっていうような判断をし始めたっていうことの方が大きいと。
ちょうど本当、今日なんですけど、マイクロソフトが実運用に組み込んでて、
中央銀行とかの監視も入ってて、
こういう金融セクターがもう準備を急がなければならないっていうような形で、
招待制で配布されると。
この一連の反応、流れってもうまさにAGA出た時のような状態に近いなって思いますよね。
Claudeの価格改定とAI利用の再設計
ちょっと一見関係なさそうに見える話もするんですけど、
クロードコードが最近ですね、料金形態をABテストしてたっていうことがバレて炎上したっていう話なんですけど、
この今のミソツの話と続けてみると意外と面白くてですね、
4月21日にアンソロピックの価格ページで一部新規ユーザー向けにプロ、真ん中のプランですね、
20ドルのプランではクロードコードが使えず、
クロードコードはMAXのみですよっていうような表示が出回って、
このコミュニティでざわつきがあったんですね。
その後、アンソロピックはこれは新規ユーザーの2%に対する小規模テストだったんですけど、
間違えて全部に公開しちゃったみたいな話だったんですね。
現時点ではプロでもクロードコード含まれますよって明記されてるんですけど、
じゃあこのABテストしてたっていうことが、
こういう強いAIを誰でも同じ値段で同じ条件で配れる時代の終わりの匂いがしてきたなと思ってるんですね。
アンソロピックの説明を見ると、今の利用実態はMAXプラン、100ドルのプランを出した当時の想定を超えていて、
しかもここ最近の急成長でインフラにかなり強い負荷がかかっていると言ってます。
つまりクロードコードみたいなツールですらアクセス設計とか利用条件とか料金っていうのは再設計せざるを得ないよねっていうふうにおそらく考えてるんですよね。
この辺の価格帯って最初に出した時からほとんど変わってないと思うんですけど、
当時はこんなに何時間も走るエージェント利用っていうのは想定してなかったし、
正直今の利用実態に既存サブスクの設計が合わなくなってるよねっていうのは言ってるんですよ。
なので実際にオープンクルーのようなハーネス経由の利用っていうのはサブスクワから外されてますし、
重量課金とか追加バンドルみたいなのに寄せる変更も行われてるんですよね。
しかもここ数週間でクロードコードの推論深度っていうのも調整されたっていうこともあって、
性能が落ちたみたいなのがちょっとざわついてたじゃないですか。
そういったことを線で見た時に、短期ではただの失敗ミスっていうことだと思うんですけど、
それすらもちょっと怪しいですけどね、あえてそう言ってるだけのような気もするんですけど、
おそらく長期では再設計っていうのはほぼほぼ確実じゃないかなと思いますよね。
同じ金額ではおそらくもう使えなくなってくるんだろうなっていうふうには思いますよね。
そうなってくるとおそらくOpenAIとかも変わってくるだろうし、
Jminiとかもさすがにこのモデル無料で使えるのやばいよねっていうのはずっと思ってましたけど、
いよいよお金出さないと使えなくなってくるようになってくるんじゃないかなって思いますね。
なのである日突然AGIが完成して世界が一変するみたいなことではなくてですね、
最初に来るのは強いAIの完全非公開、非公開リリースとかもしない、もう完全なる非公開があって、
信頼性ごとの限定アクセスがあって、その後価格に応じたアクセスができて、
いうような形でリリースの優先順位っていうのがやっぱりつけられてくるんだろうなって思いますよね。
なので誰がこのアクセス権を取るのかっていう点も大事ですし、
AI格差の拡大とAI大戦争の時代
このアクセス権をAI企業側が握ってるっていうのもやっぱり一つのリスクではあるようなとは思いますよね。
ということでもうAGIの世界っていうのはかなり近くまで来てしまってるなっていう風に感じざるを得ないモデルですね。
だからこれまではAI使える人と使えない人のAI格差が広がるみたいな話をしてましたけども、
今後はそれだけではなくてですね、強いAIにアクセスできるかできないかの格差も広がっていくだろうなって思いますし、
そうなっていくとアクセスできることが競争優位性につながったりとか国家安全保障にもつながっていくので、
それこそチームミライの庵野さんに関しては、いかにこういうのにアクセスできるかっていうのは非常に大事だということで提言もされてますし、
いよいよAI大戦争に突入してきたなという感じですね。
そういったAIの未来の最初の事例になったんじゃないかなっていうふうに思いますね。
まさかにアンソロピックが最初の事例になるとは思わなかったですけどね、オープンAIかなって思ってましたけど。
ということでいろいろ話しましたけども、未来話をずっと聞いてくれていた方はですね、
前からそれ言ってたよねみたいな、それの総まとめみたいな感じに思ったかもしれないんですけども、
静かにマウント取っていただいてっていう感じですね。
それでは番組の感想、質問、深掘りしてほしい話題をお待ちしています。
お便りフォームは概要欄からお待ちしています。
AI未来話の番組フォローとレビューもお願いします。
番組のまとめと今後の展望
来週は木曜朝7時1分にお届けします。
通勤通学の30分にAIの未来をキャッチアップしていきましょう。
それでは本日もありがとうございました。
