では早速一番衝撃的だったフェイブルファイブが停止してしまった件について話していきたいと思うんですけど、
まず事実関係整理しますと、これ現地時間で6月12日の金曜日の夜、 アンソロピックが新モデルのフェイブルファイブ、
それから前回取り上げたミソス、正式にはミソスファイブという呼び方もされますが、 この2つのアクセスを全顧客に対して停止しました。
一部ユーザーではなく全員です。 これ順番が結構大事でして、最初に動いたのはもちろんこれ政府なんですけど、
米国政府が国家安全保障上の権限を使って止めたと。 この権限の中身なんですけど、実は全ユーザーじゃないんですよ。
これ実際に出された指令っていうのが、すべての外国籍者に対してアクセスを禁止するっていう内容なんですよね。
しかもこれアメリカ国内にいるか国外にいるかというのは問わずに、 さらにはアンソロピックで働いている従業員で外国籍の人も対象と。
つまりアメリカ人以外にはもう触らせるなという指令が出たわけなんですよ。 ここかなりで重要なポイントなんですけど。
ここからアンソロピックの判断で、じゃあ外国籍の人だけ寄り分けて止めるみたいな仕組みはさすがに現実的じゃないよなっていうことで、
指令を確実にするためにアンソロピックの判断で、外国籍じゃなくても全部止めちゃおうということで全部止まったっていう流れなんですよね。
なんで政府がそこまでしたのかっていう表向きの理由は、 ジェールブレイクなんですけど、脱獄ですよね。
AIの世界だとこういう脱獄って言って、安全策っていうのをかけられたんですけど、 正義を回避する手口のことを言ってて、
どういうふうなジェールブレイクされたかっていうと、モデルにコードベースのソースコードを読ませて、 その結果を直させるっていう使い方をしてジェールブレイクしたと。
まあ割とシンプルな方法でできてしまったっていうことですよね。
前はうっちー先生の回でも喋ったんですけど、やっぱジェールブレイク防ぐのって相当難しくてですね。
今回フェイブルーファイブはかなりセーフティーかけてたので、 そのセーフティーかけすぎて一般的な回答もホールバックしてオーパスの回答になってしまうみたいなことがあって、
海外コミュニティとかだとかなり炎上してたんですよね。
コードを読んでその不甲斐を直してっても当たり前にやるじゃないですか、コーディングやってる人なんて。
だからこんな当たり前の使い方で脆弱性を見つけ出すみたいのは、やっぱセーフティーかかってないよねっていう判断になったかつ、
フェイブルーファイブがあまりにも能力が高いっていうところで、 確かにね頭1つ2つ3つぐらい抜けてるレベルの良さは感じたので、
これはさすがに武器になるだろうということで止めたということなんでしょうね。
ただこれはアンソロピック側は結構反発してて、公式の声明でごく狭い潜在的なジェールブレイクが1個見つかったからといって、
すでに数億人に提供している商用モデルを丸ごと止めるっていうのは筋が違うだろうと。
もしこの基準を業界全体に当てはめたら、フロンティアモデル、最先端モデルの新規リリースっていうのは事実上今後すべて止まるだろうっていう主張をしてるんですよね。
まあそれもね、それでもうモッドモーダーだなという感じがしますよね。
まあでもこれねすごい話だと思うんですよ。
未来話ずっと聞いてくれてる方はね、ついにこういう世界になってしまったかと思ってるんじゃないかなと思ってるんですけど、
前回のMITOSの回でもね言いましたけど、強いAIはもう誰でも持てなくなると。
もうあの国家とか中央銀行とか強い権力のところが監視に入ってくるであったりとか、もう信用がないと使えないモデルになってくるみたいな話をしたと思うんですけど、
それがもうこんなに早くね影響が出るとは思わなかったですね。
まあということで、まあ想定した通りの方向に進んでるなというふうに感じましたね。
で、ここからですね、今日一番話したかったとこなんですけど、
アンソロピックの公式Xでフェイブル5止めますってなった時に、そのツイッター、まあXのリプ欄がですね、もう大炎上してまして、
この炎上の内容がですね、いろいろあるんですけど、国家がAIを止めたから、もう怖いよねっていうそういう表面的な驚きの話じゃなくて、
根っこにあるもの、それがこれ本当に安全のために止めたんですかっていうところなんですよね。
いやまあそれもね、もちろんあるんだけど、ちょっと僕の考察をね話させていただくと、
まず大前提として、まあ異例じゃないですか、異例というかもう初めてのことじゃないですか、こういうモデルを止めるっていうのは。
もともとアメリカの移出規制って半導体のチップとかね止めてましたけど、こういうの中国に売るなよって、物理で止めたところが、もうソフトウェアを止めるなんて結構すごいことですよ、本当に。
このソフトウェアは使わせませんみたいなね。まあSNSとかはね、もろもろありましたけども、だからこれ短髪のニュースっていうことではなくて、国家がAIを止めるというのは何を意味するのかっていうことを考えると、いろんな解釈がね取れると思うんですよ。
で、その前提として置くべきところっていうのが先ほどの指令の中身なんですよ。先ほどお話しした外国籍をお断りする、つまりアメリカ人以外触るなという指令ですよね。ここがかなり僕肝だと思っていて。
要はね、これ中国に渡したくないんじゃないっていうこともあると思うし、他国にこの技術が漏れることが怖いということで、特に中国には渡したくないのではというところなんですね。
ここでキーワードになるのが上流っていうもので、英語で言うとdistillationって言いますね。これディープシークの時にもありましたけど、強いこういうAIに大量の質問を投げて、その答えを片っ端から集めて、それを教材にして安くコピーモデルを作るっていう手口ですね。
これを使うと最先端のGPU、チップがなくても最大で100分の1ぐらいのコストで本家に近い性能のモデルが作れてしまうっていうものなんですけど、この上流を使って中国はアメリカの最先端モデルについてきたと言われてるんですね。
実際アメリカは今年2026年の4月からクローズドなモデルの重み、モデルの中身ですね、これ自体を輸出規制の対象にし始めてたんですよ。つまりチップだけ止めてもモデルが上流されたら意味ないよねっていうことで、モデルへのアクセスを止めるっていう流れがそもそも4月ぐらいから入ってたわけですよ。
そう考えると今回の外国籍は自社の従業員ですら触るなっていう指令は確かに筋が通ってくるんですよね。
フェイブル5は元々MUTOSを基盤に作られたモデルなんで、サイバー能力がかなり突出したモデルなわけですよ、元は。
セーフティーはもちろんかかってますけどね。ただそのセーフティーがジェイルブレイクされるのであれば、中国をはじめ他の海外勢に上流されて、これもう防御どころか最強の攻撃ツールの作り方をこっちから教えるようなものじゃないかと。
だから安全のためっていうのはもちろんそうなんですけど、アメリカ以外にこの能力を持たせないためっていう開発競争で優位を取るためにこういったことをやったんじゃないかっていうふうに呼ばれてますね。
もっと言うとですね、秘密のサボタージュ相当っていうのがその種にあったんですけど、さっきお話ししたホールバックするっていうところですね。
つまりフェイブルファイブにセーフティーのかかるような質問をしたとするじゃないですか、一般的な回答だったとしても、その時に通常だとそれは答えられませんって警告が出るんだけど、そうじゃなくてバカなふりして手を抜いて答えを返すっていうことを悲徳してやってたっていうことですね。
これがめっちゃ炎上してたんですけど、秘密にするなよと。ホールバックしたならホールバックしましたよって言ってくださいよみたいな。バカなふりをして今答えましたって言ってくださいよみたいな話ですね。
で、アンソロピック側は判断を謝りましたすいませんって言ってちゃんと表示するようになったんですけど、その矢先ですよね。今回停止の事件が出たっていうことですね。
で、なぜこれが炎上したかっていうと、この仕組みは結局今トップにいる研究室、ラボだけが最先端モデルを使いて競合を妨害できるっていうことじゃないですか。だからAIのフロンティア化っていうのは進むんだけど、力の不均衡が拡大するよねと。
だから今日の話の確信はこれなんですよ。このアンソロピックの研究者もこういう強いAIの能力を一箇所に集中させるというのは結果的に科学と技術の進歩を遅らせる。人類にとって差し引きマイナスであるっていうふうに言ってるんですよね。
あともしかするとその政治的な話で止められたんじゃないかっていう説もあって、アンソロピックとトランプ政権ってかなりバチバチに揉めてたじゃないですか。いわゆるもっと自律兵器に使わせてくれよみたいな。監視に使わせてくれよみたいな時にアンソロピックがいやそういうことはやらないって言って、むしろそのブランドをバリューアップしたような内容だったんですけど。
その弊害と言ってはなんですけども、トランプ政権とずっとバチバチだったと。なんでずっと喧嘩してたから腹いせに止めたっていうのもあるんじゃないかみたいなね。そういうのも言われてますね。
ただ結果的にアメリカのAI派遣を固めることになるからアンソロピックはむしろ得してるんじゃないかみたいな声もあったりとか、もう無茶苦茶ですよね。いろんな考察が出てしまっていて。
ただファクトで言うと安全保障という権限を使って止めたと。これだけは確実で、かつ外国籍者に対して規制を最初はかけたっていうところなんですよね。ここに対してどういう解釈が生まれるか考察が生まれるかっていうのはいっぱいありますけど、
かなりやっぱりAIの知性が頭が抜けてきてしまっていて、非常に世界に影響を与えるレベルのものになってきたっていうのはまず間違いないんじゃないかなと思います。
はい、というところで、今日はですね、いろいろ話しましたけども、
フェイブル5の停止、アンソロピックの上場と黒字化、SpaceXの史上最大のIPO、オープンAIが赤字、延期論、値下げ、これですね、全部線でつなげてみるとですね、
AIがついに資本市場のフェーズに入ったっていうことなんじゃないかなと思っていて、
どのモデルが賢いかっていうベンチマーク勝負だったんですけどね、これまで。
今はとにかくマネーゲームになってしまったということです。
誰が資源を確保するのか、その資源を確保した奴が勝つんだと。
とにかくSustainableも殴り合いになってきて、インフラ勝負になってきたっていうのが、前から言ってますけどね、そういう感じになってきたなって思いますね。
MUTOSの回でAGIピルの話をしたんですけど、
AGIっていうのはある日突然何でもできる知能が完成して、世界が一変するみたいな話ではなくて、
まず一部の領域で人間が運用前提を壊すほどの強い能力が出て、それに対して国家とか企業が過剰なくらい反応するっていう形で、
社会の方が動き出した瞬間っていうのが、やっぱりAGIが登場する前夜というか、前触れだと思うんですよね。
で、今回まさにそれが起きたわけですよ。
なんならですよ、アンソロピックの内部ではもっと高性能なモデルを持っている可能性があるわけなので、
2027年にAGIが出るというような予想はかなりこのタイムラインに沿っているなと思いますね。
なので、MITSの回でもお話ししましたけど、強いAIっていうのはまず完全に非公開である。
その次に信頼できるIDだけに限定アクセスがされて、その次に価格に応じたアクセス。
そして今回みたいに国籍とか国家安全保障で線が引かれて、リソースにはっきりと優先順位とか資格がつく時代になるだろうなと思いますね。
なのでそうするとこれまで話してきたAIを使える人と使えない人の格差だけじゃなくて、
アクセスできる国とか企業とか個人とできない側の格差っていうのはもう圧倒的に開いていくなと思います。
これは僕もやっぱクロードコードもそうだしコーデックスを使ってて思いますけど、
本当に使えない人と使える人の差はもう半端じゃなく変わってくるなっていうのはより感じるんですよ。
もうこの溝はなかなか埋められないだろうなと思っちゃいますね。
し、さらにそこからアクセスできる云々で差が開いたらかなりもう差は出るだろうなと思いますよね。
いやでもまさかアンゾロピックがまさか国家にモデルを止められる最初の事例になるとは思いませんでしたけどね。
やっぱ最初は我らオープンAIかなと思ってたんですけども、いずれにせよAI大戦争がどんどん進んできてるなというような感じです。
ということで今日のこの一連の出来事をですね、後から振り返った時にもう歴史に残るようなAIの未来の最初の事例として語られるんじゃないかなと思います。
ということで今日は以上でございます。ありがとうございました。
番組への感想、質問、深掘りしてほしい話題などお待ちしています。
お便りフォームは概要欄からお待ちしています。
AI未来話の番組のフォローとレビューもぜひお願いします。
来週も木曜日にお届けします。
通勤通学の30分にAIの未来をキャッチアップしていきましょう。
それでは本日もありがとうございました。