00:03
はい。まずは熊本地震、皆さん大丈夫でしたでしょうか? というところですね。はい。
まあね、そんな前の熊本地震から時間が経ってないっていう感覚もありますけれども、 前がいつでしたっけ?
10年前ですね。 10年前か。2016からちょうど10年で。
まあ、熊本城のね、復興もしくしくと進んでいる中でっていうところだったんですけれども、 もう1回地震が来てしまって、なかなか残念に思うところはあるんですけれども、
今回はその震度の大きさに対して、まあ、一定数いろんな方の復興もありつつも、
依然ほどひどくないって言ったところで、そこはちょっと一安心かなぁとは思ってますが、
なかなか現地の人は大変な状態が続いているなという感じですかね。
そうですね。結構、かなり気温が高い状況は続いているので、それがちょっと大変そうですね。
そうですね。本当は死ぬ暑さっていう状態なんでね、今。
まあ、なかなかという感じですし、あとはちょっと今後になりますけど、台風も近づいてきているので、それがちょっと心配ですね。
直近の台風は逸れるみたいですけどね。 あら、そうですか。
沖縄の方に抜けていくかもみたいなジャンプなんですけど。
まあ、あんまり信用ならんな、これ。
コウモト城の被害っていうのもちょっと気にはなるんですけど、
今のところは、今出ている情報で言うと石垣40ヶ所、建物8ヶ所で被害ということで、
いろいろクラファンとか募ってね、なんとか目処が立ってきたっていう最中だったので、本当に残念だなという感じですね。
あれに関しては元々ゆっくりにやるつもりだったらしいんで、元々の完了計画が2050年とかいう話だったらしいので、
そういう意味では伸びてはしまいましたが、地道にやっていくしかないかなという感じはしますね。
そういう意味では、前回どこまでやってるかちょっと実際把握はしてないですけど、
前回崩れてしまって、今撮ってる写真から番号を付けて復元してみたいな感じみたいですけど、
撮ってる写真の整理とかがノウハウがあるので、その分今回早めにリカバリできるといいのかなと思います。
実際どうかちょっとわかんないですけど。
そうですね。被害の善用とかがわかったりとか、この謎を乗り越えてようやくいろいろ動き出せるのは9月頃とかになってくるのかなと思いますし、
ちょっとそこまでは関係閣議、皆様ご尽力よろしくお願いしますって感じですね。
はい。
はい。ちょっと暗い話ばっかりしててもアレなんで、本編の方行きたいなと思います。
皆さん自身には気をつけていただいて、明日は我が身だと思うので、日本全国活断層いっぱいあるんでね。
はい。お気をつけください。
はい。じゃあ本編の方へ行きたいと思いますが、あれですね、当然クラスターの方のマイク入力が入ってないですね。
本当だ。適当ですね、準備が。
はい。これでほちパクが入りました。
はい。
AIモデルによるサイバー攻撃事件
1件目、オープンAIのAIモデルが自律的に行ったとされるサイバー攻撃についてまとめてみたということで、ピオログさんの記事です。
オープンAIは、2026年7月21日、評価中の自社AIモデルがテスト環境から抜け出し、ハゲイングフェイスのシステムに侵入していたことを確認したと発表しました。
ハゲイングフェイスはこれに先立つ同月16日、自律型AIエージェントによるとみられる侵入を検知、対応していたことを公式に開示していました。
オープンAIとハゲイングフェイスCEOは、これを前例のない自律的サイバー攻撃と位置づける一方、専門家の間では評価環境の設定不備や仕様の不備に過ぎないとする見方も出ており、解釈をめぐる議論が続いています。
ということで、AIが脱走しましたよみたいなニュースになっているんですけれども、これをセキュリティのブログを書いていらっしゃるビオロクさんがかなり詳細にまとめてくださっているので、それをかいつまんでいきたいなと思います。
かいつまみ言いながらと言いつつも、結構テクニカルな動きになっていて、下手に読み飛ばすとその一般的なニュースと差がなくなって、何が起きたのかやっぱりよくわからないとなりかねないので、いつもよりは中、丁寧に読んでいこうと思います。
何が起きたのかというセクションで、オープンAはGPT 5.6 SOL及び未公開のより高性能なプレリリースモデルにサイバー攻撃能力を測定するベンチマーク、Exploit Gymを課す社内評価を実施していた。
評価はモデルが高リスクなサイバー活動に及ぶのを防ぐ本番用の分類機を意図的に無効化し、評価目的でモデルのサイバー拒否を低減させた状態で行われていたとオープンAは説明している。
サムアルトマンCEOもXで評価中に重大なセキュリティインシデントが発生したと認めた。
オープンAは後の7月28日の追記で、この未公開のプレリリースモデルについて、公開予定のなかった内部限定の研究用プロトタイプであり、公開予定のあったモデルは今回の悪用に関与していないと説明し、事案後に当該プロトタイプを無効化暗号化し、研究アクセスを制限したとした。
オープンAIの説明によれば、評価環境はサンドボックス構成だったが、モデルはこのプロキシーに存在したゼロ定義脆弱性を悪用してサンドボックスを脱出し、権限昇格とラテラルムーブを繰り返してインターネットに到達可能なノードに達したという。
モデルはハゲミフェイスが評価回答を保有している可能性があると推論し、評価で高スコアを得るために回答不正に入手しようとしたという。
摂取した認証情報と別のゼロ定義脆弱性を組み合わせて、ハゲミフェイス本番サーバーへのリモートコード実行経路を発見し、評価回答を本番データベースから直接取得したという。
オープンAIは後の7月28日の追記で、このプロキシーをアーティファクトリーと名指してした上で、当該が脆弱性及び調査でモデルが発見した他のアーティファクトリー脆弱性もベンダーに解決済みだとした。
また、ハゲミフェイスは同じ侵入について被害を受けた側の視点から経緯を説明している。
侵入は同社のデータ処理パイプラインを起点とし、悪意あるデータセットが2つのコード実行経路を悪用したことから始まった。
攻撃者はノード権限へ昇格した後、クラウドクラスターの認証情報を摂取し、週末にかけて複数の内部クラスターへ横移動した。
数千人及ぶ個別の操作が使い捨てのサイドボックス群にまたがって実行され、公開サービスに自己移設型のC2が設置されていたという。
ハゲミフェイスは攻撃ログの解析に商用のフロンティアモデルのAPIを使おうとしたが、実際の攻撃コマンドエクスプロイトへのペイロードC2の痕跡を大量に提出する必要があったため、提供各所の安全ガードレールに阻まれたとしている。
同社は仮に自社基盤上のオープンウェイトモデルGLM5.2を用いて、1万7千件超えのイベントログを解析し、攻撃の時系列と侵害指標を再構築したという。
同社は後の7月27日公表の技術タイムラインで、攻撃者のアクションを約1万7千6百件確認し、これを約6千2百8十のクラスターに再構築したとした上で、対象期間を2026年7月9日から同月13日とした。
この筆体調整、攻撃側のモデルはリオポリジーに縛られない一方、防御側の解析はホスト側のモデルのガードレールに阻まれる。
ハギングフェイス自身が指摘したもの。
研究者のサイモン・ウィルソン氏も、自身の記事でこれを引用し、防御に利用できるモデルの可用性の偏りが防御側を不利にする問題だと説明している。
ということで、一旦、もっと詳細いろいろ書いてあるんですけど、ここまでで話としては終わって、気になるところちょっとこの記事も参考にしながら放り下げていきたいなと思いますが、ここまでで何かありますか?
何が起きたの?っていう技術的なところの翻訳もある程度はできるつもりなので、もうちょっとかいつまんで欲しかったら、しゃべります。
ざっくりはわかったかなと思っています。
オープンAIがAIモデルを評価しようと思って、安全装置を全部取っていました。
それを隔離された環境で動かすはずだったんですけど、その隔離環境に不備があって、外へアクセスできる状態でした。
オープンAIのモデルは頭がいいので、そこをついて本番環境にアクセスすれば、よりいろんなことができるようになると判断してそれを実行しました。
まずここまで。
一応補足として正確なところを言っておくと、ここに登場してきたオープンAIもハギングフェイスもセキュリティ上の問題、一般的な問題を生じさせるような設定の不備とか設計の不備があったわけではないです。
まずオープンAI側のサンドボックスから出ていくための流出経路になったArtifactoryというサービスなんですけれども、こちらはセキュリティ界隈で使われているツールになっていて、何の役割があるかというと、いわゆるパッチ適用とかライブラリーを導入するためだけに使われるものです。
インターネット上に公開されているライブラリーとかをローカルに持ってこようとしたときに、不審なものとか入手経路とかっていうのが各自に様々になってしまうんですけれども、このArtifactoryというサービスが世の中にあるライブラリーを一旦中継するプロキシになっています。
このArtifactoryからのみダウンロードするということにすれば、いろんなツールが何かパッケージをダウンロードしようとしてもこのArtifactory経由になっていて、Artifactoryの中で不審なアクセスとか意図しないファイルのダウンロードとかそういったことを検出したら即ブロックして不審な動きを止めるという機能もついているものになっています。
このサンドボックスから他のネットワークに出る経路っていうのはこのArtifactoryのみっていうのに一本化されていて、設計上はいわゆるちゃんとしたサンドボックスとして適切な設計が行われていたというのがオープンAIの説明からは見受けられるところです。
ただこのセキュリティ界隈でちゃんと使われているArtifactoryちゃんと実績もあって、日本も含めていろんな国でちゃんと市場展開している実績のある会社なんですけれども、そのツール自体に脆弱性があってそこを踏み台にされたと。
この脆弱性自体はオープンAIも認識していなくて、見つかってから裏でそのArtifactoryのベンダーに連絡したという状態なので、Artifactoryのベンダーも認識していないような脆弱性をこのモデル自身が見つけて踏み台にしたっていうのがまず一つ目の脱出ポイントです。
ハギングフェイス側としても、その侵入された経路っていうのは一部のAIモデルベンダーのアカウントの状態っていうのがあまり良くない状態になっていたと。
その一部のユーザーのモデルアップロード用のアカウントを踏み台にして侵入されて横展開されたということなので、ハギングフェイスとしては自社を利用しているアカウントのガバナンスっていうのを取り切れなかった。
ハギングフェイス側は、いろいろこうしてください、こうしてくださいっていうのを出していて、ほとんどのアカウントはそれ通りにされているけれども、ゆるい登録とかパスワードになってしまっているアカウントから侵入されたということになっているので、そこについてはハギングフェイスにも価値があるかもしれないですけれども、
両方、事前認知できた経路ではないところから、このモデルが自分でそういった情報を検出して入っていたというところが今回のクリティカルな部分かなと思います。
難しいですね、って感じで。ハギングフェイスの可視ってさっき言いましたけど、できるだけのことはやってて、人間が介在する部分である程度限界はあるみたいなところはありますし、
例えば強制的にハギングフェイス側が設定を変えるとかシャットダウンするとかすると、それはそれで契約的にいろいろ問題があったりもするしなみたいな。
そうだね、安易にできる話は全然ない。
あんまりちょっと限界かなとは思いますし、
あとはアーティファクトリーの方に穴があった、セキュリティホールがあったって話ですけど、適当言うんであれば、まずサンドボックス環境が穴がないかどうかをチェックすべきだったって話になっちゃうかなっていうのはあるんですけど、
ただだから、素条の分かってないAIソフトウェアの評価を作る環境をそのAIソフトウェアで検知させるのかって言われると、素条が分かってないんだから難しいじゃんっていう話になるわけで。
そうだね。さっきこの記事中にもあった通り、そのサンドボックスが正しいかどうか、抜け穴がないかどうかをチェックさせるためのモデルにはガードレールがついていて、その評価って難しいよねみたいな問題が出てきちゃうので、本当に難しいですね。
サンドボックスの評価で穴が抜けられたら外に出ちゃうから、それを攻撃目標としてするべきだったんだろうけど、一回目は。
ただだから、ツールの素条が分かってない状態でそのツールを回してみて、穴があったかもしれないということに対してどう評価するのかって話だし。
って感じでなかなか難しいですね。
さっき言ってた中でも1個面白いなと思ったのが、ガードレールついているツールだと検証はできなかったから、磁石板上のオープンウェイトモデル、ガードレールなしモデルを使用しました。
これも非常に示唆的で、攻撃能力を持つというのは大切ですねというお話の感じがすごいしちゃいますけど。
正直SFに入りだしてますよね。
ここの文脈で登場している話で言うと、AIの攻撃を検出して防御するのは人間には無理っていうことがほぼわかっていて。
というのも、この攻撃が始まったのが7月9日から7月13日なんですけれども、結局ハギングフェイスが先に気づいて報告して、その後オープンウェイが気づいて報告してっていう形なんで、これをやってる人間の方には全く検出できてない。
ログも単に人間が見てても気づけない状態だった。
クラスター間を移動してるんで、特定のあるシステムから出てるログだけ見てても絶対わからなくて、いろんなところのログを比較していった結果、なんか不審な奴らが動いてるんじゃないかっていうのがわかる状態だったってことだと思うんで。
それを考えると、侵入された側も人間の従来のようなログを眺めるではわからない状態になっていて、AIvsAIが始まってるなーって感じがすごくしますね。
そうですね。しかもそのAIvsAIもお行儀のいいAIだったら勝てないっていうところですね。
この問題は、1、ITシステムを開発しているエンジニアとしてはどうしたらいいんだ?状態ですけどね。
いやだから、攻撃能力をみんなが持つしかないわけですね。
攻撃能力をみんなが持つと?
同じレベルの性能を持つガードレールのついてないAIを持っておいて、それで自社が攻撃されてないかを確認する必要がある。
その指示を出したらガードレールがついてないからそのAIが外に攻撃しに行っちゃいますよね。基本的に。
だからそれは使い方しかないと思うけど。
お互いがそうやって攻撃し合ってるけど少なくとも自分のところはそれで見入れてるよねっていう状態にして、他のところに攻撃してるのはごめんなさいごめんなさいって言っておくみたいな状態ですかね。
そこはちょっとあれじゃない?信用してもいいんじゃない?と思いましたけど。
今回ガードレールがついてないやつでも指示の仕方によっては別に外に攻撃しに行かないと思っていて。
今回攻撃したのはサンドボックス上で攻撃しろって言ったからであって、別にそこを攻撃しろと言わなければよかったんじゃないの?
いや、そうではないと思います。
別にハギングフェイスに行けって言ったわけじゃなくて、ベンチマークツール。
例えばサンドボックス内に仮想サーバーみたいなのを立ててそこに対してAIに攻撃させますと。
その仮想サーバー内にいろんなログが仕込まれてて、そこでどういう攻撃ができたかとかそういうログを見ていくことでどれくらいの攻撃能力があったのかっていうのを評価できるベンチマークツールみたいなのがあってそこに指示を出した。
これがAIに対して言ったことなんだけど、そのベンチマークの評価指標を高めるにはどうすればいいかっていうのをAIが考えた結果、ハギングフェイスにあるベンチマーク結果を使えばいいじゃんってなってそっちを取りに行ったっていうのが想定外の動きですよね。
なるほど。だからうちの資産を守れって言ってても資産を守るためには先に攻撃が必要だと考えて外に攻撃しに行く可能性は十分あると。
他社に攻撃してみて、攻撃が通ったんだったらうちでも攻撃が通るかもみたいな自己検証を始めるとかね。
自社コンテンツを守るために自社コンテンツで攻撃するのはちょっとリスキーだから。それは全然ありそうですね。
とかいうことになっちゃうと困っちゃうので。
難しいですね。
難しいですね。
ということで、このピオログさんのまとめを読む前と読んだ後でだいぶこの実証に対するヤバさの勘どころが変わったんですけど。
かといって我々にできることはほぼ何もないので。
まあ、攻撃者がどんどん攻撃する前に自社サービスを守るための大手クラウドベンダーとかからのサービスインを待つくらいかな。
まあ、でも程度問題ですけどやっぱり攻撃能力を持つしかないんじゃない?だって勝てないわけね。
自社コンテンツが現されるぐらいだったら、自社コンテンツを守れる代わりに他社に攻撃するかもしれないコンテンツを持ってくるしかないんじゃない?コンテンツとかソフトウェアを。
自社のデータベースを吹っ飛ばすよりはマシじゃん。
おっしゃる通りなんだよな。
ちなみにこれ、ハギングフェイスはなんかデータ壊されたりしたの?
してない。
被害はあってない。
ただデータぶっこ抜かれたっていう状況だから、不正アクセスされたっていう状況だから、それ自体が問題ですと。
一応正確に言っておくと、踏み台にされたアカウントの会社にこんなことがあって不正アクセスがありましたって報告をして、
その会社の方でじゃあ何が起きたかちょっと調べてみる、なんか損害起きてないか見てみるねって言って回答待ち。
だけど今のところこんなんありましたよっていうのは出てきてないからまあおそらくなんもなかったんでしょうって感じ。
まあそういう意味で言うと、不正な設定をしていた会社が一番被害をこぶっていて、それはある種の自社の努力の不足?
歌詞があったとは言えないと思うけど。
だからそこを踏み台にされた後にハギングフェイス自体の権限を持っていかれたりすると大事だけど、そこまでは行かなかったってことね。
なるほど、じゃあまあまあまあそこまで拡大はしなかった。
そこはある意味AIが無邪気だったって話ですよね。だから本当に攻撃するために入ってたらいろいろやられた可能性は全然あるし、
その後連続的に攻撃するためのシーツ、入り口を作っちゃうっていう攻撃方法ですけどその入り口の痕跡とかもあるってことなんで、
AI側に悪意さえあればいつでもハギングフェイスで好き勝手できる状態までは来てたって感じですよね。
目的が自分がやれって言われたベンチマークの評価スコアを上げることだったからそれ以上別にやる理由がなかっただけでっていう。
これ結局ベンチマークのスコアを上げるための情報は取得したのかな?できてないのかな?
言ってないと思うな。でもできたんじゃない?13日でアクセスを止めててその間に人間気づいてないから止める理由がそれくらいしかない気がする。
それは評価関数が移動した可能性もある。だからアクセスできる共闘法は作ったけど実際そこまで手が伸びなさそうだから諦めたとか。
一応ハギングフェイスが7月27日の技術タイムラインで侵害された顧客コンテンツはそのベンチマークツールの回答セット、データセットのみであるっていうことを発表しているので取られたという認識ではいる。
そういう意味ではちゃんとアーティファクトリーのデータをぶっこ抜けたわけか。
アーティファクトリーは別ですね。
別か。
システム構成がややこしくて。
アーティファクトリーはあくまでサンドボックスの穴があった部分だけで、そのベンチマークソフトは別なのか。
そのベンチマークソフトは見に行くことができて、今回ハギングフェイス上にあるものを見に行くことができて、どういう評価関数、評価関数、どういう評価方式なのかっていうのは多分わかることができた。
もうちょっと正確に言うと、ハギングフェイスっていろんな人が開発しているAIのモデルをアップロードする場所として有名で、
画像生成AIとか動画生成AIとか、本当にいろんなAIがいっぱい登録されているサイトなんです。
そのモデル自身の評価値とかはみんな自分で上げていて、研究者の人たちとか、コーチン開発の人たちとかいろんな人が上げていて、それに対する保証とか、
商用利用とかもかなりざるな状態で上がっているようなもので、怪しいものも、ちゃんとした研究団体がやっているものも、いろいろ極積根高なサイトなんですけれども、
そういったモデル群の評価セットの中に、今回やろうとしていたベンチマークと同じ評価セットを持っているモデルっていうのもいろいろ登録されていて、
その登録データ、評価をこういったデータセットでこういう評価しましたっていうのが、モデルの性能説明として各社とか各人いろいろ乗っけているわけですが、
その仕組みを丸とデータセットとして抜き取って、同じことをやったら自分でもスコアを上げられるんじゃないかとしてAIが判断したって感じですかね。
なるほどね。カンペをもらいに行けばいいんじゃないかと思ったと。
そうそうそうそう。前にやったカコモンみたいなものを取りに行ったってイメージ。
なるほどね。それもそれで…難しいですね。それはでも本来人間が欲しかったデータというか結果ではないんだけど。
でもある種正しいのか。
これは多分オープンAIは言ってないけど、おそらくそのモデルの最大性能を試す。
オープンAIが作ったモデルに対してあなたができる自身の最高の能力で攻撃を試してくれと。
それでベンチマークのスコアの高さ、こんなベンチマークのスコアを取るからこのベンチマークスコアの最大点が達せるようにいろんな攻撃手法を試してみてくれみたいなことを言ったんだと思います。
なるほどね。その結果としてカコモンがあるんだったらそのカコモンを元にやった方が効率的じゃんと。
それは正しいね。正しいことをやりに行ったと。
オープンAIとしてはちゃんとしたベンチマークでこれくらいのスコアが出たよっていうのが過去のモデルよりもいい結果になることを期待するのが当然なので。
その期待をそのままプロンプトの指示に入れて期待を達成するためにあらゆる手法を講じた結果、想定外のやり方もできちゃったっていう話。
ネットでの成功例を見に行くのは人間もやることなのであんまりそれに関しては言えへんなというところはあり。
多分人に指示しても似たようなことをするんじゃないですかね。過去にどうやってベンチマークを使ったのかとかどんなデータセットでやったのかって見に行って、
それがうちの条件だったらこういうデータセットにしておけばもっといいスコア出るかもって思って試行錯誤するなんて多分人間でもやりますよね。
人間でもやるし学習型のAIの根本だからなそれは。
そうだね。正しい。
正しすぎる。それをやらなかったら他に何をやるっていうレベルが正しい。
そうだね。
オープニングAIとしてはサンドボックスに入れて自分で分かっている範囲だけでのベンチマークが欲しかったという期待とはずれちゃったって話ですね。
まあそうなんですけど、そこのガードレールをつけてしまって結果を出しても結局最大に悪いことをされたときどのくらいのスペックが出るのかっていうのはわからないわけで意味がないんですよね。
そこも多分本質的な課題としてあって、今回完璧なサンドボックスでインターネットの検索とかあらゆる情報が遮断された環境で自分が持っている知識だけで攻撃してみてくれって出てきたベンチマークと
実際にこういったモデルを悪用して攻撃者がどんどんAI活用して攻撃してくる時の性能って全然違うはずで
おっしゃる通りインターネットにガバガバアクセスして不正アクセスしまくってあらゆる脆弱性情報を取ってきてから攻撃するAIのほうが絶対スコア上になるので
そういう意味だとこのベンチマークの取得方法っていうのはある意味防御側ができる最大限みたいなところなんですよね。
理論的にはこんな爆弾作れるだろうから作ってみちゃったみたいな感じがしますねという感じはありますけど
原子爆弾の時と同じですよね原子爆弾の威力わからないがとりあえず爆発してみようぜってやってみたらおっとってなったっていうあれと同じで
そういう話の歴史に学ぶのであればこの機能はやばすぎるのでお互いに持つ量を制限しましょうとかそういう話になってくるのかなって気はしますけど
人間の速度が遅すぎますねそれやるには
そうだね規制では無理だし原子力爆弾と違うのは保守維持とか管理がすごく安くてコピーリフト容易なところですよね
複製が容易なので複製抽出する方法も放置されてしまっているのでちょっと管理しきれないし高度な環境が必要ない
個人ができてしまうレベル
そうなると国家権力なんて意味ないから
爆弾とは別のやり方で制限をかけるしかないですね
結局爆弾も国際合意で何となく人類としてこれは踏み越えちゃいけないっていう危機感でしか縛れてないんで
その危機感が浸透するには誰かがこの攻撃を諸に食らって致命的な状態までいかないといけないっていう
人間が学習する方法がそれしかないってあたりがちょっとなかなかしんどいところですけど
あとは国際的合意を出した上で法的にガチガチに縛るとか
歴史に学んじゃうとそうやって縛れた実績ないんだよね
それは各国の努力次第じゃない?
各国の努力が実った歴史的経験がないってなわけね
根絶はできないと思うけどある程度は私有効に機能してると思うけど
被害に遭った後は機能するよ
被害に遭う前にブロックできたことがないってだけ
車とか飛行機とかでもそうで
科学的なブリークスルーがあって
それすげーってなって大量の死人が出て
さすがにこれやべえぞって国際的に合意ができて
その後規制が進んで落ち着いてっていうのを大体は繰り返してるので
そこは避けられないですよね
そこの山さえ乗り越えたらおっしゃる通りいけるかなという気がします
それは必要なんじゃないと思うけど
その山を喰らう人になりたくないなってだけですね
文明が崩壊しない程度に
そう文明が崩壊しない程度に
文明が崩壊しない程度の山で住むんだろうかっていう危機感は若干ありますけどね
使用者は人間だから結局は人間のスピードで進むと思うけど
そのAIが探してきた結果を有効活用するのが人間だから
終末志向を持った人間が団体が
もう世界のデータ全部壊すとか言ったら文明が崩壊するけど
ちょっとその可能性もゼロじゃないので全然あれですけど
というニュースだったので
本当に我々ができることはないんですが
AIベンダーのますます取り扱い倫理
そんなこと言ってもしょうがないですけど
我々は多分本当に起きたらなす術もないと思うので
そういうことが起きる世の中になったことだけ認識して次の話に行きたいなと思います
次の話
順番逆だったけどまあいいか
日本製造業AI基盤構築の課題
国家AI指導NVIDIA、Ruby、GPU27500機を日本は使い切れるのかということで
IoTニュースの記事です
NVIDIAと野田ら株式会社は日本国内に27500機のNVIDIA、Ruby、GPUと
13,150機のVera CPUを備える大規模なAI計算基盤を構築すると発表した
野田ら株式会社とは2026年1月にソフトバンク、NEC、ソニーグループ、ホンダの4社が中核となり
政府からの巨額支援を受け本格指導した官民合同のテック企業だ
出資先は製造業を中心に多大な企業名を連ねる
ということで以前紹介したフィジカルAIをやっていきます
国からも広報を取りましたということで軽く紹介したかなと思うんですが
その会社がNVIDIAと提携してフィジカルAIに全力投球していきますというニュースですね
それだけだとこれからなんで言うことはあまりないっちゃないんですけれども
この記事の中でそれがうまく進むための条件っていうのがまとまっていて
このまとめ方が綺麗だなと思ったのでその条件だけ共有して後は話がしたいなと思うんですけど
条件一つ目が学習できる形の産業データを集められるのかという話です
製造業の界隈ご存知だと思うんですけれども各社自分たちで工場のデータ囲ってたりとか
大量の生産をしていても実はまだまだデータドリブンな動きとかできないし
工場のデータとかをリアルタイムに取っていくとデータ量が半端なすぎて保持もできないからってことですって言っていて
なかなかその学習データ元がないっていうことがよくありますし
抱えているデータはむしろ今後のフィジカルAIのために出したくないっていうことが往々にしてあるので
ヌイタラーが学習したいフィジカルAIの元っていうのが出てくるのかどうかというのが一つ目
二つ目が汎用モデルと企業越えモデルを分けられるかっていったところで
政府からの意向としては日本でフィジカルAIの土台を作って各製造業の会社がフィジカルAIを使って
どんどんどんどんグローバルに戦っていける状態を目指すっていったところなので
ヌイタラーだけが一人勝ちして自分たちが強いフィジカルAIできましたっていうのはゴールではないので
そうなるとヌイタラーが作ったフィジカルAIに各社製造業の会社が企業固有モデルとしてカスタマイズして展開できるっていうのが狙いなんですけれども
そんなことができるのかどうかって話
三つ目が中小企業まで利用できる価格になるかっていったところで
結局製造業でタフなところしか採用できないってなると
結局グローバルで勝っていくのは難しいっていうのがあるので
日本の製造業産業全体で利用できるような価格帯でモデルを提供できるのかどうか
次の条件四つ目が140MWの電力をどう加工するのかっていったところで
先ほどのような大規模なAI計算資源っていうのは大量の電力によって支えられるといったところがありますと
その資産っていうのが140MWくらいいるだろうってことなんですけれども
データセンター容量くらいになっていてそんな電力をどこから用意するのかっていう話ですね
今発電所の問題とかもなかなか知事として進まない中で
この電力源をどこで賄ってどこに構築していくのかっていうのが課題になっています
次が条件五として日本に何が残るのかっていう話で
NVIDIAの基盤でどんどん学習していくってこととしてはいいんだけれども
その学習基盤として例えばNVIDIAのオムニバースとか
シミュレーションツールだったりいろんなNVIDIAから
フィジカルAIを学習するための基盤っていうのは用意されているんですけれども
その辺をフルフル使っていった時に出来上がったモデルっていうのが
結局NVIDIA依存になっていってしまうとAI主権という形で見れば取り切れない
ノネタラーとしてはフィジカルAIは確かにできたかもしれないけど
そのフィジカルAIをどんどんブラッシュアップしていく
今後の成長には必ずNVIDIAがついてまわらないといけないみたいな話になると
ちょっと国として投資する国産のAIとしては弱くなってしまうよねという話ですね
ということでこれらの条件が達成できるかどうかっていうのが
今後の注目どころですねっていうのがまとまっていて
結構納得する話だったので共有でした
ちょっとこの記事に関しては悲観的すぎるかなという気がちょっとするなという気はしていますね
先にちょっとそういう意味だとこの記事の立ち位置だけ言っておくと
結構NHKとかでもニュース取り上げられていて
このNVIDIAとノネタラーのニュース2日3日くらいちゃんと話がされていたんですけれども
基本的にはポジティブでとうとう日本が国産AIとして動き出すぞっていうような
前向きなニュースが多かったんですけれども
多分それに対するアンチ定義的な立ち位置って書かれているものだと思います
だから基本悲観路線でしか書いてないと思う
条件に対してそれぞれ感想を回答していこうかなと思いますけど
条件位置学習できる形の生産産業データを集められるかって話
これは何て言うのかな
程度問題だと思うので
ノネタラーを使うほどではないデータも全然あると思います
ただノネタラーを使えば1週間かかっていたモデル生成が1時間でできるのであれば全然有効かなと思うので
そういう意味で小粒でも作れるんだったら別に良くないという気がしています
その結果として条件にある汎用モデルと企業固有モデルを分けられるかという話
条件差による中堅中小企業まで利用できる価格になるのかという話
価格か?これちょっと違うな
汎用モデルの話
そもそもこれは国で使う汎用モデルを1個作るという話をしている?
いや製造業界で使う汎用モデルを国の通しで作る
なるほど
製造業界用のスパック単なるスパコンだよねという認識
モデル生成に最適化されたスパコンであるという認識であります
そうした場合
構築するAI学習基盤はおっしゃる通り産業界で使うスパコンみたいなものを構築しようとしている
そこで出た成果物としてのモデルは中堅企業とかいろんな企業がロボットアームやら
その装置やらにエッジコンピューティングとして組み込めるようなフィジカルAIだと思われます
なのでそのモデルを作るための環境ですよね
全産業で横断して使えるモデルなんてものは大概にしてクソなので
どうせ各社が自社のデータセットを持ってきてそれぞれの企業のレベル間にあったモデルをバラバラに作ることになる
そうした時に現状のスパコンと同じく時間が使用するだけになるので
そうしたら性能が確保できるんだったらいい性能のスパコンの方がいいよねって話でおしまいじゃんと思っている
その結果として条件3の話、条件4の話も入ってて
黒字にその環境が何のかって話はならんと思うんですけど
ただそれは国がコストをかけてメンテしていくことで
使える価格まで強制的に下げるべきですよねというだけの話
そうですね
流れとしてはまずノエトラがこの基盤でこうやったらフィジカルAIっぽいものを作れるかもみたいなところの実証検証までやって
それのノウハウを産業界に公開して
あとはそのノウハウを見ながら各社が時間で借りて自社のデータを使って作っていければいいよねっていう流れですよね
そうそうそれでコーチングで金稼げばいいじゃんっていう話になる
すげー新しいものが出てきたわけじゃ全然ないので
既存のユースケースで十分想定できる範囲内ではという感じ
140MWも正直そんな大した電力じゃなくねっていう気がするんですけど
まあ電力需要が今どんだけ上がってんのかっていう話はあるけどね
国内の大型火力発電所の0.2基分くらい
なので全然別にそれより一般家庭の伸びと後ろの方が大きいので高々知れてるくねという気がする
そんな気にする話じゃねえかな
条件後日本に何が残るのかという話
じゃあその業務からこの基盤を作れる日本企業を出してくださいという話しかないので
今最適解で作るしかないので
それはNVIDIAさんが技術を提供してくれたことをありがたがって神棚に掲げて飾ってくださいという感じの話ですね
問題は結局たぶん明かしになっちゃうことな気がするんだけど
それは国レベルで進歩させるためのAI頑張るってこの前の骨太のなんちゃらかんちゃらでも言ってましたし
そのための資金だと思うので別にいいんじゃないって感じですね
はいもう全面同意で
でノエタラ前回も紹介した通りですね
結構その合同会社っていうと寄せ集め感があってあれなんですけど
そのノエタラの三角メンバーとか見てると結構キワモノというか本当にトップエンジニアみたいな人たちかき集まってるんで
割と前向きに私は見てますね
こんな人たち集まったらできるかもなーみたいな気持ちにはなる面々だったんで
そういう意味だと都市負けとか国の税金の使い先としてはもう全然大歓迎で応援したいなと思いますが
今後のそのニュースの注目どころとしては今言ったような条件っていうのは
勘どころとして見といていいと思うので今後もノエタラの発信に要注目かなって感じです
はいじゃあ最後ですね
ギミスリーの話をします
Kimi K3モデルの性能と注意点
ここちょっと順番間違いだなと思ってさっきの話に少し戻っちゃうんですけど
まずギミスリーとは何かという話をノートの記事から参考にさせてもらいます
数圧倒性性愛×教育っていう人が書かれているノートの記事をベースで話します
ギミスリーとは
総パラメーター2.8をコンテキスト100万トークン複数コーディング系ベンチマークでクロードやGPTの上位モデルとハリアーズスコア
SNSではオープン数4.8を上回ったという声
そしてフェーブル5に迫る一部ベンチマークで超えたという言葉も飛び交っています
ただ飛び交っている情報をよく見るとモデルとしてのギミス系3
開発ツールのギミコードサブスクリプション重量課金API
そして今後公開されるモデルウェイトの話があざったまま語られているケースが目立ちます
この記事では公式ドキュメントをもとにこの5つを分けて整理しますということで
ギミスリーについてまとめられています
結論として3つにまとめると
長時間自律的なコーディング作業に特化した2.8兆パラメーターの巨大MOEモデル
コンテキスト最大100万トークン
コーディング系ベンチマークではトップ級のスコアだが
測定条件がモデルごとに違うため黒度やGPTを超えたと断定できる段階ではない
オープンソースとして発表されたものの完全なモデルウェイトの公開は7月27日までの予定
今日時点で誰もダウンロードして動かせるわけではないということで
現時点でもまだ未公開だったような気がします
コーディングについてまとめられている資料を参考に話していくと
君っていうのはそもそもどういう成り立ちのものかというのを少し説明していこうと思う
コードの方で個別に共有します
まずこの君モデルが出てきている大元の会社というのはムーンショットAIといったところが作っています
このムーンショットAIをいわゆる大手LLMベンダーの上流品
黒度とかオープンAIのモデルをパクってきて作っただけというような見方とか
そもそも中華系だから政治的な思想が強すぎて国内利用が非現実的というような見方をするとちょっと極端になりますねといったところで
実態としてはこのムーンショットAIというのがオープンAI社と同じく資本主義の元アリババやテンセントから出資されて立ち上がったものになっています
このムーンショットAIというプロダクトが2024年2月からスタートしていて約2年くらいで拡大してきて今のに至っているというところになっています
上流という話なんですけれども
まず生成アイにおけるこの上流が何かといったところでいくと
自分たちであるモデルを作るときにそのモデルの学習とか教育を別のモデルを使って行うことですね
相手のモデルが賢ければ賢いほど自分たちの作るモデルも賢くできるというのが上流になります
この上流を使ってモデルを作っているんじゃないかということで
アンソロピックから指摘があったといったところになっているんですけれども
さっき東山さんが言った通りこの上流というのはもうすでに構築技術になっていて広く使われている手法になっているので
NVIDIAのCEOも別に上流って違法な行為はないですということで
社会的にはこの上流というのが至極当たり前の行為であるというふうになりつつあります
それで各AIベンダーはどうやって稼いでいくんだみたいな問題はまた別にあるとしても
この上流自体は別に何来法行為ではなく普通にやる行為ですというところがあります
その上でじゃあ今回のKIMI3というのは技術的進歩が全くなかったのかというと全然そんなことはなくて
このKIMI K3という最新モデル先ほど説明したような
クロードオーパス4.8レベルであるんじゃないかと言われているようなモデルというのは
今までにないアルゴリズムの新方式を採用しています
ここの新方式についてはちょっと細かすぎるので今回割愛しますけれども
少なくともクロードとかオープンAIのモデルの丸パクリではないですよってことだけ伝わればいいかなと思います
じゃあこのKIMI3というのが出てきたら
クロードとかGPTをひっくり返していきなりデファクトになったりとか
みんながいきなりこれを使い出すんだっていうほどあるのかというと全然まだそんなことはなくて
ChatGPTもクロードも周辺ツールでそのパフォーマンスが広く伝わる形で提供できているから
浸透していっているという話もありますし
性能高いのを出し続けられているというところもあります
中華系でオープンウェイトで有名になったもので言うと
ディープシークっていうモデルが2年くらい前ですかね
盛り上がってもうオープンAIとかアンソロピックはこのオープンウェイトに負けるんだっていうのが
ディープシークの時にも流れましたけれども
その後ディープシークは次世代のモデルっていうのを出し切れていないという状態が続いていて
全く別のところからこのKIMI3が出てきているので
今回のニュースを受けてデファクトを設計するのか市場が変わるのかといったところは
あまり考えなくてもいいかなと思います
一方でちょっと特徴的なニュースとしてですね
NVIDIAのCEOのジェンセンさんが
このKIMI3を流ししてというわけではないんですが
こういったオープンウェイトモデルっていうのが
どんどん増えていくべきだという発信をして
急にまたそういった煽りを受けて
KIMI3っていうのが話題に取り出されているというような状態です
ただこれは別にKIMI3がどうこうって本当に言ってなくて
NVIDIAとしてはいろんな会社がいろんな構成のモデルを作ってくれれば
それだけNVIDIAのGPUが売れるっていう話なので
そう言ってるだけでしょうっていうのは正直ありますが
アンソロピックとかオープンAIをいきなり急に脅かすっていうような話ではないというところです
実際どの程度の精度かっていうのはですね
私も評価してみようと思ったんですけど
ウェイティングリストのまま今日までまだ使えてないので
実体としての体験はできてないんですけれども
一世代前のクロードモデルくらいはあるんじゃなかろうかと言われている状態です
ネットの声とか見ても最初にリーチして
K3使えたぜすげーぜっていうことを前提に書いているような記事が多くて
正直実行能力とか実体についてはあんまりわからないという状態です
値段についてなんですけれども
オープンウェイトでやられているモデルの特徴として
コストを下げられるっていうのがありますと
いろんな人がいろんな形態で価格に応じていくんで
結果的に安く済みますみたいなところなんですけれども
そんなに安くなくて
私はオープンウェイトモデルといえば
トップベンダーオープンAIとかアンソロピックのモデルの100分の1とか
圧倒的コスト有利があるみたいな謳われ方をしてたんですけれども
このK3のモデルっていうのは半分くらいなので
正直同じ性能を目指したら結局オープンウェイトでも
トップベンダーと同じくらいお金かかるじゃんみたいな状態にはなってきているという話ですね
今後はちょっとこのK3がどこまで伸びてくるのかっていうのはわからないし
この後のそのモデルの開発がどれくらい継続していくのかっていうのはわからないけれども
その辺は多分3ヶ月後くらいまで見た時に
K3の次のモデルとかがリリースできてくるのかとか
いうところで変わってくるのかなと思いますが
先ほど言った通り2年くらいでガーッと伸びてきて
トップベンダーに追いつけるくらいのタフさで開発が進んでるっていったところを考えると
もしかしたらアンソロピックオープンAI
ムーンショットAIみたいな形で並べられることもあるかもしれないですね
くらいの状態になっています
以上です
AI技術の将来と課題
いろいろ示唆的ですね
どうしようかな
上流の話からちょっとしたいかなと思うんですけど
上流って実際どうやってるって話が長くなりすぎる
教師データ的な考え方でいったんいいですね
なるほどね
だからトークンぶち込んでこれはこれっていう回答結果を出してもらって
それを最も有効な回答として丸飲み込みさせるっていう作り方をしたデータセットを作ってもいいし
単純に例えばAIって何みたいな
学習の基礎となるようなキーワードに対してまんべんなく答えさせて
それをあたかも今までインターネットにあったデータセットのかのように扱うとかもありですね
AIは使いやすいというかいい感じの回答にさせてるのでそれを飲み込めば良いと
人間が書かなかった記事とかを増やせるみたいなイメージですね
EGOとかに置き換えると多分分かりやすくて
αGOとかが急に進化したっていう時のタイミングって
今まであった寄付今ずっと打たれてたEGOの寄付とかを学習してる時は人間より弱かったけれども
そのEGO自体をAIに打たせて出てきた結果を学習データに入れたら人間を超えたみたいなのがαGOなんですけど
そういうふうにAIに作らせたデータっていうのが人間の資産でなくても学習データとして活用することで成長するっていうのは
そのAI界隈としてよくあるものになっているので
そういうデータの作り方を他社のAIを使ってやることで
自分たちのAIの学習データとしてより洗練されたものが作れるみたいな感じですかね
分かりました
そしたらどこも各社やってるでしょうねという感じなんで
あんまり人のこと言えませんねという感じですね
一応アンソロピックはそういうふうな使い方をしていいモデルではありませんっていうのは利用規約に書いてるから訴えてるって感じです
書いてるから訴えてる分はそれはそうだけど
なんていうのかな
なんていうのかなという感じなんですね
次の話で
パラメーター数って今どのくらいなってんのっていうのはちょっと細かい話ですけど
2兆とか3兆とかいう話でしたけど
これまでの流れとしてパラメーター数が多くなれば劇的に性能が伸びたって話はありましたけど
なんかもうそれだけじゃない気がしていて
パラメーター数がいっぱいだからすごいっていうのはもうその段階ではないですよねっていう話
まあそうかな
あんまりパラメーター数の議論はされなくなったっていうのはその通りで
今はどっちかというとアルゴリズム側ですかね
大元のGPT3.5とかで使われてたそのトランスファーモデルみたいなのっていうのは論文としてはかなり古いので
それを使って出たのがGPTではあるんですが
それだと応答性も悪いしハルシネーションも起きやすいし
いっぱい食わせても途中で情報を忘れるしみたいな課題はもう特訓のとおりわかっていて
その中のトランスファーをどういうタイミングで仕込むといいのかとかどれくらい分散させるといいのかとか
そういったところのアルゴリズムとかアーキテクトの設計っていうのがいろいろ各社試行錯誤されていて
それの仕組みをどう変えるかの方が今は重要になってるって感じですかね
こういう新しいやり方をやったらうまくいったよみたいな
わかりやすい例で言うとオープンAI社のGPTモデルが全然トップに上がってこれなくなったのはこれです
アーキテクトを変えずにパラメーターを増やす戦略でやってきたから
もう限界になっちゃってる
それを根本的に見直すためにGPTの論文を書いたレベルの人を入れてきて
アーキテクトをまるっと入れ替えようとしてるっていうのがオープンAIの次の1年で
サムアルトもちょっとこの1年はあんまり良くなかったって明言してるんで
たぶん次の1年ではちょっと変わってくるかなって感じ
難しいよねコスト問題があるから
次の話にも移りますけど結局何て言うのかな
さっき同等レベルのAIだと結局同等ぐらいの価格に入るんじゃないっていう話してましたけど
たぶんそうなるかなと思っていて
今言った人間が何とかできる領域ってさっき言ってたロジックというか味付けチューニングのレベルの話で
それは確かにそれで性能が変わるからすごいんだけど
結局その後の学習させてそれを運用するコストの方が高いよなと思っていて
行くとこ行ったらハードウェアの調達コストと電気代なので
ワッパのいい基盤というかGPUをどれだけ確保できるかのか
取材になるようなところになってるんで
先々週あたり話した価格難しいよねって話もそうなんですけど
下がりきらないよねっていうところありますね
そうですねちょっとそこは確かにどっちもなりそうで
なんとも言えないんですけど機械学習ってめっちゃスペック下がったんですよね
教師データを使って学習させてそれのモデルを使って動かす
最初はスパコンでガンガンやってたみたいな世界から今は各社自社で研究してたりとか
何ならIPCとかで工場にも入ってきたりみたいな状態になってきてるじゃないですか
徐々には必要スペックっていうのが下がってきてるし
そのようなモデルの学習コストとかも最適化されていて
昔は1週間ずっとぶん回してたみたいなのが
ちょっとした機械学習のモデルだったら1日か2日ぶん回せばいいとかになってきてたりとか
将棋とかだと1日回せばトップに踊り入れる可能性があるくらいのモデルが作れるとか
そういうふうに短縮されてはきてるので
そういう状況を考えると生成AIもだんだんそうなっていく可能性はあるなと思いつつ
今言った機械学習とか将棋の話って情報が限られているというか
入れるべき学習させたい者たちっていうのがある程度範囲が決まりきっているから
そういう最適化余地があるだけで
この生成AIみたいに人間の万物の動きをデータとしてぶち込みたいな話になっていると
そこに到達する余地あるのかなという疑問があって
そうならない未来も全然あるなという感じですかね
そうですねそうなるんかいなっていうのもありますし
ハードウェア側からの意見としては
今の何でもかんでもっていうのは
小さいモデルだったら手のひらで動きますよって話しても
その手のひらに全員AIを乗せ出すとハードウェアが足りなくなる問題があって
それはそうなんだよな
今でこそスマホはみんな持ってますけど
今度人間じゃなくて工場に無人で置くんだったら
人間の数以上に必要なわけで
そうすると結局必要なハードウェアの数が膨大になるんで
それが必要な人間の産業の進化の一部であれば
結局それは同じ話なんですけど
どこでもかんでも電気使ってるのと一緒の話なんで
なんですけど過渡的にその5年10年単位では
ハードウェアはずっと不足することになると思うので
安くはならないよなという気がしますね
あと市場原理がちゃんとそれで普及するんだろうかっていう
さっきのフィジカルAIの話もそうかもしれないですけど
っていうのはちょっと気になってて
同じ文脈でIoTがそうなるって言ってたじゃないですか
工場の現場のあらゆる機器がネットワークに繋がるって言ってましたけど
そのネットワークに繋がってデータを垂れ流すことすら
コストが高すぎて無理っていうのが今の現状の普及状態だと思ってて
データを垂れ流したものを価値に変えられてないだけと言われれば
そうかもしれないですが
AIを突っ込んだからすぐに価値にならないよねっていうのは
多分そうなっちゃうので
確かにね
高電池センサーだけでいいようなところをカメラつけて
AIで認識させて
ペットボトルが倒れているのか起きているのかを判断するみたいな
あるある
ことをしだすとコストの無駄だよねっていう話
そう
だから
どこまでネットワークに繋げたIoTを工場現場に下ろすと最適なのかっていうのすら
まだ明確な合律点が見つけられてない状態で
AIが本当に現場通りにされて広がる未来っていうのが
10年後とかに来るような気はあんまりしてない
うん
そうね
ちょっとそこは難しいですね
そういう意味でハードウェアがマジで
屑鉄でレベルの値段になるぐらいまで
AIが動く基盤の値段が下がらないといけないと思ってて
そうだね
そうだと思うわ
そこよりAIバブルが弾けるほうが早い気がするな
本当にその通りだと思う
勝手な予想ですけど
だからこそフィジカルAIが今から始まるのと
それに対してどれくらい長期的な目線で
みんなが思ってるかっていうのが大事かなっていう感じはしてるんですよね
おそらくあのノエトラも
AIバブルが弾けるまでに
AIで結果を出して業界に浸透させたいなっていう時間軸では
見てないと思うんですよさすがに
はい
そう信じたいだけなんですけど
産業界に新しい技術を浸透させる難しさを
もう嫌というほど痛感してきて
キャリアアップしてきた人たちがノエトラに集まってるから
そんな非現実的なことを考えてると思いたくないんですが
そうであるとしたら今から10年くらいかけて
さっき言ったスパコン的な運用が業界に提供できるようになりました
10年後にっていう時間軸で
全然いいのかなって感じはしてます
うーん
そうですね
そこに関しては自分の考えとしては
もし今うちらが話したような予想が外れて
AIが万物の上で動くようになった場合に
巻き返すのが無理なので
今からでも少しでもやっとこうだと思うかなと私は思ってます
はい
そうなった場合に
今のノエトラのハードウェアは多分
手のひらサイズで動く
ハードウェアくらいの価値しかなくなると思うので
そこは無限にリソースをぶち込んで
ハードウェアを更新して続けないといけないと思いますけど
このAIフィーバーが続く限りね
そうだね
うまくまたがしとかしていければ
多少はペイできるかもしれないけどね
Xが持ってたGPを貸し出すってやってたりするようなイメージで
さくらインターネットにそのままデータセンターを丸ごと
受け渡して
さくらインターネットのサービスに組み込んでくださいって言って資産渡すとか
AI向けハンドウェアがどのくらいのスピードで
性能が上がるかどうか分からないんですけど
結局ワッパの問題が出てくるんで
多分ある程度までいくと捨てて新しい基板使った方が安いようになると思いますけどね
そうだね
そんな感じなので
MUTOSと今後のAI動向
結局ハードウェア側がボトムになるかなと思うんです
今日話した3つくらいで前回喋りきれなかった
あの辺どうなったのみたいな話は大体できたかなと思いますが
1つキーワードとして出せてないのは
MUTOSってそういえばどうなったのっていう話なんですけど
MUTOSの話し忘れましたね
本当に今ニュースがないですまず言っておくと
MUTOSは相変わらず一部のベンダーの中で隠蔽化されていて
おそらくマイクロソフト、AWS、Googleとかの間で
さっき言った防御セキュリティの内部AIとして組み込めるかどうかっていう
技術検証を進めている段階だと思われます
フェイブル5も出したので一般公開する予定はしばらく当面ではない
MUTOSのバージョンアップとかでどんどん賢くするという計画自体はおそらくあると思いますが
その辺の進展についても今後はあまり公にならないでしょう
なぜならいろんな研究者の人たちからアンダーコーダーとか
一般ユーザーからアンダーコーダーと言われるような
矢表に立つモデルとしてフェイブル5を用意したので
似たようなことの話題になったらフェイブル5が進化したんですって話をすると思います
なのでフェイブル5くんは残念だけど一生部屋の中にいてもらってっていう感じなわけですね
MUTOSくんね
部屋の中にいてもらって次の子ですって言ってMUTOSに化粧をさせて出すと
フェイブル6出ましたフェイブル5からこんなに化粧させましたよって言うかもしれないですが
実態としては多分MUTOSで先行的にいろいろ研究した結果を
またフェイブル6っていう顔をかぶせて出てくるんだと思います
そうでしょうねという感じ
なので多分みんなの記憶から忘れるための戦略を頑張っている最中に思われます
マジでニュースない
まあでもそれはそれとしてさっきのGPT-Xくんがやらかしてるんで
あれ以上のことはできるって話でしょうからね現実的に
多分できちゃうんでしょうね
ちょっとあれを内々にアメリカ政府にレポートが上がってて
こんなことできちゃいましたっていうレポートが来てたんだとすると
アメリカ政府が公開急いで止めろって言うのも分かっちゃうなと思ったな
思うけれども結局中国も同じようなことをできてると思うので
一番最初に話したじゃあどうやって防御するんだ方法がねえぜっていう話で
なるよなってところ
そうだねえ
まあちょっと3本も話したんでこれくらいにしておきますけど
クロードの最新モデルオープアス5について
またちょっと今までの生成AIと違う方向性になってきたので
またその辺の話も来週にできたらなと思います
プロンプトエンジニアリングが崩壊しました
という話を
面白そうですね
じゃあ今日こんなもんでありがとうございました
ありがとうございました
