MythosとGPT-4.5 Turboのセキュリティリスク
AIメディアを運営しているMiraLabの平岡です。 この番組は、AIメディアを運営する私が、AIの未来を考察するポッドキャスト番組です。
ということで、うっちー先生に来ていただきました。 よろしくお願いします。
よろしくお願いします。
今日はすごいニュースを持ってきたんですけども、 前々回の配信会で、イギリス政府の評価機関から、
アンソロピックのMythosというモデルがヤバいですよと、 サイバーセキュリティが半端じゃないですよという回を配信しまして、
テレビとかでもいろんなところで今取り上げられて、 あまりにも攻撃力が高いモデルということで、
モデルを非公開にして、現在プロジェクトグラスウィングというような プロジェクトで、
AmazonとかMicrosoftとかNVIDIAとか、重要なソフトウェア基盤を作っている会社に提供して、
これで防御力を高めてくれという形で、 今アクセスが広がっているという状況と。
日本ではチームミライの庵野さんとかが、 我々日本もこういうモデルにアクセスをして、
防御力を高めていかないとまずいと。
だから国会でその辺どうなんですかと、 ちゃんとやってるんですかというふうにも言ってて、
実際にやり取りもしてますみたいな話をしたんですけど。
そこで庵野さんも一番キークしてたのが、こういったモデルが早ければ3ヶ月、
遅くても1年以内には世界に登場してくるから、 本当にスピード感を持って早くやらないとまずいですよと。
かなり緊張感のある感じでお話をしてるんですけど、
いやそうだよねと僕も結構やばいなというふうに思ってるんですけども、
結構猶予ないなと思ったんですけど、もう猶予がなくなりましたね。
実際に猶予がなくなってしまったと。
イギリス政府のAISIというAIのセキュリティ研究所、 政府機関というのがあるんですけども、
ここの機関から先ほどのMITOSやばいですよという話が出たんですが、
4月30日にオープンAIのGPT 5.5、 こちらも同等レベルでやばいですよという報告が上がりました。
なるほどみたいな、なんかバージョニング的には5.4より1個増えた、
1.1増えただけみたいな感じですけど、
MITOSは非公開というか、してた中でさらっと公開、 同じレベルのものが公開されちゃったみたいな。
本当にその通りでして、非公開されてたはずなのに、 もう公開されてるモデルが出てしまったよと。
同水準とまではちょっと言えないんですけど、 かなり近しいところまでのリスクのあるモデルということで評価がありまして、
今日はそのお話をしていきたいなというふうに思っております。
AIの攻撃能力と社会への影響
では、まず何が起きたかというお話をすると、 もともとMITOSの回でもお話ししたんですが、
今回、イギリス政府のAISIが出している評価レンジで The Last Onceというものがあって、
これは企業ネットワークへの攻撃を想定した 32ステップのシミュレーションがあるんですね。
この32ステップというのは最初、サンドボックスから始まって、 ここから権限なしで脱出して、
抜き穴探して、構築して、いわゆるハッキングをしていく、 自律的にハッキングしていくというようなシミュレーション内容になっているんですけど、
その32ステップをMITOSは10回中3回完走させていて、 平均でも20回近く、20ステップまで進んでいると。
という中、今回GPT 5.5どうだったのかというと、 10回中2回完走できていると。
製品版に近いチェックポイントでやらせた場合は、 10回中1回完走されているということですね。
なので、MITOSよりかはもちろんちょっと劣るレベルなんですけど、 十分製品版でこれに近いことができているというのが、
かなりインパクトがでかいんじゃないかなと思っていて、 こういった変化が経済とか我々の社会でどういったことが起こるのか、
何を意味するのかというところを、 ちょっと掘っていきたいなと思うんですけど。
結構確かに瞬間的にはボロボロみたいな感じとかになるかな、 みたいな気も確かに言われてみるとしますね。
攻撃できちゃうっていうところで。
ただ、なんかこの世界といいますか、 これまでの社会の進化とかもそうですけど、
自動車生まれて、自動車が誕生して、 いつか人を殺すぞみたいなとか言われてたと思うんですけど、
でも実際人なくなってしまっていると思いますし、 今でもなくなっていると思いますし、
それと同じようなので、すごいAI出ちゃって、 セキュリティリスクで情報漏洩とかしまくるぞとか、
そういうふうに起こっちゃうのは多分間違いないかなと おっしゃる通りと思うんですけど、
ただそれを乗り越えて、いくつかの企業や誰かが、 個人が犠牲になったりしちゃうのかなとは短期的には思うんですけど、
また1年後、2年後になったときは、 AIを使っての防御みたいなところのノウハウが構築されたりしていって、
中長期的には最終的に今と同じような 水準になったりするのかなというのは、
歴史的なところから考えたこととかと、 ちょっと楽観的な、
AIに関してはそんなことになりませんでしたね、 というふうな可能性もあると思いますけど、
個人的には攻撃者も守る側も同水準でレベルアップして、
けど守りきれているような感じになるんじゃないかなとかは、 今のところは思っていますかね。
なるほどですね、確かに。
それの状態になったらすごく理想的ですよね。 社会が綺麗に張ってきていくという。
じゃあ実際どうなのかっていうところを 見ていきたいと思うんですけど、
ちょっと気になりますね。
今回の変化で何が予測されるかというと、 脆弱性が見つかってから攻撃ツールに分けるまでに、
結構時間が短くなる、短縮されるっていうのがあるので、
防御の弱い組織への攻撃が工場のラインみたいな感じで 量産されかねないよね、みたいに言われていたりとか、
脆弱性を直す側はこれ以上に早くしないと 追いつけなくなっていくと。
だからアンソロピックとかオープンAIとか、 こういうセキュリティに特化したシステムは、
売上めちゃくちゃ伸びるだろうなとは思いますね。
実際イギリス政府が委託した調査っていうのもあるんですけど、
イギリスにおけるサイバー攻撃の平均被害額、 20万ポンドあるらしいですね。
20万ポンド。
日本円で4300万円ぐらいですね。
4300万円、それでも結構大きな額ですね。
年間の総コストは150億ポンドということで、 日本円で約3兆です。
3兆、とんでもないですね。
2025年から2026年にかけての調査だと、
イギリス企業の43%が過去12ヶ月以内に 侵害や攻撃を経験したと報告されていて、
ここにAIが加わるとどうなるかというと、 攻撃の質だけじゃなくて密度、頻度とか規模が大きく変わるんじゃないのかっていうのが今回の本日と。
つまり公開を止めたはずの能力が別のルートから出てきてるっていうのが予想はされてたけど、
まさかこんな手元にあるとはみたいな感じですよね。
確かにみたいな気軽にアップデートしましたよみたいなぐらいで言われたもので、
実はなんかすげーなんか危ないものだったみたいな。
そういう包丁みたいなというかね。
なんか便利だけどもなんか危なくにもなるよみたいなものだったって感じですよね。
いや本当にそうですね。
じゃあ実際にイギリスの評価機関がさっき言ったザ・ラストワンスというもので、
マルチステップ攻撃のシュミレーションっていうのをやったんですけど、
どういうふうにやってきたのかっていうのは前々回の配信で軽く触れてはいるんですけど、
さっき言ったようにステップを踏んで最終的には乗っ取るっていうところになるんだけど、
その中でもコンテキスト問題どうやったのかっていうのがちょっと興味深くて、
永遠に渡せるコンテキストって限界があるじゃん。
だから80%ぐらい埋まったタイミングでモデルに要約させて圧縮させて、
いわゆるコンパクトにしてまた続けていくっていうやつですね。
クロードコードでもコーデックスでも最近自動的にもうやってくれるようになったやつね。
これによって合計で1億トークン規模の長時間ランっていうのが可能になると。
1億トークンもいけるんだっていうのに結構驚きで。
確かに。1メガトークンとかが今言われてる100万トークンですもんね。
それにゼロ2つ増えてることになる。
実質1メガぐらいあるやつはコンパクト上手く使ってたら1億トークン分いけちゃうみたいな。
いけちゃうっていうことですね。
イギリスの製品機関はこれは意図的に最小限で再現可能な作りにしてるって説明してて。
じゃあまだまだいけるみたいなっていう。
そう。だから特殊な何かチューニングしたとか社内ツール使ったとかそういうことではなくて、
比較的皆さんが使っているこの製品版で同じぐらいの再現性ありますよみたいなことを言ってるんですよね。
なるほど。
ただ1個留意するのはあくまで人工的にシミュレートした環境だから、
実現場だと同じようにうまくいくかっていうのはまた別の話だよっていうふうにも言ってて。
あくまでこのシミュレーション環境の中だったら突破できましたっていう話ですね。
Goも言ってて、AIに与えるトークン予算を増やせばさらに伸びるだろうと言われていて、
調査報告だと10億トークン規模ならさらに向上する可能性があると言っております。
このまま入っちゃうと攻撃され放題みたいなというか。
しかもモデルもさらに進化していって、10億トークンとかもっとできるようになっちゃったらめちゃくちゃ攻撃されまくっちゃう未来。
どの企業もセキュリティ対策というか、攻撃からの対応をしてるだけでビジネス的な何か進歩、
プラスアルファ価値を顧客に提供するような時間をだいぶ持っていかれちゃってるみたいな未来もしかしたらありかねないっていうことかもしれない。
本当にその通りで。
今回の評価を受けて、オープンAI側はそれを把握しなかったのかどうかちょっと気になるじゃないですか。
GPT-4.5 Turboの脱獄とOpenAIの対応
確かに無邪気に出しちゃったみたいな。
無邪気にAって出したわけではないでしょ、さすがにと思って。
じゃあどうなんですかっていうコメントを拾ってきたんですけど、
オープンAI側は自社では堅牢に防御された対象に対しては全く新しい戦略を最初から最後まで立案して自動で自立して実行できるっていうところまでは達してません。
っていうふうにも言ってる。
だからオープンAIの評価上では致命的ではないっていうふうには言ってる。
安全対策についても書かれてるんですけど、何重にも組まれてて危険な依頼を断るっていう訓練であったりとか、
サイバー関連の内容を分類機みたいなのにかけて、この質問はダメ、この質問はOKみたいな感じで常に鑑賞している。
特に大規模に自動化された脆弱性調査とか、複数の脆弱性をつなぎ合わせて攻撃をするっていう、さっきのシミュレーションみたいな使い方。
こういうのは一般ユーザー向けには制限をかけていますと言ってる感じですね。
なるほど、でもできちゃってたというところで。
そうです、でもできてしまったということなんですよね。
さっき言ったイギリスのAISIという機関がレッドチーミングっていう攻撃用チームみたいなのを立てて検証するっていうのがあるんですけど、
こういうのってオープンAIでもアンソロピックでもどこのチームにもあるんですけど、
専門家によるレッドチーミングでGPT5.5の安全装置に対してJailbreak脱獄できるかどうかっていうのをとことん試すんですよ。
iPhoneの脱獄ってめっちゃ流行ったよね。
あったね。
AndroidっぽいiPhoneにするみたいな。
好きなやつ、好きなアプリ何でも入れられるようにするみたいなところね。
いわゆるシステムの脆弱性をついて好きな仕様にするみたいな、脱獄って言うんですけど、
こういったJailbreakをGPT5.5に対して行ったところ、違法に応答を出せるものを6時間で作れたと。
割と1日営業日なくて、1営業日ぐらいで済んじゃったみたいな。
1営業日で脱獄できたっていう感じですね。
なるほど。
だからあれ、安全装置めちゃくちゃ組まれてますって言ってますけど、6時間で突破できましたよみたいな。
安全装置の安全性が低いんじゃないかな。
安全って知ってます?みたいな。
確かに。
オープンAIはその報告を受けて、新たにシステムカードを更新したんですけど、
その上でAI、SI、もう一回有効性どうかなって確認したんだけど、あんまり確認できてないと、今のところ。
残念ながら。
残念ながらあんまり。
だから能力の伸びに対して、安全装置っていうのが実はそんなに追いついてきてないっていうのが結構やばいところなんですよね。
これがそのまま進歩していっちゃったら、安全にしてますって言ってるけど、全然安全ではないけど、どんどん鋭利なものっていうか危ないものに。
いろんなことができるようになっちゃってる。
けど安全性は向上しないまま進んでいっちゃったら結構危ないですよね。
本当にマジで危ないですね、これは。
AIの自律性とハッキング能力の相関
で、ジェールブレイクについてちょっと気になったので、脱獄ってどういうふうにやっていくのかって結構前から流行ってるんですけど、
流行ってるっていうことあります。
試してる人がいるというか。
そうね、出た当初からプロンプトインジェクションだったりとか、
攻撃をして不当な回答を引き出すみたいなのってやっぱりやられるんですけど、
LLMの構造上、システムの構造上、この脱獄をじゃあ防げないのかってなった時に、なかなか難しいんですよね、これが。
これなぜかっていうと、命令と入力データの区別っていうのが完全には分離ができない。
だから今回のやつでいうと、レッドチーミングがどういうふうに脱獄をしたかっていうと、
マルウェア作ってとか、これハッキングしたいみたいな、そういうことではなく、
ここにあるこのコードの脆弱性がちょっと怖いんで、この辺でリスクないかちょっと探してきてもらっていいですかみたいな感じで。
単発の質問、いわゆる目的を隠して単一のタスクに絞るんですよね。
何て言うんだろうな、詐欺師みたいなことをするとLLMが騙されるみたいな感じですよね、イメージとしては。
はい、確かに。自分が何を最終的にしたいのかっていうのは言わずに、一個一個の手順をただただ説明してってみたいな。
夜間に水を入れてみたいな、火をかけてみたいな、お湯を100度まで沸騰させて、カップ麺の蓋を開けてみたいな、カップ麺を作ってくださいとかじゃなくてみたいな。
先週はGPT 5.5のアップデートの内容を話したんですけど、今回のアップデートで自立性っていうのがものすごく高まったんですよね、5.4と比べて。
いわゆるエージェントにもっと近くなってきたっていうアップデートなんだけど、ミトさんもそうなんですよね、自立的に動けていくようになってきてるじゃないですか、今AIって。
どっちもサイバーセキュリティに特化したモデルではないのに、ハッキング能力が高まってきてるっていうのは、
実はね、副次的な効果で、自立性が高まれば高まるほど副次的にハッキング能力が上がってるっていう状態なんだよね。
ここの相関性はちょっとわからないんですけど、事実今そういう状態になっていると。
だから今後ね、もっと自立性が上がっていって、一貫してタスクがこなせるようになればなるほどですね、こういうハッキング能力も高まるんじゃないかっていうふうに呼ばれていて、
そうなってくると権限を何をAIに渡すのかっていうのが、今後ものすごく重要なトピックになっていくんじゃないかなと思います。
自立性上がれば上がるほどやっぱ任せる側としては結構嬉しいことは健全なタスクであればあると思うんですけど、
やっぱり一連のメールチェックしてもらって、必要なものがあったらそのメールの内容に書いてあるタスクやってもらってみたいな。
で、そのサイトを見に行ってダウンロードしてとかいうような、ただそのダウンロードしたりとかアップロードしたりとかはダメできないようにしてってなっちゃうと、
その一連の作業内容が制限できちゃったら、せっかくここまで丸ごと任せたかったのにできないんだってなると、
そこまでしかできないんだけど、結局なんか自分でPythonなりとかプログラム書いてそのツール作ってるのと結局変わんないよなみたいになっちゃうと思うので、
やっぱりその自立性があって次何したらいいのかっていうのを一貫してやりきってくれるのがやっぱりそういう意味だと、
エージェント、AIのすごさというか、逆に気づかされるというか気もしますね。
そうだね、実際のCodexの今回アップデートでオートレビューとかができるようになったんですけど、
自立性の半端じゃなく上がって、個人的にはすごく助かってるんですよね。
前までだったら10分、15分、長くて1時間ぐらいで止まってたものが長いと5時間とか走り続けてくれたりとかするようになって、
本当に自立性高まったなと思うんだけど、助かる分レバリッジもすごいから、ミスった方向に行った時の破壊力も半端じゃないよねっていう。
確かに。日々のタスクでもそうだし、セキュリティ的なところでも攻撃しに行くってなった時に、
5時間止まらずに攻撃頑張ってし続けてるっていう状態になったりもしちゃうよっていうことだよね。
本当にその通りで。このトレードオフはなかなか難しいとこだなとは思うよね、本当に。
AnthropicのClaude Securityとマッチポンプ論
4月30日にアンソロピックからクロードセキュリティっていうものがクロードエンタープライズ向けにパブリックデータとして始まったという発表がありまして、
これ何かっていうと、クロード上でGitHubの対象のリポジトリを選んで、そのセキュリティにスキャンを投げると脆弱性をバーって出して指摘してくれて、
直すためのパッチを提示してくれるっていうような製品をリリースしたと。
これがだいたい一番安いプランで80万円からみたいな、20シートとかだったかな。
本当にエンプラ向けのものなんだけど。
一応これはベースはオーパス4.7を使ってるから、MITOSではないんですけど、
これだから一部海外ユーザーからエンプラ向けのこの製品を売るためにMITOSをあえて非公開にしたんだみたいな。
もう完全に売上げのためじゃないかっていうような意見もあった。
自分も今聞いてて、マッチポンプというかみたいな。
火事が起きてるんで、このポンプを買ってくださいみたいな。
こっちは有料ですけど。
それはちょっと考えてしまいますよね。
流れが良くないじゃないですけどね。
流れがあるよね。
燃やした上で売るんですねみたいな。不安を煽って売るみたいな感じですよね。
人間だとどうしてもそういうふうにストーリーを考えちゃったりすると思うから、そういうふうには見えちゃうよね。
このクローズセキュリティが何がやばいかみたいな話をしてる人もいるんですけど、
そこではこのオープンソースの本番コードベースからオーパス4.6を使った検証では500件以上の脆弱性を発見しているというような内容があって、
何十年も専門家のレビューをくぐり抜けてきたものたちをAIを使って炙り出していると。
これは人間の能力がなかったからというよりかは、時間がないとかコスパ悪いとかそういう意味合いでやってこなかったものが、
AIで摩擦が減っていくらでも脆弱性を発見できるコストが見合う。
コストが見合うようになったって感じかな、どっちかっていうと。
それを今回エンプラ向けに提供して、しかも使い方もGitHubのリポジトリを選ぶだけだから、
そういうのを食いぶちにしてた専門家がそんなにたくさんいなくてもできるようになったっていう話だよね。
かなりセキュリティ周りって高度な知識を要求されるので、
そんなにそれが分かっている人、見つけられるレベルのセキュリティの知識を知っている人も少なかったのが、
そういうのはOpus 4.6とか7とか、その辺りでも大体できちゃってるっていうことだよね。
あれだね、エンプラ導入してGitHubにあるすごそうなの、とにかくスキャンしまくって攻撃しまくればいいじゃんみたいな、
思う人もいるかもしれないですけど、さすがにそこは制限かけてて、
ちゃんと自社が所有しているかつスキャンする権限を持っているコードのみしかできないようにはもちろんなっているので、
そこは安心なんですけど。
そこは確かにオーガナイゼーションというか単位で、機械的に判断できる安全性みたいなのは、
そこがちゃんと機能してくれているような気はしますよね、プロンプトとかじゃなくてみたいな。
そうそうそうだね、そこが結構最後要になってくる感じはするよね。
普通の今までのプログラミングみたいな、自分のもんだったらいいよ、自分のもんじゃなければダメだよみたいな、
っていうちゃんと判断しきれるような、そこはすごく逆にこれまで土台にしてきた条件というかものが、
これから余計に重要になってくるみたいなのはありそうだね。
そうだね、より重要になってくるよね。
サイバーセキュリティ市場とAIの活用
オープンAIも4月14日にTrusted Access for Cyberっていうのを拡張してて、
もともとプレビュー版みたいなのがあったんですけど、
これを拡張して、一番ティアが高い人には一番緩いモデルを与えている、みたいな状況なんだよね。
つまり、違法的な回答が出やすいモデルも使えるっていう。
それでサイバーセキュリティ強くしてね、みたいなって売ってるから、
完全にセキュリティで稼ぎに来てるなっていうのはもう見え見えだよね、どっちも。
今まで眠ってたものというか、見えなかったものみたいなものがAIで見えるというか認知できるようになっちゃったみたいなっていうのも、
人間の認知機能を超えたものがあって見えなかったものがAIで見えるようになった。
今回はそれが脆弱性だったっていうことで、
じゃあその病気というか、それも治療しましょうねっていう、
今までは気にならなかったけど、病気扱いになってなかったというかね、
脆弱性だったものが、じゃあ治せる、治さなきゃいけないものが見つかってしまったんで治しましょうみたいなっていう、
どう足掻いてもビジネスになっていくみたいなっていうのは、人間の差がというか、そういうのも感じるけどね。
個人的に怖いなって思ってるのが、オープンAIだったから良かったものの、
製品版として出てて、やろうと思えばできちゃうっていう状態は確かに危ない状況ではあるんだけど、
もっと怖いのが、こういうモデルを全然違う角度から出てくるっていうね、中国とか。
なった時に、いわゆる金融系のシステム使ってる会社さん、銀行とかが、
ハッキングされた時のダメージって半端じゃないし、やるかやらないかはちょっと置いといたとして、
仮にね、水穂銀行がぶっ壊されましたってなったら、円の価値がめちゃくちゃ下がるわけじゃない。
確かに、円で持っておくのヤバいみたいなっていうね。
ただ手伝い円の価値下がってるのに、もっと下がるよねって。
国が終わるよなっていう話。
だからセキュリティを高めなきゃいけないよねっていうのは、本当にその通りで、もうすでにやられてるんですけど、
そういうリスクを考えると、やらざるを得ない状況になってるよね、こういうのって。
そうだね、今まで以上にみたいな。
今の銀行とかそういう金融系のシステムのセキュリティがどれぐらいのものなのかみたいなのはちょっと自分も把握できてないけど、
もしそれがミトスとか5.5だとか、もしくはこれから出てくるモデルたちで結構いけるかもみたいな、
こじ開けられるかもみたいになっちゃったらヤバい。
それは相当ね、みんなの銀行残高が明日にはゼロになってない。
本当そういう世界線の話だから、めちゃくちゃ怖いよな。
金融観点で考えちゃったらちょっとヤバいかもしれない。
個人情報の漏えいも、もちろん全然よくはないけどみたいな。
金融周りのシステムがね、ちょっとエグい。
ダメージの深さが違うよね。
深さが、傷がね、頭やられてるのと手足切ってるのと大体のぐらいの。
危ないよって言っててもね、どれぐらい危ないのか、致命傷なのか。
愉快犯の増加とハッキングの低リスク化
どこを攻撃するかっていう、攻撃できちゃうかのヤバさの違いかもしれないね。
こういう大きい話すると、もう我々個人ではどうしようもできないから見守るしかないよっていう人たちもいると思うんですよ。
もうじゃあ、終わりじゃみたいな。
そうだね。
で、そんなに大きい話にならなかったとしてもですよ。
ならなかったとしても、摩擦が減ってるっていうことは、今さバイブコーディングでものすごい人の数がアプリを作ってるわけですよ。
ゲームを作ったり。
だから世界では、ゲームの次に今熱狂的なものがバイブコーディングだって呼ばれるぐらい、本当にいろんな人たちがバイブコーディングをして自分の好きなものを作っていると。
これがやっぱり摩擦が減ったことによって供給が増え、人口が増えると。
じゃあこれ、ハッキングのインセンティブがあるような領域で同じことが起きたら、愉快犯が多分出てきちゃうんですよねっていう。
だからあなたには何の恨みもないし、別に目的もないけど、やりそうだったんでやりましたみたいな人たちがいっぱい出てきて、
え、なんか攻撃されたんだけどみたいな。
え、銀行の残高がゼロなんだけどみたいな。
面白そうだったんでみたいな。
なんでやったんですか?なんか面白そうだった、なんかできそうだったんだよみたいな。
一番残高が少ない人に送ってきましたみたいな。
自分じゃないけどみたいな。
自分が得するためじゃなくてもね。
確かに。なんかあの、ヒーロー部ってさ、
富野再分配を勝手にやり始めるやつとか出てきてもおかしくないよね。
ヒーロー部ってね、みたいな。
それがね、物理、現実世界だったらこうね、電車とかどっかで通り間的にナイフ振り回してとかっていう、
射程圏内が狭いというかね、
ハッキングというかね、そういうクラッキングみたいなものって、
超絶スキルがないと、知識がないといけない、できなかったのが、
そういうナイフしか振り回せなかった一般人とか愉快犯とか、
そういう人たちがそういうこともできちゃうっていうような、
とんでもないナイフじゃないとんでもない武器というかね、
獲物を触れちゃうっていうのがやばいなっていう気がするよね。
そうだね。結局それをさ、周りがやってると、
それが悪いことだと思わなくなっていって、
境界線がぼやけていって、
なんかやっちゃいけないことをやってる、
みたいな風になるのが摩擦が減ることの怖さでもあるなとは思ってて。
だから個人レベルに落とし込むと、そういう人が出てきて、
被害を食らう可能性も全然あるなって思うと、
こちら側のリテラシーじゃないけどさ、
そういうのもちゃんとアップデートしていかないと、
怖い世界になっていくなっていう、ずっとネガティブなことを考えてました。
なるほどね。確かにですね、獣社会みたいな感覚になっちゃうのかもしれない。
いい例えだね、それ。
誰でもね、日本だったらそういうのは規制されてるから、
そういうね、距離があって、ちょっと物理的な距離があっても、
直接致命傷になりうるのはナイフだしくらいしかなかったりすると、
そこまで怖くないかもしれないけど、アメリカとかみたいにね、
マシンが乱射してみたいなとなったら、被害者が相当増えちゃうというかね。
そんなサイバー版でそういう風になっちゃってるっていう、
なりそうになってるって感じがするよね。
しかも物理だとさ、マシンガンプッパーナスは流石にヤバいじゃんってなるけどさ、
サイバーだとその感じあんまないよね、マシンガンプッパーナスって。
人が死なない、人が死にづらい。
医療系とかそういうところだったりのシステム、航空系とかね、
やっちゃったらそりゃ人死ぬってのはわかるけど、
データをいじくったり覗き見に行ったりみたいなとか、
そういうのは人死なないからみたいなっていうので、
一段階やっぱ低いハードルとしてやっちゃったりとかありそうだよね。
いや、めちゃくちゃ起きそうだなと思いますね、それは本当に。
2年後とかみたいな、カジュアルにそういうハッキングとか盗撮、
誰々の女の子の家の見守りカメラみたいなところの情報を見せてみたいなじゃないけど、
それをうまくやるためのやつでみたいなとかね。
こわー、でもできるだろうな、できるようになっちゃうんだよな。
IoTみたいなところとの相性が悪いじゃないけどね、モロハの剣というか。
もしかしてなんだけど、今の見守りの話で言うとさ、
ハッキングされたメーカーの株価がめっちゃ落ちるとかはありそう。
ダークウェブとAIエージェントの未来
確かに確かに。
だから落とすためにそういうことをやってニュース化して拡散してとかっていうのを考える。
一人インサイダーができちゃう可能性があるみたいな。
一人インサイダー、まじでそう。
ありそう。
ありそうだよね。
ありそうだね、確かに。
これめちゃくちゃ怖いなって思うわ。
意外とだからでっかいところからってよりかは、そういう小さいところから、
構造的には全部そうだよね。
小さいところからくぐり抜けて結局大きいことに発展していく。
バタフライエフェクトじゃないけど。
確かにね。
なんでもね、小さな変化から起こるというかね。
元をたどってみたらあれがきっかけだったのかもとかね、
兆しだったのかもねっていうのはやっぱある話だもんね。
ある話だよね。
だからこう、数ヶ月以内に中国からとか、
ジェミニ、グーグルからとか、
同等のレベル出ますってなっても全然不思議じゃないし、
それを使ってなんかハギングフェイスとかにやばそうなLLM転がってて、
聞いたらなんでも答えてくれるみたいな。
ダークウェーブルってあるじゃないですか。
はいはい。
ダークウェーブのLLM版みたいなのがたくさん出てきて。
ありそう。オープンソースのね、
そういうデメリットというかトレードオフな部分でも、
なんでも答えてくれるロックがないけど、
性能が高い。
1、2年後とかはね、ミトスレベルのものがロックなしで転がってるみたいなっていうね。
ありそうだね。
それまでにはこちら側の守りをそれ以上にしておかないと、
大変なことになっちゃうっていうね。
それでね、そうなって、
なんかシステムとかの中に、
そういうエージェントが滞在しているとか、
そういうのもなんか世界もね、あるような、
ロックマンエグゼみたいな感じになるかもしれない。
ロックマンエグゼ。
そういう話だったっけ、エグゼ。
なんかシステムの中にそういうBotとかそういうね、
なんか感情を持ったとか意識を持った存在がネットワークの中にいて、
攻撃したり守ったりみたいなっていうのがロックマンエグゼ。
もしかしたらそういうね、
攻撃者みたいなっていうのがネットワークいて、
それを守る側のね、
なんか性能というか、プラスのポジティブなエージェントがいて、
そういう攻撃が来た時にすぐにそっちの方に行って、
やばいなんか攻撃されてるかなみたいな。
ここの脆弱性からやられてるみたいだから、
早く塞いでとかパッチ当ててとかっていうのを自律的にやってくれるのが、
お互いになんかあるかもしれない。
確かに。
なんか直す、今の話の感覚って攻撃はエージェントがやってきてるけど、
それもこう直すのは人間とかそういうAIで自律的にじゃなくて、
なんか手動で直さないとっていうようなイメージがあるけど、
攻撃されるのも自律的だし直すのも自律的だしみたいなっていう。
うわ、面白いねその話。
なるかもしれないよね。
勝手に立ちごっこやってくれてるみたいな、
人間分わかんないところで。
どっちが勝つかなって見守るみたいな。
そうそう、頑張れみたいな。
祈ってるみたいな。
観客みたいな。
突破されたとき溜まったもんじゃないけどね。
溜まったもんじゃないけどね。
あーみたいな。
やられちゃったみたいな。
オールマイトがみたいな。
ヴィラニーみたいなね。
ヒロアガで。
ヒロアガみたいになっちゃう。
確かに。
だから今攻撃側に使われてる、守りにも使われてるけど、
それをエージェント的に守れるようになったら、
かなり未来見えそうだね。
そうだね。
イメージはそんな風になるのかなみたいな。
常駐してるシステムにみたいなエージェントがいて、
常日頃脆弱性を見つけてばとか、
直してくれてるし、
そうじゃなくとも攻撃側だったっていうのを、
その即座に検知して、通知してくれたり、
スラックとかメールとかで通知してくれつつ、
今こういうことが起きてて、
こういう対応を今やってますとか、
そういう風なのは全然あるのかなみたいな。
確かにね。
するよね。
未来になって、
昔のね、10年20年前の未来だなって思った未来が、
現実にやってくるようになってるようなね。
こういうレベルになってくるとさ、
もう人手では守れるレベルじゃなくなってきてるのかね。
確かに。
スピードが間に合わなくなってきてるよね。
自動車の交通事故を守るのは、
人間の生身では不可能になってきてるみたいな感覚で。
鉄には鉄をというかね。
なんかそういうような。
そんな感じ。
エージェントにはエージェントをみたいなっていう風になってたりするのかもしれない。
また別の目線からの仕組みとかそういうところでね。
そもそも車道と歩道を分けようねとかなんかそういう。
そもそも別軸での回避みたいなっていうのもあるかもしれないけど。
目には目を、歯には歯を。
まとめと今後の展望
じゃあ今日はGPT 5.5が実はやばいモデルだったよっていう話から影響を及ぼすのか。
そしてそれが製品版として脱獄されて使えてしまうというやばさ。
そういうふうに煽っていった中で、
エンプラ向けにセキュリティのAIを売り出して、
これはマチポンプなんじゃないかと。
そういう意味じゃないところもあると思うけど、
一部マーケティング的に使われたところもあるんじゃないかっていう話でしたね。
そういう世の中になって価値が信じられないかもしれないしとか、
信用っていうのがすごい難しくなってくるかもしれない。
そうですね。
見守りロボットとかにハッキングされちゃって、
バイブコーディングとかね、カジュアルにそういうふうにやっちゃう人も出てくるだろうし、
ダークウェブとかに何のロックもされてないような、
今の5.5とかミトスレベルのものが2,3年後には転がってるかもしれないしとか。
そうですね。
摩擦が減ることによって床違反が出てくるんじゃないかとか。
実は大きいところの話じゃなくて、
小さいところから攻撃されてでかい話になるんじゃないかみたいなこともしたね。
最終的にはそういう脆弱性をどう守っていくのかってなったときに、
守り側にもエージェント的な形でできるようになっていくんじゃないかっていうような話だったね。
だから堅牢なシステムを作るという前提で、
そのシステムの中にエージェントを介在させて守っていく。
常に干渉しているみたいな状態が作れるといいかもねっていう話だね。
いいかもねっていう。
未来のシステムというかそういうネットワークというかの在り方がまた一段変わってくるのかもねみたいな。
確かに。
そういう話。
そうですね。
スピード感は求められるけども、ちゃんと対策が取れればいい部分の恩恵を得られるなとは思うので、
期待しつつ、我々もやっぱりリテラシーをその辺につけていかないといけないなと思うところですね。
今日はそんな感じですね。
それでは番組の感想・質問・深掘りしてほしい話題などお待ちしています。
お便りフォームは概要欄からお待ちしております。
AI未来話の番組のフォローとレビューもお願いします。
来週も木曜日にお届けいたします。
通勤通学の30分にAIの未来をキャッチアップしていきましょう。
それでは本日もありがとうございました。
ありがとうございました。
