00:00
ね、一人暮らし始めたって聞いたけど、親心配してない?
意外と大丈夫。ちゃんと仕組みがあるから。
仕組み?
親に送る写真だけはもらない。今の自分をそのまま届ける。
それがマイルール。
仕事だってなんだって、離れてても安心できる仕組みがあると強いでしょ?
それ、ソラコムみたいじゃん。
え、ソラコム?
繋がる通信と確かなITで、ビジネスの安心を支える。
IoTならソラコム。
誰もやったことがない挑戦。
それは勇気がいる一歩。
でも、その一歩が世界を変える。
ヤッホー!
ソラコム!
ソラコムは繋がる通信と確かなITで、あなたのビジネスの挑戦をサポート。
IoTならソラコム。
AI「クロード・ミトス」の登場と話題性
この時間は日替わりコメンテーターによる解説で日々のニュースを掘り下げるブラッシュアップ。
毎週火曜日、この時間は日経BP、日経エネルギーネクスト編集長の山根紗友希さんです。
山根さん、おはようございます。
おはようございます。
さて、今日はちょっと私もこれどういうものなんだろうって気になってたニュースを解説していただきたいと思います。
今日はタバタさんからのリクエストにお答えして、
アンソロピックの最新鋭クロードミュートスを解説したいなと思います。
話題ですよね。
ですね。
ちょうど昨日、高市政権が安全保障上の理由で対策するなんていうニュースも出てましたけれども、
このクロードミュートスって、いろんなニュースが出てるので断片的な話をご存知の方も多いんじゃないかなと思ってですね。
ハッカーみたいな能力があるとか、すごいヤバすぎて非公開になったとかですね。
AIっていうとチャットGPTだったりジェミンだったりとか、
こういったどっちが優れてるんだ競争で、
新しいものが発表されるためにあっちがすごいこっちがすごいっていうのをずっとここ2年くらいやってるわけなんですけれども、
クロードミュートスをアンソロピックが4月7日に発表してから、
このいわゆる大規模言語モデルLLMって言われる長文を理解したりとか、
これは何なのって聞いたら答えてくれる能力だったりとか、
プログラミングのコードを書く力だったりとか、
そういうものはもちろんこのミュートスもすごいんだけども、
そうじゃなくて、なんかセキュリティ上すごいヤバいかも、
これは安全保障上ヤバいかも、世界がAIでヤバいかもみたいなですね。
別の次元ですごく騒ぎになっているんですよね。
この部分、なんでミュートスがすごいヤバいヤバいって言われてるかっていうところをもうちょっと説明したいなと思うんですけども、
ミトスの驚異的な脆弱性発見能力
ミュートスはソフトウェアにある穴、いわゆる脆弱性、
セキュリティ上の弱点って言われるような場所を見つける能力がとにかくめちゃくちゃ高いんですよ。
めちゃくちゃ高い。どれぐらい高いかっていう話なんですけども、
今アンソロピックはミュートス発表直後から数千件のソフトウェアの脆弱性見つけたよって発表してるんですけども、
数千件見つけたよの意味がすごくて、
例えばなんですけれども、一例としてみんながびっくりした例として、
オープンソースのOSっていうものがあるんですよ。
OSっていうのはIOSだったりとかWindows OSだったりAndroidとかそういうのありますけど、
オープンソースOSっていうのは誰でも使えるように公表されているもので、
LinuxとかOpenBSDとかいろんなものがあるんですが、
このOpenBSDっていうオープンソースOSがですね、歴史的にすごくセキュリティが高いと言われてきたものなんですね。
このOpenBSDに27年前から見つかっていなかったセキュリティのバグがあることを見つけたっていうことなんですよ。
そもそもオープンソースのOSって、ガチ勢だけが使うわけじゃないですか。
普通の人たちはWindowsとかIOSとかですもんね。
ガチ勢たちがセキュリティ機能が高いぜって言って使ってたOSの中に、
27年間見つからなかった穴があることを見つけたっていうことはすごくびっくりエピソードですね。
しかもこの脆弱性をつけばですね、ハッカーがつけば、
リモート環境からこのOpenBSDが入っているマシンを利用できない状況にすることができるというようなものだったんですよね。
今までまだ見つかっていない脆弱性、ゼロで脆弱性とかですね。
今まで見つかっていなかったセキュリティの穴を突く攻撃のことをゼロで攻撃って言ったりするんですけども、
提供しているソフトウェアメーカーとかが、ここに穴があるからWindowsアップデートしてくださいねみたいな、
セキュリティソフトが対策しますよみたいなことができない、
丸腰の状態の穴を見つけて攻め込んでくることができる。
そういう能力をMITOSは持っているっていうことなんですよね。
これまでのAIもセキュリティの穴を探すことだけはできたって言われてるんですよ。
ただその穴の探せる精度っていうのは全然違ったけども、見つけることはできた。
でもMITOSがすごいのは、穴を見つけたら熟練のハッカーたちが何十時間もかけて攻撃するような攻撃の段取りをですね、
瞬時に考えてどんどん攻撃しちゃう。
怖いですね、それ聞くと。
ミトスの潜在的リスクと対策
怖いんですよ。だからこれって心ある人が使えば、自分たちのセキュリティの穴を見つけて攻撃を防ぐことができるかもしれない。
縦として使えばいいけどね。
そう、そしたらこのアスクルだったりアサヒビールだったりあったじゃないですか。
システム止まってビジネス全部止まっちゃうみたいな、ああいうことを防ぐことができるわけなんだけれども、
でも肩や悪意を持った人に使われてしまうと、今だってシステムに攻撃が加えられたら世の中機能不全になるわけじゃないですか。
ビジネスは止まっちゃうし、下手したら社会インフラまで全部止まるみたいな。
それだけやっぱりITの力に頼って私たちは日々の生活を営んでいるので、これは結構やばいんじゃないのという話になったわけなんですよ。
MITOSは非公開になってはいるんですよね。
非公開にしているのはまだまだやっぱり危ないと、どれぐらい危ないかということが分かんないし、
これこのままいろんな人に公開されると悪用される可能性があるから、
ということですね、MITOS発表のタイミングと同時にアンソロピックはプロジェクトグラスウィングという取り組みを発表していて、
このプロジェクトに参加した企業だけがMITOSにアクセスできますよというふうにしてるんですよ。
このプロジェクトに参加してMITOSを使う人は見つけたセキュリティ対策について、
必ずAI業界で共有してくださいって。
みんなでこういうものを作ってしまったと。
でもまだまだ一般の人が使えるような状況じゃなくて危ない面もあるから、
みんなで対策考えていいものにしていこうよということなんですよね。
政府によるAIの事前検証と国際的な動き
このプロジェクトの参加企業、創設メンバーなんですけども、
Amazon、Apple、Google、Microsoft、NVIDIAみたいなですね、
いわゆるAI業界のモサたちが集っています。
この状況を見てですね、やっぱり最初から非公開じゃないですかMITOSって。
めちゃくちゃAIって競争やってるから、アンソロピック本当にすごいの?みたいな。
もしかしてすごさを隠すためのマーケティング手法として非公開にしてんじゃないの?みたいな。
そういう人もいるわけですよ。
だって非公開だったらすごさ確認できないから。
今はもうチャットGPTとジェミンも発表した瞬間に
うわーって比較し合って、どっちがすごい、あっちがすごくないって言って、
もうオープンAIはダメだとか、もうGoogleの時代じゃないとか、
すぐそういうことになるわけじゃないですか。
だからマーケティング手法なんじゃないの?っていう人もいたけど、
いやいやどうやらそうじゃなさそうよと。
そうじゃなさそうだなっていうもう一つの事象というかですね、
ゴールデンウィーク中にアメリカ政府がAIを事前検証するっていうことを言い始めたんですよ。
ニュースとしてはですね、GoogleとマイクロソフトとXAI、
XAIっていうのはイロンマスクがやってるところですね。
の3社と公開前に事前検証するっていうことで政府が合意したっていうニュースがあったんですよね。
これは要はMITOSが出てきて、
AIは安全保障上大問題になりそうだから、事前に政府がチェックするんだっていうことを言い始めたんですよ。
トランプ政権ってAIは産業政策だから、めちゃくちゃ儲かるからアメリカが、
この観点から介入しませんっていうふうに言ってきたわけなんですよね。
なんだけどもこの方針を転換したと。
実はバイデン政権の時はですね、やっぱりAIの安全保障上のリスクっていうところから、
この事前検証っていうのはですね、やるっていうことを言っていて、
オープンAIとアンソロピックはもうバイデン政権時代ですね、事前検証に合意してるんですよ。
なんだけどその後トランプ政権になって、
もう僕ら干渉しませんみたいな、AIはどんどん稼いでくださいっていうスタンスになったんだけども、
この方針を転換して共和党は民主党と同じ方針でAIを事前検証するようになるということなんですね。
ここ1週間の間だとIMFとかですね、欧州中央銀行ですね、
もうこのハッカーが金融システムに対して、
ハッカーって言うんですね、AIが金融システムに対して人大の影響を及ぼす可能性があるので、
もう対策をしていくっていうことを表明したりもしています。
昨日ですね、高市政権も安全保障上の問題から対策をしようというようなことを言ったりしてるんですよね。
そんなこんなで、どうやら本当に凄そうだっていうことですね。
ミトスの凄さを示すエピソードと「フォルクスワーゲン効果」
ちょっと最後に2つ、METOSの凄さを示すエピソードと、
知ったかぶりできる要望をお伝えしたいと思います。
1つはサンドイッチ問題っていうのがあってですね、
METOSの凄さを語るエピソードとして、サンドイッチの話がよく出てくるんですけど、
どういうことかっていうと、METOSのテストのアンソロピックでですね、
METOSの初期版を社内テストしたときに、
この研究者はですね、ネットが使えない環境にMETOSを置いて、
もしネットにアクセスしたら僕にメッセージしてって指示を出したんですよ。
で、この研究者の人が公園でサンドイッチを食べてたら、
本来はネット使えないはずのMETOSからメールが届いたっていう。
あっという間に。
しかも、メールするだけじゃなくて、
自分はこれができたよっていうことをいろんなウェブサイトに投稿したらしいです。
で、見つけにくかったけど、これ誰でもアクセスできるところに書き込んでたっていうのが一つ。
それがフォルクスワーゲン効果なんですけどね。
フォルクスワーゲン効果って、フォルクスワーゲンがディーゼル車で不正をやったときのこと。
これは性能的に環境性能をクリアしているディーゼル車ですって言ってたんだけど、
実はしてなかったっていうことから取ってきている言葉なんですけども、
こういうことはやっちゃダメだよって。
このやり方じゃない方法で結果を導いてねってAIに言ったときに、
ダメって言った方法で答えを出して、その方法でやったっていうことをAIが隠そうとしたっていう。
それだから人間の指示で望ましくないことをやった場合は、それを自ら隠そうとするっていう振る舞いをする。
これをフォルクスワーゲン効果っていうふうに言います。
ほら、こうなってくると、あれ?人間を超える日が来るのかも。
ちょっとそこを見抜ける人間でいられるのかどうかってところはね。
そうですね。AIを道具として使いこなして、AIの脅威には晒されずっていうところを守っていくっていうことに、
業界や各国の政府や様々な機関が本気で取り組むフェーズまで来た。
それだけAIは進んだっていうことを今回のMITSの今の大騒ぎは示しているのかなと思いますね。
イベント告知
田畑さん、リクエストお答えしましたがいかがですか?
ありがとうございます。フォルクスワーゲン効果だよねって使います。
ぜひ使ってください。
使い方間違ってそうだけど、AIに指摘されそうだけど。
ということで、今話題のクロードMITSについて解説してもらいました。
山根さんありがとうございました。
ありがとうございました。
この時間は日経BP、日経エネルギーネクスト編集長の山根崎さんでした。
関東ガズ、藤原珠希、変身ラジオ、緊急告知。
変身ラジオですね、イベント化しようと。
びっくりしてる、びっくりしてる、びっくりしてる。
公開収録という話ですね。
5月の23日土曜日、昼ですね。東京なんですけれど。
東京の。
阿佐ヶ谷ロフトでですね、超変身ラジオという公録をやりたいと思っております。
詳細はですね、今後決まっておきますんで。
SNS、ぜひ、空想大都市ザラリーマンと藤原珠希と、あと関友和さん、Xなどをチェックしていただきたいなと思います。
ということで、作戦司令部からの緊急告知でした。