AIワームとIoTのサイバーリスク
こんにちは、伊藤穰一です。 また今週もAIとその他の話をしたいと思います。
今週のニュースから少し始めると、 まず、AnthropicがAIが自分をコピーすることができちゃうと、今のLLMと違って電源の切断とかストップができないと。
今、色々AIが暴走しても、彼らのホストで動いているので止めることができると。
ただ、AIが自分のAIのモデルをコピーできてしまうと、止められなくなっちゃうと。
今、IoT、冷蔵庫とか、いろんなネット上で動いているハードウェアに自分を自分でコピーしちゃうと、これはもう止められない、暴走するシステムができちゃって。
特にオープンモデルが今でもハギングフェイスとかでダウンロードできちゃうので、危険なんじゃないかなと。
多分これも本当に思っている部分と、前からちょっとポッドキャストで言ってるんだけども、
少しマーケティングでセキュリティの話を過剰にレポートして、それを守るために僕らが必要だみたいな言い方もちょっと背景にもあるかと思いますし、
あとオープンモデルの危険性を過剰にレポートするインセンティブがあるんだけども、でも危険って言ったら危険なのかなと。
今のGLM5.2とかだったらまあまあ小さいコンピューターで動いちゃうのと、それで十分サイバー攻撃にできるので可能性なくはないんだけども、
ただ一部のセキュリティの人たちは少しこれはまだ過剰な反応だっていう人もいれば、こういうAIワームみたいなのがネットの中で暴走しちゃうっていうリスクもあるんじゃないかなと。
だから新しいサイバーセキュリティのリスクとしてはまあ考えなきゃいけないと思います。
ただこれがまたさらに人類が滅びる確率が上がるっていう話は、これはそうかなと思う人とそうでもないと思う人も両方いると思うんですけども、
ただAIの暴走していく道の一つとしては前から議論されている話で、で後からこのGLM5.2、5.3の話の出てくると思うんですけども、
結構そこそこのモデルが、だからGLM5.3 Flashとかだと僕の例えばMacStudioで動くんですけども、
これはだいたいオーパス4.8ぐらいのベンチマークなので、そこそこコーディングができるんだけれども、
FableとかAstraのこのサイバー攻撃のすごいモデルにはまだなってないけども、これっても時間の問題なんじゃないかなっていう感じはします。
で、ただそのIoT、IoTって自分たちのパソコンとかサーバーじゃないものの中にコンピューターがあるっていう話もこれを前からセキュリティリスクで、
これはカメラだとか掃除機とかいろんなのに入ってるんですけども、でこれなかなかアップグレードも時間がかかったり、ちゃんとサイバーセキュリティやってないっていう話も前からあって、
BYD車のハッキング実験
でこれに関連してこれはAIじゃないんだけども、僕もちょっと数週間前に読んだ記事を紹介したいんですけども、これはBYDっていう中国製の電気自動車なんですけども、
サイバーセキュリティの専門家にハッキングをやってみてくれっていうオーストラリアで報道されてるんですけども、結構すごくて、
ヘッドライトを消したりつけたりドアを鍵を閉めたり音楽をかけたりで車の中のマイクロフォンを盗聴することができて結構怖いんですけども、ただこの中で書いてあったのはブレーキとか重要なところは攻撃できなかった
んだけども、
ただ車の鍵を閉めて盗聴できちゃうっていうの結構嫌だなと。そういうコンピューターじゃないコンピューターセキュリティもこれから結構重要なところになってくるのと、これAIが自分の車を盗聴したり鍵を閉めたり
することができたら嫌だなっていうのはあります。
フォトクラフトが変えるソフトウェア開発
そして前々回紹介したアートクラフト、アドビのフォトショップとかのコピーの話がまだ続いていて、ハッカーニュースっていうコンピューターデベロッパーが好きな掲示板でアートクラフトが紹介されて、いろんな議論
があって、結構全然ちゃんと動かないじゃんっていう人もいればすごいじゃんっていう人もいて、
まだきちっとフォトショップと同じような動きはしないんだけれども、この書いたデベロッパー本人が出てきていて、そして何ヶ月以内かにはほぼ99%本物と同じように動くだろうっていう話も書いてあって、そして重要
なポイントはすごいスピードで動いてるんだよね。
このフォトクラフトってフォトショップのコピーなんですけども、この18日の間2472件のコミット、GitHubの新たなコードが書かれていて、そして1日でも385個っていう普通人間が書けないぐらいのスピ
ードでガンガン成長していってるのと、そしてほとんどみんながいろんなバグ出しだとか間違いのこと指摘するとガンガンガンガンアップデートされていて、
で、そのGitHubのリポを見てると300人ぐらいが今サポートして、コミュニティプロジェクトになりつつあるんだけれども、これは本当にただのAIのゴミみたいなことを言ってる人もいるんだけれども、どんどん
どんどんモデルは強くなっていくので、こういうフォトショップの件みたいに今既存のソフトをそのままコピーできるようにもうなっちゃうよねと。
ソースコード持ってないのでコピーライトそのものの違反にはならなくて、で、それの知的財産権とかいろいろな話があるんだけども、ただ2つポイントがあって、このソフトウェアを書けるスピードがすごいことにな
ってるのと、それとこれゲームのなんかも結構今議論されているのはGTAの次のバージョンがちょっと遅れているのがコピーされちゃうリスクを心配してるんじゃないかなっていう人もいて、
で、そういう今までみたいに著作権を違反しないでコピーできちゃう時代に、このソフトウェア産業ってどうなるんだろうかっていうのと、あとこんなスピードで書けちゃうとやっぱりこのソフトウェアディベロッパー
っていう職業も変わるよねっていう話もしていて、で、今回のアートクラフトのディベロッパーももうずっと昔からソフトウェア書いてる人なので、
で、彼のポスト見てると恐怖とワクワクのバランスで本当にでも我々の職業変わるよねっていう話が書いてあって、で、そういう意味でまだ完璧なものにはなってないけどすごいスピードで動いてるっていうのは間違い
なくて、で、これがきっかけでソフトウェアのあり方が随分変わると。
ただ知的財産っていうソフトウェアを守る、英語ではスタートアップのモートっていうお掘りのことなんですけども、他の競争相手が入ってこれないのは何なんだろうっていうのが一つソフトウェアでもこれでなくな
っちゃったんじゃないかなっていう議論はされていて、これからいろいろこういうプロジェクトが出てくると思うんですけども、これをウォッチングするべきポイントだと思います。
で、このユーザーとソフトウェアの関係性が変わるのが、このプロジェクトとか僕の今友達とのプロジェクトもユーザーとしてフィーチャーをリクエストするとほぼ数分以内にそのフィーチャーが反映されちゃうって
いうこともあるので、こういう一つの既存のソフトのあり方もあるんですけども、カスタマイズされたユーザー向けのソフトもアイディアとか新しいフィーチャーがどんどんどんどん入っていくスピードが全然違うので、
ユーザーとソフトウェアの関係性も変わると思うんですよね。だからソフトウェアのライフサイクルがAIで根本的に変わるっていうのもこのスピードを見ればなんとなく感じると思います。
カルパティのAI人口4分類
で、アンドリュー・カルパティっていうディベロッパーがいて、彼はもともとオープンAIの最初の方からいて、そして最近アンソラピックに移ったんですけども、彼は結構このAIをずっとウォッチングしてる、僕も
呼んでるコメンテーターの一人なんですが、彼面白いTwitterの投稿があって、それをちょっと紹介したいんですけども、彼は今人類のAIとの関わり方が4レベルがあって、彼はTiersって言ってるんですけど
も、
まず一つ目のカテゴリー、これ人口の75%ぐらいがほぼLLMと接触してないと。そして次の20%はチャットGPTとやりとりしてるような人たち。で、これはGoogleのかわいいに色々答えをしてくれるし、友
達になったりするんだけども、たまに変なこと言うチャットボットみたいな使い方してる人たちが2割ぐらいいると。
だいたいこれがほぼ10億から20億人ぐらいで、で、次がLLMを数学とかソフトウェアで使ってるプロで、これがだいたい0.2%、2000万人ぐらいで、この人たちは一番新しいモデルを使って、で、今まで本当に
1ヶ月かかってたものが1個のプロモテでバン!でできちゃうっていう感じで、で、
たぶん僕もこのカテゴリーなんだけど、1年前手動でソフトウェアを書いてた人たちがもうほとんどコードを覚えないでLLMとやりとりしてるっていうのがこれがたぶんプロのLLMのユーザーなんですけども、その先に
0.00006%、5000人ぐらいの人たちは今のこのフロンティアモデル、VAIとかアントロピックの中で一番最新のモデルを使ってる人たち。
この人たちが今ネットでいろいろ騒いでる人たちなんですけども、で、こういうモデルが今僕らが使っているモデルよりもはるかに強くて、で、これが今のハギンフェイスの攻撃だとか、数学のいろんな重要な理論とかを解
いたりしてる、こういうモデルが我々がまだ手元にない機能を持っていて、数ヶ月前このハギンフェイスだとか数学の人間ができない問題を解いたようなモデルが、
今、たった今、結構もっと進んでるんじゃないかなと。で、そういう意味でいうと、この5000人が使っているモデルは我々の手元にあるモデルよりもはるかに先に行ってるので、この辺は意外に我々もあんま考えて
ない。
どっちかっていうと、このモデルが半年前ぐらいやってたハギンフェイスの問題だとか、数学のプルーフの問題を我々今集中してるけれども、このモデルが次何してるかっていうのはあんまり表に出てなくて、で、前から言
ってるこのrecursive self-improvementが年末から春までの間にRSAを起こすっていうのはきっと今の手元のモデルよりも、
彼らが使っているモデルで、で、このケイパビリティってどうなんだろうなと思っています。で、ちなみに僕のSilicon Valleyの仲間が12月から3月の間にいろいろRSAになるっていう人たちが、もう
ちょっとやっぱり12月ではなくて来年に入ってからで6月ぐらいまでかかるかもしれないっていう少しRSAのターゲットゾーンがずれつつあるんだけれども、
でもまだすごいショッキングなことが起きるんじゃないかなっていうふうに言い続けていて、で、僕らの手元にないこの次のモデルを見てる人たちは引き続き急激にAIのケイパビリティが来年に上がるって言っている
ので、なかなか僕個人でも判断できないんですけども、引き続きウォッチングしなきゃいけないところなんではないかなと思います。
じゃあお便りの方にちょっと移りたいと思います。
AIロボットと日本の製造業
今週もリスナーの皆さんからたくさんのお便りをいただいています。最初のメッセージはジョシミンさんから。
AIが何でもお仕事をこなす世界、フィジカルAIも日々進化し、カジロボットも実用化が進んでいますが、ジョイさんが今欲しいAIロボットはどんなものですか?
僕はまだ売りに出てるAIロボットはあんまり必要ないかなと思うんですけども、ただやっぱりAIロボットがきちっと動くようになったら、このリアルワールドのインパクトはすごく伸びると思うし、で、今までやっぱり
製造業が高齢化も含めて、あと賃金が高くなったのも含めて、製造できなかった国がAIロボットで製造できるようになるとか、いろいろ変わるんじゃないかなと。
で、日本は意外に強いんじゃないかなっていう人もいるし、結構フィジカルAIに投資してるので、うまくそれが機能すると日本のAIの中での競争力が上がるんじゃないかなというふうに期待はしていつつ、で、中国も
すごい進んでるし、アメリカも頑張ってるので、これは本当に次の重要なフェーズだと思いますので、私もウォッチングしてます。
GLM5.3のローカル利用とAPI
続いては、うさぎさんからのお便りです。 GLM5.3などのLLMも活用されているとお話しされていましたが、実際にはAPI経由で利用されているのでしょうか。それともご自身でローカル環境を構築して運
用されているのでしょうか。
私もGLM5.3の導入を検討しているのですが、API利用ではデータの取扱いやセキュリティ面が気になっています。ジョイさんは、性能コスト、セキュリティの観点からAPIとローカル環境をどのように使い分
けていますか。
僕はマックスタジオで5.3フラッシュと言って、少しフロンティアのバージョンよりは機能性は低いんだけれども、完全にローカルに使えるので、自分のメールだとかプライベート情報を解析したりするのには使って
ます。
それで中国のZAIのサーバーに行かないでログ保管とかをちゃんとしてないって約束しているアメリカのサービスだとか他のサービスもあって、それを後でブログの方で紹介しますけれども、私の知り合いが運営して
いるLunar Routerというサービスもやっているので、そこをどっちかというと使ってます。
メインのソフトを書くのには使ってなくて、AnthropicとかOpenAI、AstraとかOpusで書いたやつのその爆出しとか他の目線でチェックするためには結構使ってます。
Lunar RouterとかOpen Routerとかっていうのは全部ホステッドのサービスなんだけれども、ただ自分の知り合いが動かしているサービスなのでログ保管してないっていうのは安全じゃないかな
というので。
僕が自分で使っている情報ってキャテゴリー分けていて、自分のオープンにしているGitHubのソフトウェアなんかは別にもうGitHubで見れるのでそれは全然大丈夫で、
自分のプライベートのリポとかソフトウェアなんかでただ自分の個人情報が入ってないようなものはLunarRouterとかOpen Routerとかそういうところに送っても大丈夫なんじゃないかなっていうの
と、
あと自分の本当の個人情報メールとかそういうのが入っているのは自分のMacStudioで動いているやつに送るっていう3つぐらいキャテゴリー分けています。
AIで利用規約を代理チェックする構想
最後のお便りは坂井さんからです。
私は60代ですが新しい技術を知ることもAIと話しながら考えることも楽しいと感じています。
しかし最近こんなことを思います。
様々なサービスを利用するときに表示され何度も画面をスクロールさせられる利用規約やプライバシーポリシー、これらすべてを理解して個人が対応し続けるのは不可能なのではないでしょうか。
生活に必要なサービスや製品を使うためには提示される条件や変更を受け入れる以外に選択の余地がないように思うことが増えています。
しかも理解や対応の負担、問題が起きたときの責任まで個人に委ねられているように感じます。
AIの進化はその状況を加速していると思います。
最近の私は知りたいという楽しさを知らなければという焦りに変えられてしまっている時間が増えています。
自己責任の限界を超えているのではないでしょうか。
クリックしてこの契約をOKしたという、昔からソフトウェアであるパターンなんですけれども、
ただいくつかの裁判ではそこまで法的責任をこのクリックだけでユーザーに押し付けちゃいけないよねっていう話も出てはいながら、
今おっしゃる通りプライバシーポリシーとかもうちゃんと出してるじゃんっていう問題はすごくあって、
最近でもAIが結構役に立つんじゃないかなと思って、
さっきの例えばどのサーバーにどういう情報を流したらいいか、
どのサービスがGLM5.3をちゃんとログ保存しないでサービスしてるかとか、
そういうプライバシーポリシーを読むのにAIを使うのはすごく便利で、
今サイトに行けば大体ポリシー書いてあるので、
自分が使っている全部のソフトのいろんな問題点を洗い出して、
自分が例えばプレファレンスあるとしたらこういうルールで自分はソフト使いたい、
したがって自分が使っているソフトでそれに反しているのがないかどうかっていうのは
AIが簡単に解析できるし、
多分今まだできてないんですけども知り合いたちと少しブレスとしているとは、
今Chromeとかブラウザーの中でAIが動くので、
本来自分の個人情報保護とか自分のポリシーマネジメントのエージェントがいて、
クリックする前にエージェントが読んで、
これはクリックしない方がいいよとか、
これはあなたのこういうルールを反しているというチェックをAIに使うということは
きっとできるようになってくると思うので、
だからこのポリシーの何をOKするか何をOKしないかっていうのは、
AIがきちっと自分を代理して動くようになるんじゃないかなと思うので、
それを早く作ればいいのかな。
僕も確かにこれを考えていたので、
これにおきっかけにちょっとアプリ作ってみようかなと思いました。
はい、今週はここで終わりです。
また来週いろいろ新しいニュースと皆さんのお便りをピックアップしていきたいと思います。