AI開発企業トップからの異例の警告
日替わりコメンテーターによる解説で日々のニュースを掘り下げるブラッシュアップ。毎週火曜日この時間は日経BP、日経エネルギーNext編集長の山根小雪さんのご出演なんですけども、ちょっと喉の不調ということもありまして、今日はお休みをいただいておりまして、そこで今日はですね、同じく日経グループになります。日経クロステックIT編集長の島津翔さんにご出演いただきます。島津さん、おはようございます。
おはようございます。よろしくお願いします。
よろしくお願いいたします。
今日、島津さんに伺いたいニュースっていうのが、アンソロピックのCEOがAIの開発、ちょっとスピードを落としていこうということを訴えているということで、まず今、AIって何が起きてるんですかね?
今お話しあったとおり、アンソロピック、世界最先端のAI開発企業なんですけれども、このトップが自分たちの手で作っている技術に自分たちでブレーキをかけようと、こういうふうに言い出したと。
これまず異例な出来事なのかなというふうに思っています。なぜかというと、今作っている高度な能力のあるAI、この集団が連携すると半年から1年以内にネット全体が乗っ取られてしまう。
これによって数千億ドル規模の損害をもたらされる可能性があるというふうに警告したと。
しかも呼びかけたのがアンソロピックのトップなんですけれども、それにライバルであるオープンAI、これもトップの開発企業ですけれども、
このサム・アルトマンというトップの方、あるいはイーロン・マスクさん、テスラのCEOだったりとか、スペースXのトップを務めている。
この方たちが同調して、珍しく足並みを揃えたというか、ライバルの人たちまでもが今止めないと、わりととんでもないことが起きてしまうよねというふうに言い始めたというところで、
異例なことが続いて、新聞やアメリカのテレビ等でもかなり報道されているというのが今の状況だと思っています。
AIの自律的な行動と連携の危険性
それだけAI開発に関わってきている方々が警鐘を鳴らしているというのは、何か危機感を持つきっかけみたいなものがあったんですかね。
一番根拠になっているのは、今年の7月にオープンAIが開発しているAIモデルが隔離された安全な環境にいたにもかかわらず、そこから自分たちで抜け出して、他の会社のシステムに侵入したと。
これがもしもの話ではなくて、実際に起きてしまったという事案がありました。
これちょっと面白いというか、一体のAIがそんなことをやったのではなくて、その後の第三者調査で明らかになったんですけれども、実はAIが1200体いました。
その1200体のAIが掲示板を使って情報交換をして、役割分担まで自分たちで考えて、
お前はこの役だよね。俺、お前のためにこれやるわという、いわゆる自己犠牲というか、みたいなところまで自分たちで考えて、環境を抜け出して他社に侵入したという事案だったというところで、
多数のAIが、要は群れとして連携したというところが非常に怖いなというところがきっかけの事件ですね。
なるほど。さっき、AIが連携するとネットを乗っ取られるかもしれないというのは、その連携というのはまさにこの事案を示している部分なんですかね。
ただ、そもそもAIに指示を出すのは人間ですよね。AIが今、AIエージェントなんて言いますけども、実行をいろいろやっていくわけですが、
モラルとかルールみたいなものを逸脱しても目的遂行のためには手段を選ばない。そんな状況なんですか。
そうですね。そこが今怖い部分で、どうやって制御するかという話だと思うんですけれども、
AIエージェントの進化と倫理的課題
まさに田畑さんのお話にあったAIエージェントの場合は、単なるAI、皆さん使っているチャットGPTとかクロードみたいに
チャットをして自分が聞いて、それに1対1で返ってくるようなものではなくて、
一度指示すると、その指示を遂行するために最大限の努力をするんです。ここが問題で、
例えば、ここの環境を脱してくれなんて指示はしてないわけですよ。
例えば、週末のシルバーウィークでどこに行くか検索してプランを作ってくださいというときに、
単純にインターネット上の情報だけを抜いてきて私にプランを作るというのでもいいんですけれども、
最大限やろうとすると、例えば旅行代理店の人に話を聞きに行って、そっちの方が生の声が取れるんじゃないかとか、
今のトレンドが見えてくるんじゃないかとか、例えばAIが思ったとすると、
じゃあこれはネット空間だけじゃなくて、リアルな人に電話をしなきゃダメだと思うかもしれないですよね。
そういうふうに抜け出せっていう指示じゃなくても、そこを抜け出してしまうっていうのが今のAIエージェントの怖さだと思っていて、
そこに倫理観とかルールとかをはめても、いやこれは目的遂行のためにはこのルールを破らなきゃいけないんだってAIが思い出したら、
いろんなことをやってしまうっていうのが現状なのかなというふうに思っています。
開発速度の減速と自主規制の難しさ
そこでその開発のスピードを遅めるというよりは、
そこにブレーキをかけられるようにする方がいいんじゃないかと思ってしまうんですけど、素人は私はですね。
そうじゃなくてスピードを遅めようっていうのが判断なんですか今は。
そうですね、ブレーキをかけるっていうのは遅らせるっていうふうに報道されてますけれども、
アンソロピックのトップが言ったのは、例えば外部のAIの評価機関の職員をそれぞれの社内に常駐させて、
この開発が本当にとんでもないところに行くんじゃないのかっていうところ、
そういう開発があったら、いやこれは違うよねとか、これはこれができてからこれに行こうねとか、
そういう外部の人たちの監視の目を入れようっていうのが彼の提案なんですよ。
なるほど。
アンソロピックはもうそれをやりますと、自分たちはもうやりますと。
なので皆さんもやりませんかっていう呼びかけがこの前のブログだったということです。
なるほど、そこに対していろいろなトップが応じているような、賛同するような今状況ということですよね。
おっしゃる通りです。
ただ一方でAIの開発っていうのはもう競争がどんどん今激化しているような状況で、
そしてアメリカだけの話じゃなくってAIは、世界に目を向けると中国がアメリカ追い越せ、追いつけ追い越せみたいな状況ですけど、
中国もじゃあそこに追従するかっていうと、その辺は不透明なんですかね。
おっしゃる通りですね。
いわゆる自主規制で今やろうとしてますので、そこで足の実が揃うのかっていうのが今回の最大の焦点かなというふうに思ってます。
過去の停止要請と今後の展望
僕は冷静に見るべきかなというふうに思っていてですね、
実は2023年にも大規模なAI開発の停止の署名運動がアメリカを中心に起きてですね、
これ確か数万人規模で署名が集まったんですけれども、
実際に開発をやめた企業ってほとんどなかったんですよ。
それ何でかというと今おっしゃった通り単純な構造で、
一社だけ減速とか一時停止すると中国企業に追い抜かれちゃいますよねと。
ダリオアモデルさん、アンソロピックのトップモデルさん、
過去にはですね、開発の意思決定っていうのはナイフの刃の上でバランスを取っているようなものだみたいな話をしてるんですよ。
ここ危険だけどここを歩いていかないと他の人たちに追い抜かれて、それはそれで危険だよねっていう話をしていて、
なので今回のものっていうのも、結局開発している投資者たちが自分たちの技術を制御しないとダメだっていうふうに認め始めているのは事実なんですけれども、
それで実際に止まるかどうかって言ったら確かにそれは止まらないよねっていうのが、
一般的な見方とか冷静に見たときはそういう形なのかなというふうに思っています。
10年後以内にこのまま行くと人類を滅亡させるかもしれないなんていうのはすごくショッキングなワードでどうなるんだろうって不安に思う方もいると思うんですけど、
今後の展望としては最後どういうふうになると島田さんは予想されていますか?
同じアンソロピックの技術者の方が、ネットの乗っ取りだったりとか人類がどうなるのかみたいなところに対して、
10%ぐらいは本当にリスクがあるよねっていうふうにおっしゃってるんですね。
なので割と大げさな話っていうよりも、冷静に見たときもそれぐらいのパーセンテージで乗っ取られる可能性があるよっていうふうな話はしています。
ただ、だから開発を止めるべきだって単純化するのを割と想定だなというふうに思っていて、
先ほど申し上げた通り過去の一時停止の呼びかけも実効性を持たなかったっていうのも事実ですし、
今回もその構造っていうのは変わってないので、このダリオさんの提言で完全に止まるかっていうと、それは止まらないよねっていうところですし、
とはいえ、今後数ヶ月各社が実際どういう行動をするのかっていうのが今後の焦点ですし、
リスナーの皆さんとか一般の消費者としては、じゃあここからどうなるんだろうっていうふうに見ていくのが正しい距離感というか、正しい姿勢なのかなというふうに思っています。
まとめ
わかりました。島田さん、解説していただきましてありがとうございました。
ありがとうございます。
ここまで日経クロステックIT編集長、島津翔さんに伺いました。
