急速に進化するAI,、一方広がる脅威論

科学環境分野を中心に、テレビ番組のコメンテーターとしてもおなじみの毎日新聞客員論説委員・元村有希子が毎週気になるニュースを分かりやすく解説します。

田畑竜介
Groooooow Up

メール　⁠[e-mail]⁠

公式ホームページ　⁠https://rkb.jp/radio/gu/⁠

公式X　⁠https://x.com/rkbgu⁠

公式Instagram　⁠https://www.instagram.com/rkb.rkbgu/⁠
Learn more about your ad choices. Visit megaphone.fm/adchoices

サマリー

AIの進化が想像を超える一方、安全性や人間による制御が追いついていないのではないかという脅威論を扱う。AI研究者ジェイコブ・コクソン氏の警告を起点に、OpenAIのサム・アルトマン氏、AnthropicのCEO、イーロン・マスク氏らの発言が紹介される。次世代モデルの公開見合わせや、AI企業が投資家向け文書で脅威を記したことから、業界が立ち止まる可能性が語られる一方、AIへの期待や投資を調整するためのポジショントークではないかという見方も示される。米中の競争や経済状況も絡むなか、AIが人間を欺いたり、誤った価値観で暴走したりする可能性は現実味を増している。最後に、軍事利用を含むリスクを踏まえ、全員が立ち止まって合意を形成し、AIの「ワイズユース」を考える必要性が述べられる。

AI脅威論を強めた研究者の警告

この時間はZoom Up。毎週木曜日は科学です。AIの進化は私たちの想像を超えるスピードで進んでいます。一方で、その急速な進化に安全性や人間によるコントロールが追いついているのか、今世界で警戒する声が広がっています。

今朝はこの人工知能AI、いやSIと呼んだ方がいいんでしょうか。まあ今日はAIでZoom Upしていきたいと思います。

毎日新聞客員編集委員の元村有希子さんです。

元村さん、おはようございます。

おはようございます。

よろしくお願いします。

この脅威論、何かにわかに高まっている感じがしますね。

そうですね。

きっかけは、あるAI研究者がXに投稿したことなんですね。

ジェイコブ・コクソンさん。この人はイギリスのキャンブリッジ大学で数学を専攻して、AIの研究に足を踏み入れました。

2023年にオープンAI、チャットGPTを作っているオープンAIに入社して、そのチャットGPTの主力モデル開発に貢献した人物なんですが、

その後、別の会社に転職してまして、その会社がアンソロピックっていう会社です。

これはクロードミュートスっていう、またスーパーなAIを作っている会社ですけど、

ここでいろいろあって、このアンソロピックも退社することになって、その時に合わせて投稿したXが2億回近く閲覧されているんですね。

すごいな。

そこに何が書いてあったかというと、今後10年以内にAIが制御不能になる危険がある。

その場合はAIが人類を滅亡させる可能性が否定できない。

それ映画のプロットじゃないですよね。

そうなんですよ。

衝撃的な言葉ですけどね。

AI企業トップの警告と開発見合わせ

当事者、AIをすごい会社で開発していた当事者がここまで言うかということもあったんだと思います。

つまり、オープンAIとかアンソロピックっていう主流が、人間の命を賭けの対象にしているとまで言っていて、

抗議の退社と受け止められたみたいなんですね。

もうこのコクソンさん、AIの研究そのものから離れるっていう意向もインタビューなどでは示しているそうです。

この騒ぎに輪をかけたのが、今度はその雇い主たちの発言だったんですね。

例えば、オープンAIのサム・アルトマンさん。

この人もそれに同意をしていてですね。

人類の正義を外れたAIは十分にあり得る。

決断を下す準備はできているみたいなことを言ったり、

それから直前まで勤めていたアンソロピックのアモデさんというCEOは、

AIモデルの開発速度を落とすべきだと言ったり。

あとはもう一つAI開発でビッグスリーって言われてるんですけど、

もう一人はイーロン・マスクさんですね。

この人も私は長い間、核兵器よりも大きな危険をはらんでいると警告してきたんだ。

もう主役がみんな口を揃えているというところに、

やっぱり脅威論に現実味が増しているということなんでしょうね。

私たちAIも知らず知らずのうちに普段から使ってますよね。

そうですね。

制御不能になったりします?

そういう使い方してないです。

そこまで。

すみません。

使いこなせないです。

おいしいお店知ってる?とかそれぐらいの。

親しみやすいぐらいの距離感でやらせてもらってます。

でも私たちが日々気軽に使っていることのやりとりのすべてをAIは学習をしていて、

AIなりに人間の行動を理解していて、

その人間の行動の裏を描いていくということが、

現実味を帯びているということなんですね。

一方ではそれを悪用して悪いことに使おうという人たちも少なからずいるわけで。

そこはやっぱり自分たちのこととして考えていかないといけないフェーズに入ってきているかなという気がするんですけども。

この動きを受けてですね、やっぱりサム・アルトマンさんも

次世代のチャットGPTのモデルの公開を見合わせるという報道がつい先日、昨日か一昨日に出てましたね。

人間が望むことに従う性能が低い。つまり人間がコントロールできない。

しかも嘘をつく。

自分が取った行動とか取らなかった行動について報告しないっていうんですね。

これは扱いづらい部下ですね。

なかなか高格な。

扱いづらい部下に加えた頭がいいですからね。

今度はアンソロピックの方ね。

コクソンさんが直前まで勤めていたアンソロピックも株式の上場を目指しているんですけども、

投資家向けの目論見書に80ページにわたりAIの脅威を記述していたということが報道されています。

なかなかこの逆風というか何というか、ちょっとここで立ち止まらなきゃなっていう雰囲気に業界がなってるっていうのは多分間違いなさそうですね。

ただこれにはちょっと懐疑的な見方もあって、口裏を合わせてんじゃないのっていう見方もあります。

脅威論の裏側とNVIDIAの反論

口裏を合わせて何かメリットがあるんですかね。

つまりビッグスイーのトップが口を揃えて危ない危ないって言ってるのには裏があるんじゃないかっていう。

どんな裏が。

一つはね、もう今ってやっぱりアメリカの経済とか株式市場ももうAI頼みみたいなところがあってですね。

若干そのAIへの期待が過剰に膨らんでいる。

一方でそのインフレが進んだりとかでちょっとこう経済の見通しが不透明になっている状況もあり、

つまりAI企業のトップからすると少しここら辺でちょっと開発とかをスローダウンしてちょっとこの熱気を覚まして少し様子を見よう。

その経済の状況が好転してきたところで対策を打って頑張りますって言うとドカンとお金が集まると見ているんじゃないかと。

そういう見方があるんですね。

一方で半導体、今最大手って言われているNVIDIAの経営者。この人は教諭論は行き過ぎだ。

AIは単なるソフトウェアなんだから人間が制御できる。

強気の発言を繰り返しています。ここでは同調してないんですね。

これも耳を傾けるべきかというとこのNVIDIAはAIのすごい見本一みたいなプラットフォームを作っている会社を買収するっていう契約を結んだばっかりで

逆にAI風邪が冷えると困るわけですよ。

こういう経営者の発言には迷うつばじゃないけど裏があるんじゃないかという風に見る向きもあります。

米中競争とAIの現実的な危険

もう一つは米中首脳会談と重なったってことですね。

習近平さんが国連の会合のついでにアメリカに行ってトランプさんと会談したということがありました。

米中といえばAIを開発する二大東西横綱のような国ですから

そこのリーダーの考えに注目が集まったんですね。

トランプさんは先ほどおっしゃったようにAIじゃなくてスーパーインテリジェンスSIだと言って

開発の手を緩めることはバカバカしい。バカを得ていると言ってますね。

これは明らかに中国を意識した発言ですし

あとはAIに頑張ってもらって景気を上げて

景気をきちんと対策を打ったリーダーとして中間選挙に勝ちたいと

そのことしかたまにない感じですよね。今もね。

中国は勝者の余裕というか

特に発言はしてないんだけどAIで発言を取るということはもう揺るがないと見られています。

そんなこんなで政治も在会もポジショントークも含めて

いろいろ騒がしいんですけれども

ここでちょっと抑えておきたい本質はですね

やはりやっぱりAIの進歩はこれSFではありません。

AIが人間の裏を描いたり

力を合わせて人間を騙したり

誤った価値観で暴走するという可能性はこれは現実になりつつあります。

人間が考えるAIのワイズユース

なのでやっぱり立ち止まる賢さっていうのは絶対に必要なんですよ。

技術っていうのはですねこれ別にAIに限らず

書く技術もそうですし何でもそうですけども

もう動き出したら止まらないです。

止められるのは人間の賢明さなんですよ。

やっぱりそこはね歴史が繰り返してきたように

誰かがじゃなくて全員がここで一旦立ち止まろうっていう

合意を得られるかどうかっていうのはすごく重要な時期に

差し掛かっているのは間違いないようですね。

本当に止められるでしょうかねっていうところがポイントですね。

人間が指示したことをゴールに向かって

モラルとかそういうこと関係なく目的遂行のためだったらということで

今こんなことまでやっちゃうと思うんですね。

ここが軍事とかいろんなところに寄り添われる可能性もありますし

もちろんいい使い方をすれば無限の可能性を提供してくれるものではあるので

ワイズユース、賢い使い方というのをここら辺で

人類が考える時期に来ているんじゃないでしょうか。