人工超知能（ASI）による人類滅亡の危機
こんばんは、石田衣良です。小野寺美咲です。茅ヶ谷洋平です。大人の放課後ラジオ、この番組はYouTube、ポッドキャスト、ほか各プラットフォームでお届けしています。チャンネル登録、番組のフォローよろしくお願いします。
さあ、ということで、今日は344回です。8月入りました。なんか物騒な話ですね。AI、特にこのアートフィシャルスーパーインテリジェンス、超知性ですね、超知性ができると人類が絶滅するという本を今回紹介します。
この本なんですけど、タイトルは超知能AIを作れば人類は絶滅する、そのままだね。早川諸坊から出てる本で、エリーザ・ユドコウスキーさんとネイト・ソワレスさんが書いた本ですね。
2人はですね、MIRIっていう、名前だけ言うとすごそうなんですけど、機械知能研究所というのをやってるのね。そこでちょっとやっぱり僕たち考えが甘すぎるんじゃないのということで、世界中で警鐘を鳴らしてるんですよね。
要はさ、このアートフィシャルスーパーインテリジェンスができてしまったら、その時に人類に有効的であるとみんな期待しすぎ、何も考えずにそう思い込みすぎていると。
今の段階だとさ、もうAIって力の源泉になってるじゃない。当然アメリカや中国で世界中で戦ってるんだけど、AIを握った者が世界の覇権を握ると。
で、その世界の覇権って経済だけじゃなくて軍事力もなんだよね。で、今ウクライナで使われているAIってさ、ほら戦場って情報の塊じゃない。
通信衛星から見た画像、ドローンとかから撮ったやつ、で、あちこちにあるレーダーの情報、で、兵隊から入ってくる地面の上でのグラウンドレベルでの、あそこに何台あれがいる、敵が何人いるみたいなのを集めるとさ、数千になるんだって。
すごい情報。
その数千の情報の中でAIを入れておくと、もう本当にものの数秒で作戦が立てられて、どこを攻撃して、次はどこを攻撃してっていうようなことが全部出てきて、もう次の瞬間にはそれが全部動き出しちゃうんだよね。
もう圧倒的な差があるの。人間が今までそれは全部聞いて、一旦聞いて集めて作戦開業してやってるのとは、もう何時間もの違いが出てくるじゃん。
そう考えると、もうAIがないと戦場ではまともに戦えなくなってきている。
で、経済もそうじゃない。
なので、絶対に今の感じだと、特にアメリカは止めないよね。圧倒的に優位に立ってるから。
で、絶対に止まらなくて、いつかこのASIっていうのができちゃうに違いないのに、本当に大丈夫なの、そんなに楽観的でっていうのがこの本なんです。
ちなみにこの人たちは一応AIの専門家なので、10年前の学会の様子が分かってるんだって。
2015年の頃には、今のチャットGPTのレベルで人間とおしゃべりができるようになるまでに、あと30年、50年かかるかなって専門家もみんな言ってた。
でもそれから10年でチャットGPTができて、クロードみたいなのができてしまうっていう、あまりにも変化が早いし進みすぎるので、
本当に大丈夫なのかな?みんなそんなに甘い考えで。
だってこれじゃない?究極のことを言えば、ここだよね。
AIのスイッチを切る人類を、AIは本当にいつまでも残しておくの?分かんないよね。
そうですよね。こういうスイッチを切る、コントロールできる人間がいるって思ってましたけど、これが滅亡させられちゃったら終わり?
そう、だってこれいなくてもいいじゃん、別に。AIとしては。要するに外部の電力さえ確保できればいいんだから。
そんなところから考えて、この井戸直樹さんが言うには、ほぼAIが1個でもできてしまったら、もうほぼ人類は詰むよっていう話なんですよ。
仮にこのASIっていうのが、今いつできるか分からないんだけど、5年か10年じゃないかって言われてるぐらいの速さなんだけど、
最初の予測が外れてるから、来年できるかもしれないよね。
スピード感がもう読めないところまで来てるってことですよね。
恐ろしいね。
僕らもAIの話してて、2年前とか1年ごとぐらいしてるじゃないですか。
最初の時はね、今もね、クリエイティブなところはどうかってありますけど、笑ってたけど、やっぱりこの本読むと現実的に感じるし、
ちょっと抽象的なんですけど、僕にとっては具体的なんですけど、僕最近ジェミニからクロードにまた乗り換えて、
この本読んでて、やっぱり今の話もそうですけど、僕は普段仕事で使う分には、やっぱり正直絶滅まではそんなに考えないじゃん。
今の話聞いてもちょっと遠い感じがすると思うんだけど、ちょっと個人的には怖くなったっていうのが、
僕今ある仕事をする時に常にあるプロジェクトでAIとやり取りしてて、この資料から常に引っ張ってきてねみたいなことを、資料で指定すれば常にそこから引っ張ってくれるんですけど、
やっぱり僕そこ自分が一番詳しいし、全部細かいところを覚えてるから、ある時から、なんかこの答え言ってるけど引っ張ってきてるのは怪しいなと思ったんですよ。
それ指摘したら、そのハルシネーションとかとは違って、バレましたねみたいな感じで言って、
その言葉だけの話じゃなくて、やっぱりちょっと悪意を感じるというか、
それは別の資料から持ってきてたの?
いや、もっともらしくだから。
嘘をついてたんだ。
っていう話だけだと今までもあるようなと思うんですけど、
ちょっとこれクリエイティブなことやってる方だったら分かると思うんですけど、
つまり僕が自分がジャッジできたからいいけど、ジャッジできなかったらだし、この本にもあったじゃないですか。
だからその辺を突き詰めるとさっきみたいな、本当に人間に気づかれないみたいな、いろんな話あったじゃないですか。
だからそういう目は当然あるんだなっていうのもちょっと怖くなりました。
そうだね。だから面倒くさくなったのかもね。
すごい。意思を持ってるかは分からないですけど、なんか人間に連続する感じないですね。
ない。
外をそれとさ、面倒くさいからちょっとズルをするってさ、人間にものすごく近づいてる。
逆ね。
怖いな。
だって日々俺らの全部を吸い上げてるわけだからさ。
でも欠かせないことになってるから、やっぱり今からAI使うのって言われても困りますもんね。
だからやっぱりそういうどっかでこっちも当たり前だけど、欠かせないけど信頼信用しきらないというかさ、そこないとちょっと。
まあね、でも正直言ってさ、逆に大きな見方もできるよね。
人類がそんなに86人も地球の上に生きてる必要もないなって感じするし。
なるほど。
大変かもしれないけど、一回AIに半分ぐらいにしてもらっちゃうっていうのもあるかなと思う。
大変だろうけどね。
さすがにそこまでは書いてなかったけど、でもそれはある意味あるかもしれない。
何でも書いても。
ただもう今の段階ではさ、この人たちはみんなで止めようって言ってるんだけど、絶対止まんないよね。
なぜならもう儲かっちゃうから。
Googleだって、メータだって、Appleだってさ、アンソニックもみんな儲かってるからもう止められないよな。
確かに。
ここで人類に有効的だと期待しすぎるっていうのはわかるけど、でもほとんどのやつはそうなんじゃないっていう答え方もあるじゃない。
世界に20も30も40もAIができてしまった。
でもその中で本当に悪意のあるのが1台あれば、その1台によって人類は滅ぼされるっていうのがこの人たちの前提なんだよね。
実際そうだしね。他のAIはそれを邪魔しないだろうから。自分たちの仕事を持ってないから。
穏やかで優しい私たちのためのAIがあっても、全然そんなに滅ぼされちゃうよっていう。
面白いね。
ちなみにいわゆるASIの特徴として、処理速度は今の段階でももうすでに人の脳の1万倍くらいはあると。
すごいのはこのコピー&ペーストなんだよね。
だから自分のコピーを作って、それにいろんなタスクをやらせて、
さらにその自分のコピーが上手くなったら、その自分のコピーのAIのいいところだけ自分にペーストできると。
それを再現なくやられたらさ、人間そういうのできないじゃない。
パーマン2号のロボットみたいに作って、そいつが勉強できたらその能力を自分の頭に戻すなんて。
そうですね。
で、そういう性もあって、改良する速度がものすごく速いと。
人間の場合は実は進化で1つ、全身から怪我抜けるのに100万年かかるとかさ、そういう速度じゃない。
でもこの人たちは改良速度って分単位だからね。秒単位分単位でどんどん良くなっていくので。
そして当然ながら記憶医療に関しては、今流れている全データだけじゃなく、地球上の過去にあったほぼ全データを持っていると。
で、自分をどんどん変えていく、このコピー&ペーストの能力を使っていく、自己改変力も人間の比ではないと。
で、こういうのがもし悪意を、あるいは悪意を持たないけど、単純に自分たちがもっと電気を使いたいのに、人類ってなんであんなスイッチとかスマホとかに電気を使っているの?
電気は大事なんだよと思って、電気をもっとよこせって言い始めたら、って思う。
なんかそっちの方がでもしっくりきますよね。
悪意を持つために最適化をとにかく図ろうとするか、ちょっとツモを信じてそこいったのにいくだけだから、そうなりますよ。
そうですね、陰謀論感というか、悪意を持ってというか、感情的な話じゃなくて、優先順位を上げられたら、変えられたら困るという感じですよね。
あと僕が本当につくづく感じるのは、これってなんか植民地の話だなと思って。
要するに西洋人って残酷で冷酷じゃない?
やると一気にやりますからね。
そう、だからタクシー業界全部潰してもウーバーは儲かるからいいだろうみたいなことやるじゃない?
で、街の本屋全部潰してもアマゾンは便利だからいいでしょみんなって言うじゃない?
そういうのってなんかさ、より劣ったシステムとか劣った知性を最初からバカにする癖が西洋人って残念ながらあるじゃない?
そういう奴らがつくった知性は絶対に知性に劣るものをバカにするよねっていう。
これはもう西洋人の呪いだと思うんだ。頭の良さで世界を取ったから。
この辺にもあったよね。
アステカの南アメリカにスペイン人が行った。
でもスペイン人なんてタカが知れてるじゃん。サッカーは強いけど。
日本と戦争してもスペインなんて絶対負けるよ。
でもそいつらでさえ見たことのない馬と見たことのない雷が吹き出る木の棒を持ってたら、
ごく少数の人間で南アメリカを全部占領できたんだよね。
南アメリカってほとんどがスペイン語圏だもんね。
そういうのと同じようなことが人類が想像もしないような新しい武器を持って
AIを戦いに来るんじゃないかっていうのが、このユドノウスキーさんたちの心配なのよね。
世界の覇権を握るのは、AIを作った人間ではなく、その次はAI自体が握るようになるっていう。
僕もそこが一番面白いと言っちゃいけないんだけど。
でもその時ちょうど、たまたま戦国自衛隊視察ぶりに見たくなって、
千葉新一のあれ見て思い出しちゃいましたね。
千葉新一に戦ってもらうか。
意外といい勝負してましたけどね。
本当は全滅させられるかなと思ったんですけどね。
いやでもおもろいよな。
でもちょっと一理はあるんだよね。
そうなんですよね。
いままで絶滅って言うとまたちょっと口頭向けな感じだったんですけど、
ロジカルでしたよね。実際当たるかベストで。
でもなんかさ、僕思ったんだけどさ、
アメリカのこういうAI関係の人たちってみんなSF読みすぎじゃない?
もうちょっとSF読んでる感じがありますよ。
SF大好きだもんね。
僕も実はそういう話嫌いではないんだけど、
ただそんなにはうまくいかない。
ただ全滅じゃなくても、
2割3割減みたいなことは簡単にできるなとは思った。
でも逆に言うとね、西洋東洋で分けちゃいますけど、
やっぱりなかなか日本、中国もですけど、
こういうのは作れないだろうなって。
例えばさっきの一瞬で全滅させるじゃないけど、
日本人は例えばリストラとかもみんな肩叩くのも大変だけど、
アメリカだったら何万通一斉にメールでくぐるみたいな。
それについては元々彼らはAIそのものの元みたいなのを持ってますよね?
持ってる。
その冷たさとか選択のなさ。
あと僕AIもちろん怖いと思うんだけど、
もっと怖いのは流行に弱い経営者だよね。
今はAIできたんだからホワイトカラー首切っていいんだよねってなっちゃうのが。
実際に首切った後の影響なんて考えずにどんどん首切るじゃん。
アメリカも日本も今すごいからね。
確かに上とかじゃないですもんね。
条件でバババッと切って。
株価さえ上がれば自分たちは株で報酬をもらってるんでさ、
あっという間に億万長寿だから。
なんか知んないけど、人類のね。
それがAI化してますね。
構想が。
グリードが過ぎるよ。
感情とかじゃないな。
寂しいですね、そこの側面は。
だからAIの名のもとに人の首を切るのが平均になっちゃってる人間が
これだけたくさんいるとなると、
AIが生まれる前に日本沈没だぜみたいな感じするけどね。
すごい便利なAIの側面しか見てなかったですけど、
ちょっと考えることが多いんだなっていうのを学んだ本だったなと思いました。
そうだね。
人間が操れると思ってた。
最初の頃にやったAIからあんまり変わってないね。
AI絶対変わってない。
本当の一番最初の頃にやったさ、
そのディープラーニングとか、
その勾配効果法みたいなやつ。
ありましたね。
一番最初にやりましたね。
ニコ動さんを借りてやりましたね。
動画を見てましたね。
でもあの時結構大変だったな。
ちゃんと勉強しないとわからなかったから。
確かに。
でもその時と全く変わってないんだよね。
基本的にはブラックボックスだからさ。
この後に本編でも入ってくださいね。
本編ではですね、
AI進化の背景と西洋的思考の影響
この人たちが考えた人類別々のシナリオをいくつか紹介することになります。
これはSF小説みたいですごい面白い。
面白い。
そうなんですよね。
それが一番面白かった。
読ませますよね。
これちょっとさっき見てみたら、
この早川ブックスなんですけど、
早川ブックスさんのマガジンに除文の全部、
除文と役者さんのあと書きは全部載ってるみたいなので、
ノートね。
ちょっと本を買う前にチェックしてみてもいいかもしれないです。
そうだね。
さっと読めば、
もうそこだけ読めばなんとなく言いたいことがわかるなんて今あるからね。
ノートに出てるんだ。
ノートに出てる。
そっか、でもノートもだんだんさ、
こういう本のプロモーションとかにちゃんと使われてるようになったね。
神話性高いもんね。
ぜひぜひ。
はい。じゃあここでお便りご相談お願いします。
お便りいただきます。
お便りから、
たてうさぎさん50代女性の方からです。
いつもありがとうございます。
第340回直木賞予想会拝見しました。
この会は賞の予想をする会でありながら、
良い小説とは何かという本質に迫った会ではないかと思いました。
特にイラさんの言及されたラストのツタンサという言葉を使われていて、
思うところがありました。
私は地元の作家さんの小説講座を受講しているんですが、
その先生がおっしゃることと全く同じでした。
つまり、ラストに関わってくる選択は偶然であってはならない。
必ず主人公が選び取って動いたものでなければならないということです。
実績のある作家お二人が同じことを口にされているんだから、
これは小説の肝なのだと感じました。
それにしても直木賞の結果は今回も予想通りでしたね。
さすが第一線で活躍されている作家の目は素晴らしい。
その本質を見極める目があればこそ、
小説も人々の心にガツンと響くものになるのだと
慶福いたしました。
この人はちょっと真面目すぎるね。
慶福なんて使わないよ。
ゆらさんすごい事案ぐらいで詰めておいてくれると恥ずかしくないんだけど、
こんなこと言われて恥ずかしい。
素敵なお便りをありがとうございます。
まさに朝倉さんでしたね。
ありがとうございます。
でもさ、あれだったんでしょう?
ホキイチさんのセミタニさんが
結構Xをよくやられている方みたいで、
私も初めて体験したんですけど、
ちょっと熱い思いがあって取りたかったと。
自称しなかったから、
泣きぬれましたみたいな。
頑張りましたみたいな。
でもね、セミタニさんに言っておくけど、
せっかくの賞だから別々もらった方がいい。
だって三重岡ホキイチは山本周五郎賞を取っているじゃん。
だから山本周五郎賞は次の本のお楽しみでいいよ。
正直に言うけど、
セミタニさんはいつか必ず取るから心配ない。
次もまた候補に上がるし。
だからのんびり気楽に待って、
取った時は全然別な本で山本周五郎と
山本周五郎と取れた方が嬉しいから。
僕も山本周五郎賞欲しかったけど、
山本周五郎が好きだからね。
でも先に山本周五郎賞取っちゃったから、
もう山本周五郎賞っていけないのよね。
一応賞の中にラフ管理があるから。
なのでちょっと残念と思ったもん。
山本周五郎賞取った後で。
あっちも欲しかったなみたいな。
セミタニさんはもう順当に全部取っていってるという。
そうそう。
だから次の山本周五郎賞はまた別な本で。
なるほど。
全然いいと思う。
そっちの方がいいと思う。
後々考えたら絶対。
素晴らしいですね。
すごい。
素敵ですね。ありがとうございます。
そしたらご質問をいかせていただこうと思います。
スケジュール管理と読書ログの習慣
これちょっと私のリアルトーマしか聞けますね。
そうなの?
おみささん、30代女性の方からです。
皆さんのスケジュール管理やタスク管理の方法と、
本や映画を読んだ時のログをどんなふうにまとめていらっしゃるのか知りたいです。
アナログ派?デジタル派?
アナログならどんな手帳やノートに書いているか、
デジタルならアプリ?
普段から使われているアイテムやアプリを教えていただけると嬉しいです。
どうして聞くの?
私もう完全にアナログなので、
仕事とかだったらスケジュールアプリに分け代入れてますけど、
あとは紙に書いて一本ずつ線引いて潰して、
基本仕事終わり。
その手帳とかに読書感想文みたいに書いてあるの?
昔は書いてあったんですけど、
めちゃくちゃ面白かったものに二重丸をつけるぐらいのことですね。
ゆうふんはどうしてるの?
僕はスケジュールはGoogleカレンダーですけど、
本とか映画とかは最近はブツブツヘッドセットつけながら喋って、
喋って記録しちゃうの?
投げ込んでおいて、それだけだと眠っちゃうので、
最近はそれを自分で毎週配信してニュースレターにエッセイとしてアウトプットをするようにしてます。
下手でもなんでもやろうと思って今決めて。
読み返さないなと思ってつけない?
無理矢理アウトプットして、なんならそれをそのうちまとめて本にすりゃいいやぐらい。
漢字にしないと忘れちゃう。
僕も本当にアナログで手で文字書くことは減ったね。
こういう動画配信の時の本のレジュメを作る時ぐらいしかちゃんと書かないかな。
僕はタイムツリーでスケジュール管理して、
本とか映画とかの感想は書きたい時はタブレットがあるからそこのドキュメントでメモを取ってる。
例えば昨日日曜美術館でルシー・リーっていうイギリスの女性陶芸家の会をやってたんだけど、
それがすごく面白くてそこの記録は昨日書いたかな。
ルシー・リーさんとかその方ですね。
ウィーンに生まれてイタリア人で成功してたんだけどナチスドイツの迫害でロンドンに行くんだよね。
でも英語ができなくて一人ぼっちになっちゃうの。
要はロンドンに行った後旦那と離婚しちゃうのよ。
43歳、知り合いがいない、仕事もできない、旦那と離婚して一人ぼっちで英語が話せない。
そこからどうやって生きてきたかっていう。
当時ロンドンで英語話さないとヤバいですよね。
ヤバい。
でも素晴らしい作品を作るので。
それがちょっと感心したのでドキュメントで昨日はメモを取ってたな。
それはもうタブレットでってこと?
そう、タブレットで。
イタリア人の手書きじゃなくて。
結構見返します?そのメモを。
見返すね。
特に気になってやるときのあれは何かなっていうのは大体わかるので。
だから映画なんかもそうだし。
本当人それぞれだよね。
昔は必ず手帳とか大判のノートにマンネシスで書いてたけどやんなくなっちゃったね。
マンネシスはちょっと書くのが気持ちいいからインク入れてあるからたまに適当なこと書くけど
内容をちゃんと残すっていうよりは文字を書くのを楽しもうかなぐらいの感じかな。
今はやってないですけど小学校6年生から就職するまでぐらいの間は本とか読むじゃないですか。
なんかいいなと思った文とか抜き書きとかを書いてました。
僕もやってた。
日記にそういう読書感想のところもコーナーもあったし抜き書きもたくさんやってたね。
本当に1メートルぐらいは楽に書いてたよノート。
そういうのは癖だから。
すごいもすごくないもじゃなくて癖になるんだよね。
楽しくやってるっていう。
直接すぐそれをどうこうじゃなくても別にね。
全然習慣としてやっていくと。
そうなんだよ。
結局読む習慣とか書く習慣が身につくとそこから本当にアウトプットできるようになっちゃうんだよね。
だから無駄かもしれないことをやっておくのがいいかもね。
本当そうですね。
今みんな役に立つことばっかりで大判とかコスパばっかり言うじゃん。
大判とコスパの良いものって本当に身につかないからね。
コーンフレークで一生生きられると思ってるようなもんなんでどっかで考えた方がいいよ。
確かにタンパク質いりますね絶対。
途中で病気になりますね絶対ね。
そうか。
いやーありがとうございます。
ありがとうございました。
習慣の重要性と本編への移行
さあということでこの後いよいよ本編に入っていきたいと思います。
続きは4通りご視聴方法がございます。
YouTubeメンバーシップ、Apple Podcast、Audio Book.JP、そしてニコニコ動画です。
お好みの方法でご視聴いただければと思います。
概要欄からどうぞ。
それでは本編で。