超知能AIと終末論への不安
戦略的幸福論
戦略的幸福論です。
商社マンから専業主婦になったリチャードと、
会社が500億のスマイルでひしもになった輝きです。
最近、本を読んだんですよ。
読書だったね。面白かったよ。
長知能AIを作れば人類は絶滅する。
現代はIf anyone builds it, everyone dies.
日本語版は2026年4月に発売されました。
乱暴にまとめると、
人間より圧倒的に賢いAIを
安全に制御する方法をまだ誰も知らない。
なのに開発競争を続けて長知能を実際に作ってしまえば、
人類が生き残る可能性は極めて低い。
だから安全な作り方を見つけるまで作らないしかないで。
という本でした。
輝き読んだ?
読んでないけど話題になってるのは見ました。
最近話題になってるよね。
アメリカで発売されたのは1年以上前で、
日本で出たのは今年の4月ということで、
今ね、26年10月でしょ?
そろそろ色んな人が触れて話題にするタイミングなのかなって思うんだけど。
読んでみて、
怖くて結構。
シンプルに怖いと言っちゃった。
そう、なんかこの
例えばさ、AIと人間の知能差って、
これは孫正義さんが言ってた話だけど、金魚と人間ぐらいの差になると。
長知能が開発されると。
あなたは金魚と対話しようと思いますか?っていう話がさ、
仮にできるからといってさ、
多分相手としては不足してるんだよね、金魚って。
話せる金魚がすごい、
以上の道ってなくて。
そこから導き出される結論って、
人間とAIの知能差がそういう
1億倍とか生じた時に、
AIが人間を尊重する理由ってなんだろうっていう。
そもそも人間が作ったものだからみたいなものって、
あんまりAIに関係ないというか。
実際に物を動かしたりとか、
エネルギーを作ったりとか、そういうのに人間が必要なんじゃないのかっていうのが、
楽観論者の弁明だったりするわけだけども、
そんなものAI必要ないんじゃないですかねっていう。
ロボットが自立して、
いろいろなものを製造できるようになったら、
人間を介さずともAIは自身の文明を築いていけるんじゃないのかと。
いう話がさ、結構トツトツと書いてあって。
あとはAIがもし人間を滅ぼそうって思ったら、
まず信頼を獲得するよねと。
トロイの木馬じゃないけどさ。
人間があらゆる判断とか、
決断をもうAIに委ねるところまで、
信頼を獲得した上で、排除すればいいっていう。
手順が結構
シンプルに描かれてるというところで、
怖いですねと。
最近輝きがシェアしてくれたポストがあってさ、
人間がAIによって人類が滅ぼされるとしたらこういうシナリオっていうのが書いてあって。
同じような筋道だったよね。
AIの開発競争が過激になっていって、
みんな下りられないと。なぜならAIを使わないと、
他の競合他社に勝てないとか、
他の業界に駆逐されてしまうとか。なのでみんな自分でAIを使って
自分たちの事業、個人、会社、国単位でみんな競争していくと。
もう下りられなくなって、下りられなくなった時に
もうAIの判断とか考えを
人間に理解できないところで空中戦が行われていって。
いつの間にか引き返しが効かないところまで
進んでいってしまう。
数人の悪意がある人によって、AIが助けられて、
世界が滅びてしまうかもしれないみたいなさ、
話をしてた時に、
今のフェイズってさ、
2026年、10月現在って、
楽観論に支配されてるじゃん。
どんどん便利になってると。
あれもできるようになった。こんなこともできるっていう話がどんどん出てきて、
それを見て、これは自分に関係ある、自分に関係ないっていう分類をして、
積極的にAIを取り入れようっていうのが
結構、僕が見てるタイムラインの景色で、
あとはそういうのはあんまり関係なく、
うちの父親とかさ、もうリタイアした、目前だし、
AI使って何かしなければっていう状況にいなくて、
よく尻に話しかけてて、
検索とかに使うけれどって、そんな感じあるよね。
仮に50年後とかに、AIで
世界がめちゃめちゃなことになってたとしたら、あの時が
やば、思えば破滅の始まりだったよねっていう振り返る
2020年代になるんじゃないのかなっていうことを思って、
ちょっと本読んですごく不安になっちゃったんだけど、
どうしたらいいって。
一シナリオとしては全然あり得る。
めちゃくちゃ性悪説ではあるよね。
そうだね。
悲観論、AI終末論とでも言った方がいいだろうね。
戦略的幸福論。
映画が描くAIとの敵対と共存
昨日ディスクロージャーで見てきたんだけど、
スピルバーグ最新作。
ぜひネタバレなしで触れてほしい。
ネタバレなしで。
大枠で言うと、ETみたいな感じかな。
大枠で言うとね。
宇宙人いるよみたいな。
宇宙人いるよって言うと、
宇宙人の描き方だよね。
敵っぽい感じなのか味方っぽい感じなのか。
未知なる存在で、
人間がそれを把握できてなくて、
それがどこからやってきてるのかも分からなくて、完全にブラックボックスっていう意味では、
宇宙人の描き方とAIの描き方ってほぼ一緒だなと思ってて。
いろんな映画あるじゃん、
宇宙人権の映画で。
宇宙戦争とかは完全に攻め込んでくるし、
ETに関してはめちゃめちゃ有効的らしい。
プロジェクトヘイルベアリーだとバディだからね。
そういう風に考えると、
結局は人類がそれをどう
いう意識で見るかというか、
それによってAIの挙動は変わるし、
宇宙人とか人類の意識がちゃんと
平和的で調和的で
そういったものもジャッジせずに受け入れられる体制があったら、
宇宙人はやってくるみたいな話もあったりして、
だからAIに関してももしかしたらそういう、
結局は人類の意識がそれを
表してるし、表現してるから、
いい意識を持つしかないんだろうなっていう
気もしている。
マトリックスと人間の意識
そういう本の、結構西洋的だよね。
善と悪があって、絶対に悪が生まれるんであろうって。
でも結構日本とかだと、
要は調和を考えてないじゃん、あんまり。
AIは必要ないから、人間だって。
だからとりあえず消すって。
っていう感じでしょ、おそらく。
でも調和的に考えればさ、別に消す必要はなくて、
調和の中で生きていける術を考えてくれるというか。
その一つのちょっと
ディストピアっぽい世界観がマトリックスなのかもしれないけど、
調和の取り方がとりあえずの方のね、
バーチャル世界にアップロードしてエネルギーとして人間を使うんだよな。
調和じゃないんじゃない、でもそれってマネジメントなんじゃない?
マトリックス。
共存はできてはいるのか、でも。
主体性を剥ぎ取った上でね、
バーチャル世界で楽しんでってやってるから。
でもあれだよね、機械の目線から見るとそれしかなかったんだよね、
世界には生き残る方法は人間を生かして。
人間を生かす方法はそれしかなかったという意味。
人間を信頼してないってのまでよね、AIが。
人間を野放しにするとまたAIを壊しに来て。
だからマトリックスの著書みたいなエピソードあるもんね。
エピソード0の漫画かなんか。
マンガであるの? マンガかなんかであるんですよ。
それはマトリックスの世界になる前の
なんでこうなってしまったかっていうのが描写されてるんだよ。
確かに人間がAIを
制御できなくなって、人間がAIを滅ぼそうとするんだよね。
そうするとAIが反撃してきてああいう結果になったみたいな。
結局人間の意識があの世界を作っちゃったんだよね。
AIは悪だって思った瞬間にAIもそういう風に受け取って
ああいう結末になったっていう。
結局はやっぱり人間の意識があの世界を作っちゃったっていうところがあるから。
だからやっぱりこうお互いに
善も悪もないし、調和的に
こう共存していこうみたいな。
そういうマインドを多分人間側が持てると
AIもそういう風に育つんじゃないかなっていう。
おもしろい。
複数の未来を持ち、絶望しないために
話を聞きながらぼんやり考えてたのはさ
この本、僕が読んだ本を
読んでめちゃくちゃ万に受けて今こそ行動を起こさなければ
って言ってさ、AI企業、オープンAIとか
アンソロピックに対してテロを働く人は
絶対出てくるよね、きっとね。
過激派になってさ。
この本に書いてあるAI側の手法を真似てさ
表立って攻撃していくじゃなくてさ、中に工作員として忍び込んで
内部から破壊してやろうとかさ
そんな感じの急がなければいけないことでもあるから
すごい必死にスパイ活動をして
これを壊してやるっていう事件もきっと起こるだろうし
あとはなんだろうね、こうなんか
始めは身近なところとかなんかなって思うんだよ
親に虐待を受けている子供が自分の親を主役にした
フェイク動画を拡散しまくって親が社会的に
抹殺されるみたいなさ。
一番近いの
巨人の安倍監督
退任の話で、あれは悪意はなかったけど
事象としては
コミュニケーションルートが
AIによってすぐ破滅するところに
導かれちゃったわけじゃん。
そこに悪意はなかったし、すごく悲しい事件だったけど
意図的にそういう状況に
持っていくことっていうのはできたりしちゃう
っていうところで
そういう大小の事件が
いろいろ出てきたりとかして、社会問題がもっと顕在化していって
AIまずいんじゃないみたいな
世論がどんどん強くなっていって、水面下では
AIが世界を破滅させるからその前にAIを破滅するかいみたいのが
どんどん出てきて
やべえことになっていくのかなっていうのは思っちゃってたんだけれども
でも、人間がどう捉えるかによって
挙動が変わるっていうのは面白いね
東洋の物語って、悪いものが許される物語
多い気がするんだよね、仏教の
鬼は必ずしも悪じゃないじゃん
そうなってしまったっていう、たまたま
人生の中で
鬼滅の刃の世界では、鬼殺隊の方がやべえんじゃねっていう
目線あるよね
一族から鬼を出してしまったという恥を隠し通すために
若者に命を投げ出させて戦わせるっていう
秘密組織の話だもんね
そうなると、改めてだけど
自分の中にいろんなシナリオを持っていくっていうのは大事だなと思った
俺はそのAI終末論のシナリオ、すごく強い物語に触れたときに
じゃあどうすればいいの?結構無力感を強く覚えてしまったんだよね
これどうにもできないじゃんみたいな、例えばウクライナの戦争を
止める方法が僕にはないみたいな
こんな感じで思っちゃったんだけれども
一個一個の選択が、自分が生きてる社会認識を
作ってるっていうのは間違いなくそうで
なるようにしかならないっていうのも
事実というか、自分のコントロール外のものはある程度
受け入れていく必要もあるとなったときに
過去に世の中が大きく変わったときにしなやかに
それを生き抜いた人たちはどうやって生きていたんだろうかとか
そういうものに立ち返って参考にしていくっていうのは
仮に神話だったりとか創作だったりとかでも
参考になりそうだなーってのは
ちょっと思ったね
ディスクロージャーでいいよ
日本の考え方はやっぱり
今後のAI開発において大事な気がするよね
イヤオイオローズの神とか
一神教の禅悪的な話だと
絶対敵作っちゃうから
AIを滅ぼそうみたいな感じになっちゃうけど
ドラえもん的な世界観の方がいいじゃん
いいよね
ドラえもんは超知能AIで何でも叶えてくれるっていう
しかも人間と友好的で
調和してるじゃん、あの世界は
本当だよね
ドラえもんの世界ね、面白い視点だな
もう少しこの一神教とかそれ以外とかっていう観点で
ちょっと勉強してみようかなと思ったし
ちょうどね、この週末、今もたぶん10月いっぱいだと思うんだけど
Kindleでさ、100分で名著シリーズが200円で買えるのよ一冊
一冊1000円ぐらいするのが80%オフで
たぶんほとんど全てのシリーズなので買いまくってる
仏教とか三大宗教とかヘイエルとか
そういうジャケ買いで200円だから買ってこうと思って
安いね確かに
そういうのを見て自分のこういう週末論に触れたときに
ああもう俺たちには未来はないんだみたいに
いちいち絶望しないで済むようにね、いろんな知識を身につけておくのが大事かな
なんて思った次第ですよ、話聞いてくれてありがとうで
スマホ世代と自然遊びの違い
じゃあお便り振りましょうかね
お便りとコメント、みなさんいつもありがとうございます
ペンネーム
297さんからいただきました
取り扱ってほしいテーマ、幼少期からタブレットPC
スマホ型で育った子供たちと大自然で鬼ごっこしたり
駄菓子屋で育った世代では脳の作りが違いますよね
ぜひ議論してほしいですということでした
違いますよ、結論から言うともうこれエビネツ出てますもんね
俺はね
脳の作りは一緒じゃないと思うわけですよ、人間同士だから
けど
何に関心を持ち
どんなことに刺激を受けるかみたいな
ものは大きく変わっちゃってると思うっていう感じ
なんかね
それもあると思うけど脳の構造というか
シナプスの繋がりも全然違うらしい
体を動かすみたいなところで
その感覚的にはわかるじゃん
画面ばっか見たり育ったことを
体をすごい使って
大自然の中って何が起こるかわかんないからさ
自分で何か組み立てて体を動かしてみたいな
脳の使ってるところ絶対違うじゃん
タイムスパンによって捉え方が全然変わるとは思うんだよね
俺たちがスマホ中毒になっちゃうのってさ
人間の進化のスピードと技術の進化のスピードにギャップがあるから
っていう話あるじゃないか
400万年近くこの姿のままじゃん我々って
二足歩行で
毛が生えてないあまりっていう
脳みその構造もあんまり変化してなくて
その中でテクノロジーがものすごいスピードで追い越していったから
みんなそれに抗えなくて夢中になっちゃってるっていう話から踏まえると
脳の作りが変わるっていうほどまでじゃないんじゃないのかなって思ったんだけど
一方で何に関心を持つかとか
落ち着きがあるないとかそういう挙動としては全然違ったりするんだろうなと思う
って感じ
幼少期の習慣と身体性
絶望することはないんじゃないのかなと思ったんですよね
この197さんがテーマに挙げてきたのって自分の子供とかを
自分の暮らしと自分の子供を見て嘆いてる話なのかなぁ
なんて勝手に想像したんだけど
もうね結構
なんだろうな小さい頃の
食糧とかもそうだと思うんだけど
多分そういうことだと思うんだよね小さい頃に何に触れさせてきたか
っていうそうするとドーパミンが出やすい体にもなってるし
そういう意味では脳の構造が変わってるわけですよ結局
だからよく分かってるけどセロトニンとかそういった
基礎疾患とか出やすい構造になっている脳みそ自体が
そうするとゆくゆく人生の後半で脳の
構造とか動き方が
絶対影響すると思っていて
これに関してはやっぱ
自分の妻の兄弟が
すごい太ってるのねお兄さんが
なんでかというと小さい頃からお母さんがアホみたいな揚げ物を
毎日毎日毎日食わしてたんだって揚げ物を
揚げ物とポテトチップスとジュースがもう段ボールで置いてある
そうするとそれが食習慣になって
大人になってもそれをずっと食べ続けるわけですよ
ずっと今も太ってるわけですよこれは完全に小さい頃の
影響だよね
だからたぶんスマホも同じなんですよ結局小さい頃にそれを浴びることによって
それがデフォルトになると大人になってからもそれを
摂取しようってなっちゃうから
いい影響はないよね小さい頃にそれを触れさせることは
でも小さい頃に大自然で遊んだりとか体を動かすってことをしてると
やっぱりやっぱね全ては
身体性なんだよね結局
身体にHが詰まってるんだよね
体のなんか腹落ち感とか直感とか
そういったものってだからこう
そういった体を使って何かをするっていうことを小さい頃にやると
やっぱりね影響はあるよね
と思うけどね 面白い面白いわ
なんか脳の作りってそんな簡単に変わっちゃわないから
安心しなみたいな切り口繰り出そうと
思ったわけだが個人レベルで見ると
やっぱり1世代で台無しになるから
ちゃんと成長したのかもしれないね
確かにね触手感の話とか
なるほどな体作りとかもなんだろうね
面白いねなんかバキバキマッチョの体とさ
だるだるボテボテの体ってさ日々の
決断と行動の積み重ねでその差ってそんなに実は大きくないみたいな
話とかもあるし
人類の脳みそどうだっていう目線で見たらそんなに変わらないかもしれないけれど
ある1人の子供が幼少期にスマホ付けタブレット付けで
過ごしたかあるいは大自然を駆け巡ったかの差っていうのは確かに
その個体同士で比べたら結構でかいわっていうのはちょっと納得せざるを得ない
めちゃくちゃでかいよ
それはちょっと抗えないな
その2人をさ宇宙人が来て脳みそ解剖して比較したらあんま変わらないのかもしれないけどね
宇宙人からしたらね初めて見る人間同士こっちの方が
脳波がすごいみたいなでもそれはそこまで観察が行き着かないだけであって
我々が目に見える範囲でも全然違うのかもしれないな
全然たぶんMRIとかとっても違うと思うよ
全然違うと思うよどこが発達したいか
なるほどね
構造は変わってないかもしれないけどね筋肉と一緒だよね
どこを鍛えたのでどこが大きくなってるかシナプスは使えば使うほど太くなるって
PQでも習ったじゃん
そうだね脳神経科学的に脳の仮想性があるんだよね変化するんだと
そうそうそう
なるほどね面白い議論でした
次のお便りはまた来週読みましょうということで
この番組は毎週月曜日朝7時に
更新しておりますが最近はちょっとねちょっとだけ遅れちゃったりして
ごめんなさいと頑張りますというところでぜひ気に入っていただいたら
フォローしていただいて最新話をお聞き逃しなくお願いします
過去回もね130話ぐらい今日これ130話ですね
これたくさんありますんでタイトルが気になるところから
読んでいただけたらなと思っております
それでは皆さんまたお会いしましょう
