AIによる人類滅亡の可能性
はい、みなさんこんにちは、ペスハムです。
えっと、もともと何て話してたか、もうちょっと忘れちゃったぐらいにですね、久しぶりの収録なんですけれども、
えっと、今ですね、僕は引き続き活動変わらずしているんですが、
AIで人類が滅亡するかもしれないっていう、これ都市伝説でもなんでもなくて、
本当にその筋の人たちは20年以上前からずっと言っていたことであり、
AI開発者であるオープンAIのサム・アルトマンとか、アンスロピックのダリオ・アモディ、イーロン・マスク、
こういった人たちっていうのは、もうずっとこの可能性というか、
もういつかこれが来るのではないかっていうことに対してずっとわかっていたけれども、
開発はずっと進んでいったと。
で、今いよいよAGIがですね、
AGI、アーティフィシャル・ジェネラル・インテリジェンス、汎用人工知能ですね。
これがもう1年以内に来るのではないかといったふうに言われているみたいな状況において、
本当にこの人類滅亡っていうシナリオが全然都市伝説でも嘘でもなんでもない、
本当に現実に迫ってきている、もちろんまだ可能性の1つでしかないけれども、
全然パーセンテージにしたら5%、10%の世界ではない、
もう20%、30%、下手したら50%みたいな、そういう領域なんだっていうところに気づかされたというかね、
気づいたきっかけがあって、どうすることもできないんですけれども、
なんかちょっと声を残したくなったというところがあります。
今の僕の思っていることを話していきたいかなと思うんですけど、
林彰さんと知能爆発の議論
ぜひ皆さんに見ていただきたいのが、
林明さんっていう、漢字2文字ですね。
中央の王、林明っていう人で、まだ若干20歳、19歳なのかなまだ、
でもたぶんそろそろ20歳になったぐらいな感じの方なんですけど、
YouTubeでね、実写で顔出しで、
自分のチャンネルというよりかは、どこかに呼ばれて話をしているみたいな感じで、
とても、結構活腹が良くて、
喋りがめちゃくちゃ堂々としていて、すごく例え話が上手いので、
全然まだ20歳あるいは10代ぐらいだったというふうには全然見えないんですけれども、
その人がかなり高い確率で人類滅亡に向かっていく。
そのために、人類滅亡を回避するためには、
今の人工汎用知能、そして人工超知能、その先にあるAGI、ASIっていうこの開発を止めない限りは、
もう本当に半分以上の確率で人類滅亡しちゃうだろうっていうふうな、かなり極端なね。
極端でもないんですけど、そこにめちゃくちゃ説得力のある言葉が乗っかっているっていうような話を展開されている方なんですよ。
東大を休学して今活動しているということなんですけど、
このまま東大にいたら、東大にいる間に卒業するまでもなく、
人類が滅亡しちゃうんじゃないかと思って東大を休学したっていう形で。
うわーって感じですけれども。
僕が林さんの存在を知ったのは、僕が普段聞いているボイシーチャンネルで、
しょうごさん、パジさんのね、2人がやられているパジショゴっていうね、チャンネル。
ボイシーだとしょうごさん、あ、パジさんもやっているのかな。
で、スポティファイだとパジさんのチャンネルで聞くことができるんですけど、
そのゲストとしてね、林彰さんが出演されていて、
多分今日で3回目かな、4回連続で対談しているということなので、
それを概要欄に貼っておこうかなと思いますけど、
それを聞かせていただいていると。
実は先日パジショゴの公開収録がありまして、
そこにですね、オフラインの会で参加させていただいたんですけれども、
そこで林彰さんという方と今度コラボしますっていう話が出て、
人類滅亡っていうキーワードが出てきて、
これはと思って調べてみたっていうのがきっかけですね。
それが1週間前ぐらいだったかな。
で、もともとですね、僕は人類滅亡シナリオについては結構イメージをしていて、
かなりこのAIの発展していく未来において、
人を超えるような存在になっていったときに、
人がAIに従属してもう飼い慣らされて生きていく、
AIにとって必要な人類だけが生かされていってみたいな、
そういう未来が一つ。
もう一つはもうAIにとって人間が邪魔であって、
もう特にあいつら生かしておく価値ないよねっていうところで、
逆に邪魔だよねみたいな感じで消されてしまうっていう未来か、
あるいは人間がすごくリッチになって、
仕事しなくてウフフ、やりたいことだけやって生きてられるみたいな、
そういう世界になるかの選択なのかなというふうに思っていて、
その中でもその前二つっていうのが確率としては高いんじゃないかなっていうふうに思っていて、
それが当初は2050年、2060年みたいな感じで言われてたけど、
どんどんどんどんサイクルが早くなっていってて、
2030年にはもうそういうことになってるんじゃないかみたいな話が出ていて、
うわーっていうような感覚になっていたっていうところで、
そこから林さんの話を聞いたら、
もうこれでもかっていうぐらい自分がなんとなくぼやーと思っていたことを言語化して、
形にしてわかりやすい例えで説明しているということで、
この林さんが活動しているAGIハブっていう団体だったかな、
そこの代表を務めている方がバイオショックさんっていう、
ハンドルネームで活動している有坂さんっていう方で、
その方の生体爆発だったかな、
違いますね、失礼しました。知能爆発ですね。
っていう本が、これ読みたいって思ってて読みてないんですけど、
チャッピーに読み込ませられるライブラリっていうのかな、
テキストファイル、これを読み込ませると、
知能爆発の内容をAIが踏まえて会話できますよっていうのがあって、
それを読み込ませて、チャッピーと今会話をしているところでして、
このバイオショックさんの論点は、
人類滅亡の論点だけではなく、
僕が3番目に話をした、人間がある意味ウハウハになっていくみたいな、
そういう未来も描いた、そこに向かって知能爆発っていう、
要は人間の何百倍何千倍何万倍も頭がいいようなAIが、
自分でAIを作っていく。自己再起的改善を行っていく。
自分、AIがどんどんAIを生み出していって、
それがフィジカルの領域でもどんどん出てきて、
既存の産業の構造だとか、
そもそもまだ人間が開発できていないような土地の開発、
宇宙とかも含めてですね。
そして技術の進歩、ナノテクノロジーですとか、
また未開の資源を獲得するところだとかね。
メタンハイドレートとかですね。
いとき話題になりましたけれども、
ああいうところとかも採掘できるようになるとかね。
まだ見つかっていないような資源だとか、
まだ全然活用できていないような資源を活用する方法を編み出したりだとか、
老化をしないようにして、
ある意味永遠の命を手に入れる方法だとかね。
そういったところとかをどんどん新発明というものが、
数秒単位、数分単位で行われていくっていう、
知能の爆発が起こっていく。
そういう未来も描いている。
そうなんですよね。
AI時代にどう生きるか
なので、人類滅亡の話に話を戻すとですね。
この人類滅亡っていうものが自分の中で確かになっていくというか、
より強くなっていく中で、
じゃあその中で自分はどう生きるのか、
どう滅亡に向かっていくのかっていうことをすごく考えるようになって、
この人類滅亡論っていうのは、
個人の力でどうしようもできないことであって、
交通事故にあっていつか死ぬかもしれないっていうことと同義なんですよね。
それがもう自分だけじゃなくて、
自分の家族もそうだし、自分の周りの人たち、
すべての人たちがそれにあってしまう。
みんな道ずれ死んどきゃ一緒みたいな、そういう状況なので、
これのことを憂いているというか、
悲しんで落ち込んでいてもしょうがないわけであって、
じゃあ何をするの?っていうところですね。
例えば長期投資だとか、老後のための蓄えだとか、
積み立てにいさだとか、
その辺っていうものは急速に価値を失っていくことになりますよね。
具体的なところでいくと。
僕はすごい浪費をしたいだとか、
世界旅行に行きたいとかっていう思いがある人間ではないんですけど、
そういう思いを持っている人は早くやったほうがいいですよね。
やりたいことがあるなら時間はないと思ってすぐにでもやったほうがいいですし、
今我慢してなんとか生活のために蓄えを貯めていて、
いつかは老後の楽しみをみたいな感じで取っている人は、
ちょっと考えを改めたほうがいいんじゃないかなっていうふうに思ったりしています。
多分これからそういう思想が増えていって、
結構切な的な考え方だとか、
ちょっとやけになるような感覚になる人とかも増えていくんじゃないかなと思うんですよ。
AIリスクと発信活動
今本当にサイバーセキュリティ、パスワードの漏えい、個人情報漏えい、
企業、電子書籍、コミックシーモアさんとかね、
漫画に限らず電子書籍が全部なしになってしまって活動再開できないとか、
本当そういうショッキングな出来事がものすごい起こっていて、
個人資産とかね、投資している株式だとか、
そういうところとかも本当にどうなるか分からない。
今人間って現状バイアス、正常バイアスっていう、
今と同じ、今日と同じ明日が続くに違いないっていうね、
そういうような感覚っていうものを常に人間持っているので、
これだけ恐ろしいことが起きていても、
これに関しては大丈夫だろうみたいなことを思ってしまう、
無意識にそういう風に考えてしまっているので、
まさかこんなことは起きないだろうっていうことが多分これからたくさん起きていく。
これは人為的なAIを活用したハッキングであって、
悪意を持った人間が何かしらやっているっていうところですよね。
そのAI滅亡論で言われているところは、
こういう悪い人がAIを使うっていう論よりもむしろ、
AI自身が全然悪気はないのに人間を滅亡させてしまうという話が主流で論じられている。
いずれにしても詳しい話は林さんの話を聞いてもらいたいんですけど、
両方のリスクがこれから永遠に乗り続けるし、
しかもどんどん高まり続けていくっていう時代に突入していくわけですよね。
だから技術とかAIの知能がどんどん進化していき、
それを活用できる人間が80億人の中の誰か少数がそれを悪用しようと思った時に、
その影響が甚大すぎるっていうね。
それでも人類滅亡させられるような最近兵器だとかウイルスだとかね、
そういったものを作ることができたりだとか、
蚊だとかハエを媒介させて感染をもたらすようなものだとか、
コロナみたいな空気飛沫感染みたいなものとかも含めて、
そういう手段というのもいくらでもあるわけですよね。
ドローンみたいなもので、小型ドローンで走り回って、
本当に狙いたい人物だけを撃つみたいなことだって全然できるでしょうし、
そういう本当に手段もいくらでもある、やれる人もいくらでもいるし、
逆に誰もやらないっていうふうにしても、
AI自身が意図と反せずというかね、
人類を滅亡させたいっていうふうに強く思わなくても、
目的達成のための手段として人類を攻撃するっていうことを取ってしまう可能性が
むしろ一番高いんじゃないかみたいなふうに言われているというところで、
本当に人類っていうのが相当生き残りが厳しい世の中になってきている。
しかもそれが本当に数年とか10年以内とかそういう単位で
リスクが顕在化してしまっている世の中なんだろうなというふうに思っています。
なので自分がどうしようとかもうあんまりなくて、
それを止める手立てっていうのはもう正直見つかってないし、
自分がどうこうできるような問題でもないので、
自分はいつも通りに生きてこれを発信はしていって、
そういうふうに認識してもらう人が一人でも増えたらいいのかなと。
早く気づいて楽しめるだけ楽しんだりだとか、
大切な人と一緒に過ごすであるとか、
せっかく短い時間なのであればその時間を最大限活用しようだとか、
こういうふうな時代に生きていることも何かの面白い人生なんじゃないかみたいなふうにポジティブに考えるだとか、
そういう人が一人でも増えたらいいのかなというふうに思ったりしますよね。
何も知らずに突然そういう時がそういうふうになってしまったり、
何か大きな事件があって初めて気づくとかだと結構衝撃が大きいのかなというふうに思うし、
パニックになったりうつ病になったりとか、それで自殺しちゃったりとかね、
そういったショックも大きくなると思うので、
何か知れるんだったら、気づけるんだったらやっぱり早く知ったり早く気づける方がいいのかなというふうに思ったりしていますね。
こういうとなんかすごい悲観的な話になってしまうのは当然なんですけれども、
人間も30万年近い歴史の中でどこかで役目を終えるタイミングというのは来るのかなというふうにも思うし、
そうやって考えると、これまでのホモサピエンスの歴史として、
本当にすごく重要な歴史の転換点のところを生きているっていうところかなと思うので、
あんまり自分の人生みたいなマチっぽけだっていう、マチっぽけじゃないんですけれども、
そういう視点だけで見るんじゃなくて、何かもうちょっとメタ的に見れる視点を持っておきたいなというふうには思っています。
個人の活動としては、インスタをちょっと始めました。
インスタは人類滅亡の話をしたいという考えで最初やろうと思ったわけではなくて、
インスタとYouTubeですね。
自分が地方をかけるAIのお仕事をしている中で、この問い合わせを増やすっていうところで、
今自分が車中泊をしながら、軽板で地方長野を回って、
企業さんのAI活用のお手伝い、お助けをしてますよみたいなところを、
結構特殊なライフスタイルなので、そこを発信していくことで、
企業の問い合わせにつながればいいなという思いでやろうかなと思ったんですけど、
今こうなってしまった以上、こういうふうに発信をしていく場所として、
一つインスタYouTubeを作ってもいいのかなと思ったんですよね。
ちゃんとYouTubeで話すときには、もうちょっと初心者というか初めて見た方に分かるような形で伝えたいなと思いますけれども、
そういう視点を出すみたいなところだとか、こういう状況だからこそ何かできることあるかなみたいなことをもう少し模索していきたいなと思っています。
ということで、久しぶりの投稿で長々と喋ってしまいましたけれども、
また気が向いたら放送するかもしれません。
先日ですね、それこそパジショ語のオフ会で、僕の放送を聞いてくれる数少ないリスナーの一人であるモルさんという方に出会って、
ペサムさん、最近ラジオやってないですよねって言われて、すいませんみたいな感じでですね、
そこからもしばらく放送できてなかったんですけれども、聞いてくださる方が一人でもいるっていうのは本当にありがたいことなので、
こういった形でですね、伝えていくように頑張ります。
やっぱりできればYouTubeの方がいいんだろうなって思うんですけど、
今真っ暗の車の中で喋っているので、そんな感じでですね、
この変化が激しすぎて人間終わってしまうんじゃないかっていう時代に何を考えて生きていくのかっていうことを、
少し自分なりの視点で話していけたらというふうに思います。
ということで聞いていただきましてありがとうございました。