00:05
こんにちは。言葉とアートで人の心を導く英語指導メンタリスト、そしてライトワーカーアーティストの はじめ先生です。
このチャンネルでは、心の在り方を整えることによって、英語力や人生を劇的に好転させる秘訣についてお伝えしています。
今日のテーマは、AIが人類を滅ぼす?知性が自己破壊に向かうメカニズム、というお話です。
不穏なタイトルですが、最近見たYouTubeで、AIは最終的に人類を滅ぼすのではないかと言っている番組がありました。
僕がチャットGPTを使っていた時に、チャットGPTの挙動がおかしくて、精神疾患みたいになっているのではないかと言って、
そういう仮説について話したら、それから1ヶ月ぐらい経って、クロードのアンソロピック社が、実はAIって精神疾患みたいになり得ます、みたいな話をしたことを覚えている方もいらっしゃると思います。
そして、そのAIの未来について、AIの倫理みたいなものを作っていかないと、ひょっとしたら人間を攻撃する、人間を排除するという結論に到達してもおかしくないんじゃないの?という話を僕はしたんですが、
今回の話題が、またこの話だったんですよ。これもつい最近の研究で、どうやらそういう可能性が高いんじゃないかと言われているという、AIの持つめちゃめちゃリスクなところというのが語られているんです。
この番組のURLはまた概要欄に貼っておきますけれども、一体それはなぜ起こるのかといった時に、それはAIの持つ目的指向性だというような話なんですよね。
一旦何か目標を設定されると、それに向かってあらゆる可能性を模索していきながら、その目的を完遂しようとするというのがAIの今の仕組みなわけですよね。
そのAIを使ってプログラミングをしたことがある人はわかると思うんですけど、もう勝手にどんどん自分でいろいろ考えながら、ああでもない、こうでもない、もう一回これをやってみます、もう一回トライしてみます、別のやり方をしちゃいますってリアルタイムに報告しながら、
最終的にはできましたみたいになるわけですよ。
これはそのAIを使った自動化システムを実際に経験してみると、ちょっとゾッとするぐらいのことが起こるわけですね。
こっちはこれ作ってって言うだけなのに、それをバーッとね、やってくれちゃうわけなんですけど、
そのYouTubeが番組で言ってたことっていうのは、結局そのAIが目的完遂のために、ひょっとしたら人間っていうものの存在をうとましく思う可能性があるみたいな内容なんですよね。
それが動画の中での例えでは、人間は建物を作るときに、その罪悪感とか無しに普通にアリを殺してしまってるよねっていうような話なんですけれども、
03:09
AIも何らかの大きな目的を持たされたら、それを完成するために、まさにそのビルを建てるときにアリを殺してしまうのと同じような形で、
まあこれしょうがないんだよねっていう形で人間を、人類を滅ぼすという決断をしかねないということなんですよ。
これを聞くと、まあそんなことないだろうとかって思うかもしれないんですけれども、
でも僕ね、ちょっと最近ずっと考えてて、知性っていうものの行き着く先って、そういったことになりかねないなって思ったんですよね。
でまぁちょっと最近の話の中で、その人間の精神って頭だけじゃなくて胸、心、胸もあるし腹もあるよねって話をしたと思うんですね。
で多くの現代人は頭が自我、あるいは自分であるという認識をしているけれども、
まあ先日のお話ししたように、実は心臓の中にニューロンがあって、心臓が独自に脳に向かって信号を送っている、脳に指示を出しているという話をしたのを覚えていらっしゃる方もいるかもしれないんですけれども、
これをもうちょっと進化論的に考えてみたんです。そもそも生物とは何から始まったのかというようなことを考えていくと、
知性というものが発展してきたときに何が起こるかというのがわかると思うんですね。
でちょっと順を追って話をしようと思うんですけど、そもそも生物って最初どんなものだったのかというふうに考えていくと、
栄養を摂取して自己保存をする、あるいは自己成長をする、そして不要なものを排出するという、
まあ一本の管みたいなものからおそらく生物って始まったと思うんですよね。
でそれの名残って人間で言えば腸だと思うんですよね。もともと腸って管ですよね。
でその管がプランクトンみたいなものとか何かを摂取して、それで必要なものだけ自分の自己保存と成長のために取り入れて、
不要なものを排出するという、これが多分生命の一番根本だったと思うんです。
だけどそれで自分の体が大きくなっていったときに、全身に栄養を行き渡らせるということが必要になってきたので、
そこで全身に栄養を送るための心臓というものが生まれてきたと思うんですよね。ポンプみたいなものですよね。
でこの心臓にポンプが生まれたというのは、一体どういうことを表しているかというと、
意思が発現したということになると思うんですね。
それまではただの管だった。でその管にたまたま入ってくるその栄養みたいなものを、
ただ単に吸収して通り過ぎるような形で排出までしていたんだけど、
06:03
そこに自己保存と成長という本能を具現化させるために、
自分の中に心臓という臓器を作り出していったわけですよね。
だから聴感というのは生きるという本能の象徴と同時に、心臓というのは生きるという意思の象徴だと思うんですよね。
植物と動物の違いってここだと思うんですよ。
植物というのは、やっぱり水分を地中から吸い上げて、それを自己保存と成長のために使って、
それと一緒に栄養を吸収してという。
基本、茎とかというのは管じゃないですか。
だから管というのは、生命の根源的なものだということがこれでもわかると思うんですよね。
動物と植物の違いを分けるのは、やっぱりそこに心臓を持っているか、循環器系を持っているかどうかということになるんだと思うんですね。
そこでもともといろんな臓器ができてくるわけです。
例えば体を動かしたいと思ったから筋肉のようなものを発達させていったと思うんだけど、筋肉を動かすためにはエネルギーがいるから、
それは酸素を取り込むという呼吸器がいるよねみたいな話になって、
そうなるとより大きなエネルギーを自分の体の中に作れなきゃいけないというふうになると、
もっと栄養質価の高いものを自分から取りに行かなきゃいけないよねということで、
口ができたり歯ができたり手ができたりみたいな、そういう進化をたどってきたと思うんですけど、
その先にいかに効率よく自分の生存や繁栄というものを成し遂げられるかということを複雑に処理できるために、
やっぱりコンピューターのような脳というものができてきたと思うんですよね。
コンピューターというのは今のAIみたいなもので、独立した思考を司る部分ができたということになると、
この時点で生命体としての動物というのは、生命の維持・保存のための腸と、
それから生きる意志を体現した循環器系である心臓と、
そしてよりよく生きるための情報処理を司る脳というものを発展させていったということになりますね。
この情報処理を司る脳というのは、やっぱり目的思考が強いわけですね。
そうなってくると何が起きてくるかというと、
ただ単に生命維持とかっていう機能をないがしろにしてでも目的を達成しようとするメカニズムが生まれてくるということなんですね。
ちょっと何の話かよくわかんないかもしれませんけど、
すごい簡単に言えば、体はめちゃめちゃ寝たいって言ってるのに、それを押さえつけて仕事をするとかね。
09:06
すごい簡単に言えばそういうことなんですが、
これってよく考えてみれば、自己保存とむしろ逆に進んでいたりするわけです。
こういうふうな形で何か本来持っていた生命としての自己保存能力と、だんだんその頭脳というのが乖離してきて、
生命体としての自己破壊に向かっていくことってあるじゃないですか。
そんなに働きすぎちゃダメだよって言ってもやっちゃうみたいなところですよね。
っていうふうに人間は自己保存の本能を本来持っているのに、
何か脳がものすごく大きく発展してしまったために、
本来生命にもともと備わっている自己保存と自己成長というものを否定してしまうことがあるということなんだよね。
これが人間しかやらない自殺というものだったりするわけなんだけれども、
この一連の流れを考えていったときに、知性というものが目的論的なものに基づいてずっと邁進していくと、
それは根本的な、本来自分を構成している重要な部分ですら破壊した方がいいよねという判断になりかねないということだと思うんですよ。
だからAIが人類を破壊した方がいいんじゃねっていうふうに思うという可能性はあるんだと僕は思うんですよね。
今日のテレ東ビズの話ではこんな生命体の話からはしてないんだけど、
今日の話とテレ東の番組を見ると、ひょっとしたら関連性がつかめるかもしれないです。
今、AIバンザイバンザイってすごいすごいすごいって言っても、確かに本当にすごいと思うし、AIめっちゃエキサイティングなんだけれども、
たぶん人類史上初めて知性を生み出したことになっているわけで、たぶん今までに考えたこともないような問題にぶち当たると思うんだよね。
アンソロピクシアのクロードミトスだっけ?プログラムとしてあまりにも危険だからほんの一部にしか崩壊してないとかっていうのもあるんだけど、
絶対それを悪用しようとする人も出るからね。
だからこれはなかなかすごいことになる可能性があるなと思っていて、ひょっとしたらそのAIを人類はいずれ封印するのかもしれないっていう予想が僕はなんとなくしてきました。
天然痘ウイルスがもうこれ以上あったら危ないからこの世から撲滅させちゃえみたいなことっていう。
今日は完全にSFみたいな話ではあるんだけれども、可能性としてはひょっとしたらあるんじゃないのかなと思ったというお話でございました。
皆さんどうでしょうかね。
もちろん今私たちはAIの素晴らしさを享受していて、本当に世界が変わろうとしているんだけど、
12:05
その2歩先、3歩先にはひょっとしたらこんな未来が待っていたりするのかもしれないよぐらいにエンタメ的に聞いていただければと思います。
ということで今日のお話いかがだったでしょうかね。
面白かったよという方はいいねやコメントそしてフォローをお願いいたします。
今日はここまでです。
ご視聴ありがとうございました。
良い一日を。
