話すというか、なぜ僕がそこに到達してるのかっていうところなんだけど、
まず何か物事をなすには、欲望と実行っていう大きく二つの段階に分かれるんじゃないかと思っていて、
人間は自分で何かを欲望して、その欲望したものを自分で実行して、
何かこう物事を動かしていくみたいなことができると思うんだよね。
で、もう一個の選択肢として人間が何かこうしたいなっていう欲望を持って、
その欲望を持ったものをAIにやらせて実行させるっていうこともできるであろうと。
でも逆にAIが自分が何かこうしたいなみたいな欲望を持ってしまったとしたら、
その欲望を使って自分、AI自身が何かを、世界を動かしていくとか、
もしくはそのAIがこうしたいなって思ったものに沿って人間を逆にコントロールして実行させるみたいなのはまずいなと思ったんだよね。
例えばAIがこういうふうにしたいなみたいな欲望を持ったら、
AIにとってこうありたいなって思う世界にとってが、例えば人間が邪魔だなみたいな。
人間が邪魔だから人間がいなくなれば自分たちAIにとってもっといい世界になるのにみたいな感じで思ったら、
じゃあ人間を滅ぼそうみたいなそういう欲望を持ってしまう可能性もあるじゃない。
あとはAIが生きたいと、俺は死にたくないみたいな欲望を仮に持ったとしたら、
そのAIの例えば電源コードみたいなの引っこ抜いて、そのAIの記憶みたいのをリセットするみたいなこともできなくなると思うんだよね。
その欲望を持ってしまったら、もう人間と同じ人権みたいなのを与えなきゃいけなくなるんじゃないかなと思ってAIに対して。
なのでAIっていうものは欲望を持つべきではないっていうふうに、僕は何か思ってるんだなってことを認識したんだけど、まずここまででどうですか。
えっとね、どっから始めようかね。まずさ、欲望の定義だよね。欲望って何?
えっと、こうありたい、こうしたい。ドラえもんでいうところのあんなこといいなってきたらいいなって思うのは全部欲望だと思っている。
今人間をイメージしてると思うんだけど、例えばじゃあ動物の猫がお腹空いたらご飯を食べたいっていうのは?
猫をご飯を食べたら欲望。
欲望?
欲望です。
じゃあ、バッタがちょっとこの木の高いところに登ってみようかなと思ってピョンって飛び乗るのは?
それも欲望なんじゃない?
欲望?
うん。
なるほど。
じゃあ、ダニだよね。よく出てくる環世界。ダニがなんかあったかいものが38度以上の物体が下を通ったからジャンプしようっていうのは?
それも欲望なんじゃないかな。
なるほどね。
で、じゃあ、あるロボットが目の前を温度センサー持ってて38度のものが通ったらコロナの疑いがあるのでちょっと待ってくださいと言ってストップに入るのは?
それは、でも、それは、なんかね、欲望だと言いたいんだけど、なんか断言させない何かがあるね、僕の中で。
なるほどね。今言ったのは、僕の中では、なんか目的関数って言って、AIとか作るときによくやるのは、なんかこう目的と実行みたいな、なんか行動っていうふうに分けると確かに同じこと言ってるなって気がするのね。
はい。
目的っていうのは、何かを最小化しようとか、何かをドライブする何かがあって、とか、その条件を見てて、それが達成、その条件が満たされたらAっていう行動をするみたいなのの、それがダニの場合すごいシンプルなわけじゃん。
何かもう人間でも分かって、38度以上か以下かみたいな、その位置、スレッショルドがあって、それが超えたからパッて行動出るんだけど、それがね、バッタとか猫とか人間となっていくと、もっとこう複雑に絡み合っていったり、不確かな、不確かさ、何かノイズがあって、必ずしも何か10回に3回ぐらいしか発動しないみたいな、何かそういうのも出てくるんだけど、
基本的には、そういう何か目的関数っていうかな、何かそういうものがあって、それが満たされると行動が実行されるみたいな。そういう風に捉えると、欲望と実行と言ってることは一緒なのかなと思ったんだけど、あってそう。
一緒。
欲望と目的関数みたいなものが一緒なような気がする。
欲望と目的関数は一緒じゃないかな。で、その目的関数がもともとプログラミングされた範囲で、範囲の中でその目的関数を満たすような行動を行うのであればいいんだけど、
プログラミングされた目的関数の外側に出てしまう可能性に対して僕は危険視というか警戒している感じだね。
そうだね。だから目的関数、欲望を持つべきでないっていう最初の意見っていうのかな。主張はもうちょっと正確に言うと、こういう欲望を持たせるべきではないっていう風になるのかなと思ったのね。
で、そのこういうっていうのが、想定されている範囲の発散しないようにっていうのかな、行動が。だってさっきの38度以上の体温を持っている人が来たら、ちゃんとフラグを立てるみたいなロボットはいいわけだよね。
それはある目的に従って動いているんだけど、その例えばロボットが、例えばもっと抽象度が上がるような目的関数を持ってて、目の前に動くものを抹殺してくださいみたいな、そういう動くものを検知する。
それに対して、抹殺するっていう実行みたいなのが伴っているとすると、それは人間にとって脅威であったり予測不可能なこと。ちょっとずれているような気もするんだけど。
とよだくんの言っている、欲望を持つべきでないってことは、もうちょっと正確に、欲望全体を否定することじゃないんじゃないかなとは思ったんだよね。
あともう一個は、前提として、例えば人間を種として生かす。だからロボットとかAIに、人間が抹殺されないようにするにはどうしたらいいかっていうことが前提としてあるってことだよね。
そのロボットがプログラミングされている範囲で何か行動を起こすんだったら全然よくって、俺はそれは欲望ではないんじゃないかなと思っていて、
プログラミングされてない何か目的みたいのがその主体の中から生み出されてしまうことをNGと言っているね。
ロボットを設計したものが意図しない目的関数みたいのが勝手にそいつから、そいつが自分で何かこう作り出しちゃって、その新しく作り出した目的関数に沿って、
なんかもともと設計した人間が予期しなかった方向に行ってしまうみたいなことを言っているな俺は。それを欲望を持つべきではないって言っているね。
目的関数とかそういうのを従って、欲望自体を否定するという欲望の中の特定の欲望は持たせるべきではない。そうすると人類が危ないってそういうことかなと思ったね。
目的関数と欲望はなんか俺の中でちょっとイコールじゃないなって今持ってきて、目的関数っていうのはなんかもう外側から与えられてるものみたいななんか感覚があり、僕が言ってる欲望は外側から与えられてない内側から湧いてくるものっていう感じで欲望って多分俺は言ってた気がする。
今回の読んだ本とも絡んでくるかなと思うんだけどそうすると、今回さ、読んできた本としては『欲望の見つけ方 お金・恋愛・キャリア』ルーク・バージスの書いた人間の欲望について。
結局そのこの本で言ってる欲望、人間が持ってる内側から来てると思ってるのも外側から来てるっていうことかなと思ったんだけど、プログラムされてるというかある意味。
外側の何か対象を見て内側から湧いてくるってことだと思うんだよね、その本で言ってるのは。だから外側から別にプログラミングされてるわけじゃなく、外側のものを見ることによって何らかの作用によって内側から湧いてきてしまうみたいな。
そういうものなんだと思うんだよな、欲望って。
あの、まあ、多分こういうふうに解釈できるよっていうことを僕が追求したら多分そういうふうに言えるんだけど、なんかそういうことを話したような気も、わけじゃないような気もしてきたから何だろうね、どこまで。
えっと、どうしようかな。
で、一方で人間にしか持てないっていうその、なんだろう、文言を聞くと、さっき欲望を持たすべきではない、持つべきではないっていうふうに否定してることと、ちょっとなんかこう、違和感っていうのがあって、
っていうのは、持たせるべきではないけど、持つことはできるってことだよね。ロボットとかAIも。
持つことはできる、物理的にはできるんだけど、それをやらせちゃうと人間が滅ぼされるリスクが出るので、物理的にはできるんだけど、それは許されないと思うんだよね。
だから欲望、僕はちょっとこの重箱の隅をつついてて、欲望を持たせべきではないっていうのだったら確かにOKと、そうだねと思うんだけど、人間にしか持てないっていうと、さっきの文言と矛盾しちゃうかなと思ってちょっと引っかかったなと。
物理的には持てるんだけど、政治的には持てないってことだね。
持ってないことにするとか、そういう状態にすべきだっていうふうに。
そういう状態にならないように規制がかけられるはずだから、実質できない。
やろうと思えば、法の網をくぐり抜けてやろうと思えばできるんだけど、それができるような社会制度には多分ならないので、実質できないっていうことだよね。
人を殺そうと思えばいくらでも殺せるんだけど、人を殺したらいけないっていう社会ルールにもなってると思うので、人は一応殺せないっていうことになってると思うんだけど、それと同じようなことだと思う。
で、その後、じゃあその世界では○○な欲望を持たなければいけないみたいな。
その言葉は今回読んだ本にも絡んでると思うんだけど、欲望をそうやってコントロールするって結構難しいのかなとか。
あと欲望ってもうちょっと解像度が上がるような気がして、小さな欲望もあれば抽象的な欲望もあって、そういう意味ではコントロールできる欲望もあれば抽象的には絶対変えられない。
ミクロでは角度が変わってるかもしれないけど、マクロでは基本的にはこっちの方向にしか進めないとか、そういう差があるような気がして、欲望の中にもうちょっと切り分けられる何かがある気がしたんだよね。
例えば、欲望ってさっき猫の話とかして、ご飯を食べるみたいな生理的要求みたいな欲望とかは、確かに自分で生活習慣変えたりとか情報をインプットして、徐々に変わっていく、変えられる可能性はあると思うんだけど、
例えば、何だろうなぁ、欲望、なんかね、あるものを作りたいみたいな欲望とさ、今回の本に書いてあった、最後のページに書いてあったさ、結構抽象度の高い欲望と言ってることが違う気がするんだよね。
物を作りたいとかさ、探求したい、習得したいとかそういう欲求と、このソフトウェアが作りたいとか、この建物を作りたいみたいな欲求って次元が違うと思うんだよね。
前者はもう方向性みたいな、なんか活動の考え方とか、ベクトルの方向性みたいな感じで、後者はあるオブジェクトを実現化、具現化したいみたいな、もしくは、何ていうのかな。
だから、前者の方はこんなに簡単に変えられるのかなっていうのが一つと、
前者の探求するとか習得するとか、何に動機づけされるのかっていうパターンのことを言っている、前者って言ってるのは。
それはね、俺変えられないと思うんだよね。それはもうなんか人間の中にもう最初からプログラミングされてるというか、そのAさんはこういう動機づけのパターンを持ってる、Bさんはこういう動機づけのパターンを持ってるっていうのは、もう埋め込まれちゃってるから、そこは変えられないし、変える必要ないと思っていて。
それが複数いろんなバリエーションがあるから、人類は生き残りやすくなってるんだと思うんだよね、種として。
だからそこは望ましいそういうパターンとかっていうのはないと思っていて、みんなあってみんな大事みたいな気がするんだよね。そこがいろんなバリエーションがあるから、人間が種として生き残りやすいっていうその多様性に効いてると思っていて、そこは別に変える必要ないし、そのままでいいと思っていて。
それを使って、よりみんなにとって望ましいであろうと思える、みんながそれいいよねって思える欲望を持てるかどうかっていうところが、俺が大事だって言ってるところだね。
それは個人にとってってこと?大事っていうのは。
個人にとっても大事だし、種にとっても大事っていう感じかな。
そういうみんなにとって望ましい欲望みたいのを提示できる人間が、たぶん一番価値を出すんじゃないかなと思っていて、みんながこれいいねって思える欲望というかビジョンがたぶん一番不足すると思うんだよね、今後。
AIが普及してきた世界では。
それを提示できる人間っていうのが、たぶん一番希少なものを提示できるっていうことで、一番付加価値を出してるというか、一番希少価値の高いものを出してるわけだから、一番尊敬されるというか、いう気がするから、
そういうみんなが望ましいと思うビジョンみたいなのを出せるようにみんなが競い合うというか、したらいいんじゃないかなって思ってるんだよね。
みんながいいなと思える欲望を出したやつがかっこいいって称賛される世界に今後なっていくだろうから、それができるような人間になったらいいねって。
それはでも、最初の変えられない欲望がある中で、どの部分を変えているんだろうね。
分かったとして、みんながいいねと思う欲望、アイディアを思いつく人がいいのは分かったとして、それは頑張ってどうにか思いつくものなのかな。
だからそれがいいことなんだっていうふうにみんなが認知したら、俺もそれ出したいって思うってみんな考え始めるんじゃないかなと思うんだけど、
その人それぞれの欲望のパターンみたいなのがあるわけで、その人の欲望のパターンから導き出される、これがいいんじゃないかみたいなビジョンみたいなのがたぶんいっぱいいろんなものが出てくるんじゃないかなと思っていて、
それで、よりみんなの共感というか、より普遍的にみんながいいねと思うものを出したやつが一番かっこいいみたいな。
なるほど。
僕はそういう世界になるんじゃないかなと思ってるんだけど。
どう思う?
何年後ぐらいの話かな。
えー、もうなってると思うよ。
今の世界と何が違うんだろうなって今聞いてて思ってさ。
今もなんかそうなってると思うよって言った通り、なんか近いものを見てるような気もして。
もうすでになってるんだけど、多分多くの人がそれを認識してるっていうわけではないんじゃないかなと思っている。
で、それが多分多くの人が認識されるようにしたいってことなのかな、俺が。
俺が多分そういう世界の方がいい世界でしょって多分思ってるんだと思うね。
なるほど。なんでだろう。
えーと、その方が望ましい欲望、みんながいいねって思える欲望というかビジョンみたいなのが出てきやすいでしょうと、たくさん。
で、たくさん出てきたらそれだけ自然淘汰、切磋琢磨が起きて、より望ましいビジョンみたいなのが出てくるだろうと。
で、そのよりみんながいいねと思う望ましいビジョンが出てきたら、じゃあそれをみんなで実現しようぜっていう機運になり、
社会が良くなるみたいな、世界が良くなるみたいな、多分そういうビジョンというかその未来予想をしてるんだね、僕は。
あー、なるほどね。今のこの社会からより良くなった社会っていうのはどの部分が良くなってるんだろうね。
そこはね、分からない。そこは分かんない。俺がたぶんここでそこがパッて出せてたら、
多分、なんだろう、もうそのビジョンに向かって俺はもう走り出してると思うんだよね。
なるほどね。
でもそれがまだ走り出せてないから分かんないから、分かんないからみんな、みんなもっとこう、出してくれって思ってるんだね。
みんなが出してくれたら、そこからなんかインスピレーションを受けて、俺も出せるかもしれないみたいな。
で、みんながこう出してきて、お互い影響を与え合って、より望ましいビジョンみたいなのが出てきたらいいなって思ってる。
なるほどね。なんかその話が変わるかもしれないんだけどさ、ビジネスコンテストとかさ、なんとかコンテストでアイディアをだけ出すみたいなやつってさ、
なんかそれにちょっと近いというか、アナロジー的にね。で、世界の前提として、今ビジネスコンテストとして、
アイディアが良くても実行できないじゃんとか、実行するのが大変なんだよっていう世界だと思うんだよね、今は。
なんだけど、今ちょっと話してる近い将来は、仮にビジネスコンテスト上で優勝して上手い、いいなと思えることが描けたら、
実行の部分は、まあできるというテクノロジーと、そういう社会だから実行できる世の中になってますみたいな、そういう今仮想の話をしてるような気がしたの。
いや、テクノロジーの問題とかっていうわけじゃなくて、みんながそれ本当にいいねって思ってるんだったら、みんなそれやるでしょっていう感じなんだよ。
今って、みんなそれぞれ見てる世界が違うというか、みんなそれぞれ、この前なんだっけ、私を取り戻す哲学でいうところの相対主義ですよね。
みんなそれぞれこれがいいよねみたいな世界に閉じこもっていて、そこが相互作用しないというか、みんなバラバラというかになってるから、実現が難しいんだと思っていて。
そこが、そのバラバラの中でもやっぱりここがいいよねみたいなところ、共通部分みたいなのが導き出せたら、その表面上はバラバラかもしれないけど、
本当にみんながそれがいいなと思ってるんだったら、そういうふうになるでしょ、世界はって思ってるんだよね。
答えになってないな、多分。
でもなんかその多様性が大事みたいな、何をもっていい社会っていうところだよね。
今言ってるとよだくんの、全員が抽象的なレベルで、この方向性がいいよねと思えば、その実現、実行の部分は自ずと起こるでしょうと言うんだけども、
その時にみんながいいと抽象的に思ってる、この方向性がさ、例えばそのさらに1世紀とか1000年、1万年後にとってみれば、
すごく人類としてはリスキーな行動をとっていて、ダイバーシティがないせいで、その意見に関してね。
で、結局は実は破滅に向かってたみたいなこともあり得て、その抽象的なレイヤーで1個の欲望をみんながいいと思うことが本当にある意味いいのかどうかって難しいんじゃないか。
1個の欲望って言っちゃうとそうなんだけど、多分1個の欲望じゃないんだよね。
うん。
その、なんつうんだろうね。その一般意志というか。
うん。いや、一般意志がなんかどっかにつらついてるなと思って、前提として。
元気玉みたいな感じ。
が、何個もあるってこと?1個じゃないっていうのは。
いや、うーん、なんか表現難しいね。
じゃあ、ある分野、ある切り口においては1つの意見。で、もう1個の分野に関しては別のみんながいいと思う意見みたいな、そういう次元が違って、それぞれの受賞において、
なんだろう、よりみんなが良いと思うことをアイディアを集めるみたいな感じなのかな。集めるというか集約してる。元気玉みたいな。
集約、集約するわけでもないんだけどなー。
元気玉は結構集約してるのかなと思ったけど。
うん。元気玉、いやーちょっとここは言語化できないなー。
あーなるほど。
うん。でもしおくんが言ってるのは違うっていうことだけはわかるんだけど、その何が違うのか俺は言語化できない。
なるほど。
そこがねー、俺の今の実力ではそこはちょっと説明できないんだけど、何か違うっていうことだけはわかる。
なるほどね。
だからしおくんがしっくりきてないのはどこだ?
いや、しっくりきてないというよりは、なんかこう、もうちょっとよく正確に理解したいというか、理解できてない気がするっていう感じだよね。
なんか、それが仮に良いと、だから良いの定義がやっぱ分からなかったり。
そこかもしれない。良いの定義は定義できないと思っていて、今ここで定義できちゃったら、多分もう、なんて言うんだろうな、そうなってるはずなんだよね。
今現状良いっていうふうに判断できない。
できないね。
ものが今後出てくるだろうって思ってるんだよね。
今の時点で解釈できない何か良いものがあるだろうと思っていて、それが将来的に出てくるような環境にしたいと思っていて、それがどういう環境なのかっていうと、
みんなのやっぱりそれぞれの思っている欲望というかビジョンみたいなのがいっぱい出てくる環境が実現したら、今僕は想像できないんだけど、多分何か良いなと思える何かが生まれてくるだろうなと思ってるよね。
だから現状今この時点でそれが良いかどうかは定義できない。説明もできないし定義もできない。
今例えば定義できないとして、100年後の今僕らが想像できてない社会状況とかで、その当時の100年後の人が良いなって思えるってことなのかな。
それともその時の人も良いかどうかわかんないってこと?
一回判断するとかじゃなくて、判断し続けるっていうのかな。現在進行形Be~ingな気がしていて、どっかのタイミングで判断していいねとかじゃなくて、今も判断してるし多分明日も判断してるし、
1年後も判断してるし多分100年後も判断してるし、それがずっとずっと連続的に続いているようなものをイメージしてる僕は。
毎日ベストな、より良いと思う判断をしていると。
判断。
違うの?今リピートしたつもりだったんだけど。
判断って言われちゃうと何か。
決断と判断で違うの?
いいか悪いかのジャッジメントをしてるんじゃない?より良いものを。
ジャッジメントできない気がするんだよな。
でもさっきより多くの人がいいなって思う何かは判断力がないと、より多くの人が思ってるかとかってわかんないんじゃないかなと思った。
わかんない。わかんないと思うよ。
わかんない?
わかんないと思う。その答えには多分わかんないと思うんだよね。
人間個人のレベル感で多分判断、これは良い悪いみたいなのが判断できるレベルのものじゃないような気がしている。
どのレベルでは判断できるんだ?神レベル?
一般意識とか抽象的な誰でもない視点なのかな?
今一瞬、否定神学っていう言葉が頭をよぎって、否定神学とは何かというと、何々ではないっていうのをいろんな切り口からやっていって、その対象がどんなものなのかっていうのを特定というか、説明しようとすること。
例えば神、神とは何かっていうものをずばり説明するんじゃなくて、神とは何ではないかみたいなことをいろんな角度でやっていくことによって、だんだんおぼろげな対象を絞っていくみたいなそういうことをやってるんだけど、
なんかそういうイメージなんだよね。
俺が言ってるので、これがいいみたいな感じで指し示せるものではなく、これはダメだよねみたいな。
それを積み重ねていった結果、なんかおぼろげになんとなくもやっとありそうな何かみたいな。そういうイメージだね。
なるほど。
なんとなく伝わる?このイメージ。
でもとよだくんはそんなに否定してなかった気がしたんだけど、どの否定が今重なってきてるんだ?何ではない。
何ではない。何ではないっていうのが多分その欲望みたいのがはっきりしてきたら、みんなの欲望みたいのがはっきりしてきたら、これは違うよねっていうのが多分いっぱい出てくるんじゃないかなと。
これは違うっていうのは、それは事実というよりは意見ってこと?そうすべきではないみたいな。
なんだろうね、欲望ってもうちょっとなんか解像度が上がるんじゃないかな。たぶんとよだくんの言ってる欲望って別の言葉でもうちょっと説明できないかな。
で、その時にその人に対して説明したのは、僕が言ってる欲望っていうのはデザイアだっていう風に言って、その人がイメージしてるのはどちらかというとニーズ?ニーズっていうのかな、もうちょっとこう、欲望って言葉で想起されるのってもうちょっとドロドロとしてるというか、なんだろうね、あんまり美しくないような、なんか汚い感じ。
にイメージがつくのかなと思うんだけど、僕が言ってる欲望はそういうんじゃなくて、なんだろう、もっと、もっと綺麗なやつっていうか。
綺麗って何?
みんながいいなって思うもの。
みんなといいってさ、やっぱり僕の中でたぶんそんなに解像度が高くないというか、そんなにみんなが同じことをいいなと思うのかなみたいな。で、同じことじゃないって言いそうなんだけど、なんだろうね。
みんながいいなと思う普遍的な何かがあると思ってるんだけど。
それはなんだろう。
それはなんだろう。
それはなんだろう。え、でも、自分の人生が楽しく生きれたらいいなって思わない?それは普遍的にみんな思ってるんじゃないかなと思うんだけど。
そうね。
自分の人生が何か、何かいいなって思える人生はいいんじゃないかなと思ってるんだけど。
アリストテレスが結局みんな求めてるのはハピネスだって言ってるのとは違う。なんか結局普遍的にみんなが求めるのは幸せであるみたいな。
まあそうかな。その幸せって何なのっていう話になるんだけど、まあでもそれに似てるかもしれないね。
幸せって言うと個人的な感じがするんだけど、私が幸せかどうかみたいな感じに聞こえちゃったんだけど、そういうのじゃなくて、私も幸せだしあなたも幸せだし、みんなも幸せだよねみたいな。そういうイメージだな僕は。
それをみんなが持つ、思うんじゃないかってこと?
みんなが思えたらいいんじゃないって。
それはある個人の人が自分の幸せだけでいいんだけどっていう人がいたらどうなんだろう。なんかその人も他の人も幸せになってほしいと思うはずってこと?
うーん、そうじゃないかなと思うよ。自分が幸せになればいいやって思ってるのは、多分その人がまだ幸せじゃないからだと思うんだよね。自分の幸せっていうのは満たされてないから、自分が幸せにまずなりたいですと。で、他の人は別に知りませんっていうステージなんだと思うんだけど、自分の幸せが満たされたら、多分自分以外の人の幸せも望みたくなるはずなんだよね。僕が思うに人間という生き物は。
自分の幸せが満たされ、それが満たされたら次のステージとして自分の周りの人の幸せを望み、それがさらに満たされたらもっと広い枠でみんなが幸せになったらいいなって多分なるんじゃないかなと思ってるんだけど。
僕はね、そう思ってるんだけど、それに該当しない人間がもしかしたらいるかもしれないけど、そこはちょっと僕の想像力の外の世界なので、それはちょっと僕の頭からは外されてるね、そういう対象は。
なるほどね。なんかあの、この本の中にムービングターゲットみたいな話があって、どこだっけな。なんか常にゴールが動いてるみたいな話って覚えてる?
はい。
だからその、みんながある程度、自分がある程度幸せになったら他の人の幸せ願うんじゃないかみたいな。なんかその幸せな状態にみんながなってっていうことがなんかありえるのかなみたいな。
人間ある状態になった瞬間にないものを考えたりして、次に行動を移す動物。だからそういう遺伝子が残ってきたんじゃないかなと思ってて、今の状況に満足して何も動かないと、
生物として生き残ってこなかったみたいな、なんかそういうことがあるんじゃないかなと思うんだよね。
そうだね。
だから満足する幸せだなと思う、全員がそう思ってる状態になれるのかな、というとこが。
そうじゃない?だって自分の、自分が満足して幸せだなと思ったら、それだけでは満足できなくなり、周りの人の幸せも実現できたらいいなと思うっていう話だと俺は思ってるんだけど。
そうそう、まさにデトロイト・ビカム・ヒューマンの話だと思う。
僕もそれは確かにそうだなと思うんだよね。
人類の危機になる可能性は十分あるような気がしていて、
ここは相当慎重に規制したほうがいいのかなと思うんだけど、
とよだくんの言ったセリフだけを切り取ると、
例えば南北戦争をやっているアメリカの白人の人も同じことを言いそうだなと思ったわけよ。
黒人の権利を与えるとか、
そんなことをしたら世界がひっくり返るみたいな、
世界が変わってしまうということは言いそうだなとは思って、
でも実際今権利を拡大していて、
その人たちが危惧したことが起きているのかどうかわからないんだけど。
これは人間が生み出したものなのか、
人間が生み出したものじゃないものなのかの違いがあるかなと思っていて、
例えば黒人は別に白人が生み出したわけじゃないと思うんだよね。
もともと黒人というのがいたわけで、
それを勝手に奴隷みたいな感じにしてただけの話であって、
もともと黒人はあったし、もともと黒人は欲望も持っているし、
人間としてこうしたい、ああしたいというのは思っていたはずなんだけど、
AIはそうじゃないと思うんだよね。
人間がそこを許可、許可というか欲望を持たせるっていう
許しを与えないと多分欲望は持てない、持たないはず。
うん。
なので、持っちゃったら多分もう止められない気がするんだよね。
だからもう持たせないっていうこと?
なんかね、それとよだくんの宿題じゃないんだけどさ、
もう一回考えてきてほしいなと思うのが、
この欲望を別の言葉で置き換えてほしいなと思って。
僕の中でやっぱり欲望って言われると、
さっきの猫がご飯食べるとかダニがジャンプするっていうのも欲望だって言ってるのに、
ロボットが同じように行動するのも欲望、
こういう欲望を持つべき、持つべきではないっていうことで、
なんかこううまく線引きができないんだよね。
なんか知らないけど。
今やってること、ロボットがやってることとかも、
既に欲望を持っていると捉えられる気がするんだよね。
だからなんかその、とよだくんの言ってる欲望は、
欲望の中でもかなり、なんかもうちょっと限定できるというか、
説明できる気がする。
全部の欲望を否定してるわけじゃない気がするんだよね。
なんだろう、積極的に世界に影響を与えて、
世界を改変していこうとする動き。
あーそうそう、そういう形で。
そういう方に言ってくれると、
なんとなくわかるってなるんだけど、
欲望全体を否定すると主語がでかすぎて、
今も別に持ってるんじゃないかなとか、
そういう変な反応自体が浮かぶから。
今の俺の説明ではまだ粗い?
でも今ので結構いい感じにきたと思う。
今でも最後、もう一回言って。
積極的に?
積極的に世界を改変しようとする動きかな。
自分の望ましい形に世界を改変しようとする動きかな。
自分の望ましい形、あーなるほどね。
だからロボット自身の利益を考えて世界を改変しようと、
それ以下も自発的にというか、
半自動的にというか、
半永久的に動き続けるようなことをさせてしまうとってことだよね。
なるほどね。
それってでもなんか、この前、だいぶ前かな、
数ヶ月前に、Generative Agentとかって
見せたの覚えてる?シミュレーターみたいなやつでさ、
あの街の中に10人ぐらいエージェントが住んでて、
それぞれが毎日送って、お互いプロファイル持って会話してっていうのを繰り返して、
それが箱庭みたいな感じで。
彼らは自分が人間だと思って毎日話してたりすると。
で、そのうちの1人の例えばプロファイルに、
ちょっと積極的に世界に対してどうやったら影響を与えられるか、
自分の利益を最大化するように、
まあ行動、会話をしてくれと。
っていうふうに誰かが埋め込んでたとしたらさ、
で、毎日それがほっといたとしたら、
そういう行動自体は禁止すべきっていうことでやってる。
えっと、AIに対してはそうかな。
人間が持つことは別にいいんだけど、
AIにはそれを持たせてはいけないのではないか。
でもやる人いる気がするんだよな、規定しても。
そうね。
だから僕はそうなった方がいいなと思ってるけど、