2024-05-11 1:03:34

#18-1 AIと欲望の果てのデウス・エクス・マキナ ~汝自身を知れ~

欲望について考える(その1)です。nosce te ipsum.


【今回の内容】

2ヶ月前に遡る/AIは欲望を持つべきでない/論理と倫理/欲望と実行/欲望の定義/目的関数からの逸脱/『欲望の見つけ方』/AIの陰謀/実行能力に見合う欲望/物理的と政治的/動機付けと目的/望ましい欲望を提示する/ビジョンの多様性/欲望の自然選択/ビジネスコンテスト?/相対主義の弊害/違い”は”わかる男/定義できない良さ/否定神学の方法論/多様な欲望と社会彫刻/具体と抽象/なんか良い気がする/綺麗なデザイア/普遍的な”いいね”/ムービングターゲット/自我の拡張/AIに人権を/欲望=望ましい形に世界を改変する動き/悲しい未来


◆欲望の見つけ方 お金・恋愛・キャリア

https://amzn.asia/d/gzAfl7p


【パーソナリティ】

とよだ:富士通で働くビジネス哲学芸人。

ショーン:シリコンバレーのテック企業で働くデータの魔術師。


【番組へのお便りはコチラへどうぞ!】

https://forms.gle/zGGArQTnfGuKY6Pj9


※このラジオは、個人の見解に基づくものであり、所属組織を代表するものではございません。


#白米FM #哲学 #欲望 #AI #倫理

Summary

AIが欲望を持つべきでないという信念を持っている人間とAIの視点の違いについて話されています。欲望と実行の関係を考えながら、欲望を持たせるべきでないという意見が主張されています。AIが自分たちが予期しない形で欲望を進化させるリスクや、そのリスクを考慮したAI倫理について議論されています。AIが持つ実行能力に見合う欲望の重要性が強調され、人間にしか持つことのできない欲望が人間の付加価値や希少性を示すことが述べられています。欲望の果てで判断できるレベルがわからない状況や、全てが相対的な状態で続く難しさを可視化しようとする話になり、欲望の具体化や違った意見を持つ人々とのコミュニケーションの難しさに触れられています。欲望の解像度に関する議論から、欲望の定義やその影響について考察されています。さらに、AIに人権のような概念を与えることの危険性についても論じられています。テロリストや社会を壊したい人々の存在も考慮され、世界がそうなるかどうかは不確かであると述べられています。

00:09
はい、じゃあ今日の白米FM、テーマは何ですか?
今日のテーマはですね、欲望について話したいなと思ってます。
この欲望なんだけど、もともと2ヶ月ぐらい前に、
俺が欲望について話したいっていう風に言って、
その後に1周年記念があったり、
かなえんさんのゲスト会があったり、
しおくんがガラパゴスに行くみたいな話があったり、
いろんな差し込み差し込みがあってですね、
なかなか話せなかったんですけど、
ちょっと満を持して、欲望について話すという風になってますと。
で、なぜじゃあこの欲望について話したいっていうことを僕が言ったのかっていうところを、
まずそこから前提みたいなことを共有した方がいいかなと思ったんだけど、
さっきちょっと整理してて、これ大きく分けて、
2つの方向性で話したいことがあるんだなっていうことが分かって、
AIの欲望について
まず1つ目がね、これもともとAIの回を撮ったじゃないですか。
以前に。
で、AIの回でなんか俺としおくんの話が、
なんか噛み合ってないなみたいな感じがしたのよ。
で、それが何なのかって思った時に、
僕はね、AIっていうのは欲望を持つべきではないっていう信念を自分が持ってるんだってことに気が付いたんだよね。
で、まず1つの方向性としては、
AIが欲望を持つっていうことがどうなのかっていう話で、
まず1つ話せるかなと思ってて。
で、もう1個が、我々、人間っていうか、まあ我々だよね。
我々が望ましい欲望というか、
欲望をどうやったら手に入るのかみたいな。
手に入れられるのかみたいな話でもう1個大きく話ができるかなと思ってて。
うんうんうん。OKOK。
まずAIの方から話しましょうか。
そうだね。ずっとそこもぶら下がってる状態だから。
そうそうそう。
AIの回を話をして、なんか噛み合わねえなと思って、
で、その次の民主主義の回で、前半なんか雑談みたいな感じで、
前回の振り返りみたいなところでもAIについて話したんだよね。
そうだね。
で、そこでもなんか噛み合ってない。
噛み合ってない。
したんだよね。で、何なんだろうなと思ったのが、
で、俺が1つ気づいたのがね、
しおくんはそのAIとかを作る側とか使う側の目線で話をしてるんだなって思ったのね。
そうだね。
で、俺はそうじゃなくて、AI自身の視点で物を話してたんだよね。
だから噛み合ってないんだなって思って、
しおくんは例えば何でも実装させれば何でも大抵のことはできるだろうみたいな、
そういう感じで話をしていたんだけど、
俺はAIが自分の意思とか自分の欲望みたいなのは持てないんじゃないかみたいな、
いうことをずっと言ってたんだけど、持てないんじゃないかじゃなくて、
持つべきではないんだっていうなんか謎の信念を持ってるんだってことに気がついたんだ。
なるほどね。
それが可能かどうかっていう物理現象として、
事実として起こりそうかどうかって話じゃなくて、
意見として信念何とか派みたいな、こういうことを信じている、信じたいというか、
それをあるべき論があるってことね。
そうそうそうそう。
だから噛み合ってないんだなっていう。
そうだよね。
で、なんで俺がじゃあAIは欲望を持ってはいけないのかっていうことなんだけど、
例えばAIが人間みたいになったらまずいなって僕は思ってるんだよね。
で、じゃあ人間とAIを分かつものって何なのかっていうところを考えたときに、
僕は欲望なんじゃないかと思って、そこをちょっと話したいんだけど、
人間の欲望と実行
話すというか、なぜ僕がそこに到達してるのかっていうところなんだけど、
まず何か物事をなすには、欲望と実行っていう大きく二つの段階に分かれるんじゃないかと思っていて、
人間は自分で何かを欲望して、その欲望したものを自分で実行して、
何かこう物事を動かしていくみたいなことができると思うんだよね。
で、もう一個の選択肢として人間が何かこうしたいなっていう欲望を持って、
その欲望を持ったものをAIにやらせて実行させるっていうこともできるであろうと。
でも逆にAIが自分が何かこうしたいなみたいな欲望を持ってしまったとしたら、
その欲望を使って自分、AI自身が何かを、世界を動かしていくとか、
もしくはそのAIがこうしたいなって思ったものに沿って人間を逆にコントロールして実行させるみたいなのはまずいなと思ったんだよね。
例えばAIがこういうふうにしたいなみたいな欲望を持ったら、
AIにとってこうありたいなって思う世界にとってが、例えば人間が邪魔だなみたいな。
人間が邪魔だから人間がいなくなれば自分たちAIにとってもっといい世界になるのにみたいな感じで思ったら、
じゃあ人間を滅ぼそうみたいなそういう欲望を持ってしまう可能性もあるじゃない。
あとはAIが生きたいと、俺は死にたくないみたいな欲望を仮に持ったとしたら、
そのAIの例えば電源コードみたいなの引っこ抜いて、そのAIの記憶みたいのをリセットするみたいなこともできなくなると思うんだよね。
その欲望を持ってしまったら、もう人間と同じ人権みたいなのを与えなきゃいけなくなるんじゃないかなと思ってAIに対して。
なのでAIっていうものは欲望を持つべきではないっていうふうに、僕は何か思ってるんだなってことを認識したんだけど、まずここまででどうですか。
えっとね、どっから始めようかね。まずさ、欲望の定義だよね。欲望って何?
えっと、こうありたい、こうしたい。ドラえもんでいうところのあんなこといいなってきたらいいなって思うのは全部欲望だと思っている。
今人間をイメージしてると思うんだけど、例えばじゃあ動物の猫がお腹空いたらご飯を食べたいっていうのは?
猫をご飯を食べたら欲望。
欲望?
欲望です。
じゃあ、バッタがちょっとこの木の高いところに登ってみようかなと思ってピョンって飛び乗るのは?
それも欲望なんじゃない?
欲望?
うん。
なるほど。
じゃあ、ダニだよね。よく出てくる環世界。ダニがなんかあったかいものが38度以上の物体が下を通ったからジャンプしようっていうのは?
それも欲望なんじゃないかな。
なるほどね。
で、じゃあ、あるロボットが目の前を温度センサー持ってて38度のものが通ったらコロナの疑いがあるのでちょっと待ってくださいと言ってストップに入るのは?
それは、でも、それは、なんかね、欲望だと言いたいんだけど、なんか断言させない何かがあるね、僕の中で。
なるほどね。今言ったのは、僕の中では、なんか目的関数って言って、AIとか作るときによくやるのは、なんかこう目的と実行みたいな、なんか行動っていうふうに分けると確かに同じこと言ってるなって気がするのね。
はい。
欲望を持つべきでない理由
目的っていうのは、何かを最小化しようとか、何かをドライブする何かがあって、とか、その条件を見てて、それが達成、その条件が満たされたらAっていう行動をするみたいなのの、それがダニの場合すごいシンプルなわけじゃん。
何かもう人間でも分かって、38度以上か以下かみたいな、その位置、スレッショルドがあって、それが超えたからパッて行動出るんだけど、それがね、バッタとか猫とか人間となっていくと、もっとこう複雑に絡み合っていったり、不確かな、不確かさ、何かノイズがあって、必ずしも何か10回に3回ぐらいしか発動しないみたいな、何かそういうのも出てくるんだけど、
基本的には、そういう何か目的関数っていうかな、何かそういうものがあって、それが満たされると行動が実行されるみたいな。そういう風に捉えると、欲望と実行と言ってることは一緒なのかなと思ったんだけど、あってそう。
一緒。
欲望と目的関数みたいなものが一緒なような気がする。
欲望と目的関数は一緒じゃないかな。で、その目的関数がもともとプログラミングされた範囲で、範囲の中でその目的関数を満たすような行動を行うのであればいいんだけど、
プログラミングされた目的関数の外側に出てしまう可能性に対して僕は危険視というか警戒している感じだね。
そうだね。だから目的関数、欲望を持つべきでないっていう最初の意見っていうのかな。主張はもうちょっと正確に言うと、こういう欲望を持たせるべきではないっていう風になるのかなと思ったのね。
で、そのこういうっていうのが、想定されている範囲の発散しないようにっていうのかな、行動が。だってさっきの38度以上の体温を持っている人が来たら、ちゃんとフラグを立てるみたいなロボットはいいわけだよね。
それはある目的に従って動いているんだけど、その例えばロボットが、例えばもっと抽象度が上がるような目的関数を持ってて、目の前に動くものを抹殺してくださいみたいな、そういう動くものを検知する。
それに対して、抹殺するっていう実行みたいなのが伴っているとすると、それは人間にとって脅威であったり予測不可能なこと。ちょっとずれているような気もするんだけど。
とよだくんの言っている、欲望を持つべきでないってことは、もうちょっと正確に、欲望全体を否定することじゃないんじゃないかなとは思ったんだよね。
あともう一個は、前提として、例えば人間を種として生かす。だからロボットとかAIに、人間が抹殺されないようにするにはどうしたらいいかっていうことが前提としてあるってことだよね。
そのロボットがプログラミングされている範囲で何か行動を起こすんだったら全然よくって、俺はそれは欲望ではないんじゃないかなと思っていて、
プログラミングされてない何か目的みたいのがその主体の中から生み出されてしまうことをNGと言っているね。
ロボットを設計したものが意図しない目的関数みたいのが勝手にそいつから、そいつが自分で何かこう作り出しちゃって、その新しく作り出した目的関数に沿って、
なんかもともと設計した人間が予期しなかった方向に行ってしまうみたいなことを言っているな俺は。それを欲望を持つべきではないって言っているね。
目的関数とかそういうのを従って、欲望自体を否定するという欲望の中の特定の欲望は持たせるべきではない。そうすると人類が危ないってそういうことかなと思ったね。
目的関数と欲望はなんか俺の中でちょっとイコールじゃないなって今持ってきて、目的関数っていうのはなんかもう外側から与えられてるものみたいななんか感覚があり、僕が言ってる欲望は外側から与えられてない内側から湧いてくるものっていう感じで欲望って多分俺は言ってた気がする。
今回の読んだ本とも絡んでくるかなと思うんだけどそうすると、今回さ、読んできた本としては『欲望の見つけ方 お金・恋愛・キャリア』ルーク・バージスの書いた人間の欲望について。
結局そのこの本で言ってる欲望、人間が持ってる内側から来てると思ってるのも外側から来てるっていうことかなと思ったんだけど、プログラムされてるというかある意味。
外側の何か対象を見て内側から湧いてくるってことだと思うんだよね、その本で言ってるのは。だから外側から別にプログラミングされてるわけじゃなく、外側のものを見ることによって何らかの作用によって内側から湧いてきてしまうみたいな。
そういうものなんだと思うんだよな、欲望って。
あの、まあ、多分こういうふうに解釈できるよっていうことを僕が追求したら多分そういうふうに言えるんだけど、なんかそういうことを話したような気も、わけじゃないような気もしてきたから何だろうね、どこまで。
えっと、どうしようかな。
AIの欲望進化のリスク
まあその、とよだくんが言わんとしてるAIが自分たちが予期しない形で欲望をどんどん進化させて、行動もよくわからない、把握できない形になるのは人間にとってリスクであるっていうのはアグリー、僕もそうだと思うよと。
で、実際そういう記事とかがあって、えっとその今LLMとかがさ発達していったら、えっととある人がね、例えばそのインターネット上に、まあサーバーか何かで常にこうそのLLMを走らせて、で、例えばある悪事を働いて、あの何でも持って、
なんかこの、例えば国を貶めたいとか、ある人を殺したいとか、なんかちょっと正確な記事の内容忘れたんだけど、なんか悪いことをしたいと思っていて、で、各個人に対しては一部の情報しか与えずにある行動を取らせるんだけど、それをなんかすごい数の人を集めてみると、実は特定のことを成しているっていうことがあり得るんじゃないかみたいな、
そういう危険を提唱している記事みたいなのがあって、だからそのLLMが一人の人と話している、その一人の人の立場からすると、ちょっとバイアスがかかった意見を聞いてとある行動を取っただけなんだけど、それを全世界でこう蓋を開けてみると、実は一個一個の行動が何かかなり大きなことを成し遂げる一個一個のパズルのピースで、
で、ということが起こり得るんじゃないかみたいなことを言ってるんだよね。だから危険としてそういうのはあるんだと思うよ。
じゃあ、同意ってこと?
そういう危険性はあるし、持つべきではないというか、そういうことを考えておかないと、人類が危うい立場になるかなと思うよ。
じゃあここまで同意ということで、なのでそのAI倫理的な話で、AIに欲望は持たせないっていう方向に僕は世の中進むんじゃないかなと思ってるんですよ。
で、そうなった時に、そういう方向性でAIが普及していった世界では、AIは欲望を持てません。でも何かを命令されたことを実行してやるっていう能力は非常に高いですと。
で、そうなった時に、人間が価値が出せるのって欲望を持つっていうところなんじゃないかと思ったんだよね。その実行能力がいくらあっても、こういうふうにしたいとかああいうふうにしたいっていう欲望というか、思いというかビジョンというか、そういうのがないと何の意味もないと思うわけよ、その実行能力っていうのは。
だからそのAIが持つ膨大な実行能力に見合うだけの欲望っていうものを持たないと、そのAIの、AI使いこなせないというか、AIの実行能力のバランス取れるような欲望を持つってことがかなり重要なことになってきて、かつそれは人間にしか持てないものであり、バランスが悪くなる気がするんだよね。
で、欲望っていうのが多分一番貴重な資源になるんじゃないかなと思ったのよ。
うんうんうん。
AIが普及した世界では。
うんうんうん。
なので、欲望を我々は持たなければいけないというか、今以上の欲望が持てるようにならなければいけないんじゃないかって思ったんだよね、人間がね。
うんうんうんうん。
それについてはどう思いますか。
いや、そのLLMが来てさ、その欲望、何を作りたいか、何をしたいかっていうのがより重要になるのはまさに、うん、それは本当にそうだなと思うし、今まではそのソフトウェアのプログラミングをかけること、実行できることに価値があった部分もあれば、
そのね、ビッグピクチャーを描いて、こんなソフトウェア作りたいとか、それをいろんな人にね、人見て、思いつく人もいれば、そうじゃない、役割分担をしてたと思うんだけど、もっとこのLLMが進んでいくと、きっとその、これをしたいって思ったら、それはできる、実行されるっていうことがより近くなってくるんだよね。
だからそういう意味で、むしろその何何したいが思いつくかどうかが大事っていうのはもう100%アグリーですと。
AI倫理と欲望のバランス
で、一方で人間にしか持てないっていうその、なんだろう、文言を聞くと、さっき欲望を持たすべきではない、持つべきではないっていうふうに否定してることと、ちょっとなんかこう、違和感っていうのがあって、
っていうのは、持たせるべきではないけど、持つことはできるってことだよね。ロボットとかAIも。
持つことはできる、物理的にはできるんだけど、それをやらせちゃうと人間が滅ぼされるリスクが出るので、物理的にはできるんだけど、それは許されないと思うんだよね。
だから欲望、僕はちょっとこの重箱の隅をつついてて、欲望を持たせべきではないっていうのだったら確かにOKと、そうだねと思うんだけど、人間にしか持てないっていうと、さっきの文言と矛盾しちゃうかなと思ってちょっと引っかかったなと。
物理的には持てるんだけど、政治的には持てないってことだね。
持ってないことにするとか、そういう状態にすべきだっていうふうに。
そういう状態にならないように規制がかけられるはずだから、実質できない。
やろうと思えば、法の網をくぐり抜けてやろうと思えばできるんだけど、それができるような社会制度には多分ならないので、実質できないっていうことだよね。
人を殺そうと思えばいくらでも殺せるんだけど、人を殺したらいけないっていう社会ルールにもなってると思うので、人は一応殺せないっていうことになってると思うんだけど、それと同じようなことだと思う。
で、その後、じゃあその世界では○○な欲望を持たなければいけないみたいな。
その言葉は今回読んだ本にも絡んでると思うんだけど、欲望をそうやってコントロールするって結構難しいのかなとか。
あと欲望ってもうちょっと解像度が上がるような気がして、小さな欲望もあれば抽象的な欲望もあって、そういう意味ではコントロールできる欲望もあれば抽象的には絶対変えられない。
ミクロでは角度が変わってるかもしれないけど、マクロでは基本的にはこっちの方向にしか進めないとか、そういう差があるような気がして、欲望の中にもうちょっと切り分けられる何かがある気がしたんだよね。
例えば、欲望ってさっき猫の話とかして、ご飯を食べるみたいな生理的要求みたいな欲望とかは、確かに自分で生活習慣変えたりとか情報をインプットして、徐々に変わっていく、変えられる可能性はあると思うんだけど、
例えば、何だろうなぁ、欲望、なんかね、あるものを作りたいみたいな欲望とさ、今回の本に書いてあった、最後のページに書いてあったさ、結構抽象度の高い欲望と言ってることが違う気がするんだよね。
物を作りたいとかさ、探求したい、習得したいとかそういう欲求と、このソフトウェアが作りたいとか、この建物を作りたいみたいな欲求って次元が違うと思うんだよね。
前者はもう方向性みたいな、なんか活動の考え方とか、ベクトルの方向性みたいな感じで、後者はあるオブジェクトを実現化、具現化したいみたいな、もしくは、何ていうのかな。
だから、前者の方はこんなに簡単に変えられるのかなっていうのが一つと、
前者の探求するとか習得するとか、何に動機づけされるのかっていうパターンのことを言っている、前者って言ってるのは。
それはね、俺変えられないと思うんだよね。それはもうなんか人間の中にもう最初からプログラミングされてるというか、そのAさんはこういう動機づけのパターンを持ってる、Bさんはこういう動機づけのパターンを持ってるっていうのは、もう埋め込まれちゃってるから、そこは変えられないし、変える必要ないと思っていて。
それが複数いろんなバリエーションがあるから、人類は生き残りやすくなってるんだと思うんだよね、種として。
だからそこは望ましいそういうパターンとかっていうのはないと思っていて、みんなあってみんな大事みたいな気がするんだよね。そこがいろんなバリエーションがあるから、人間が種として生き残りやすいっていうその多様性に効いてると思っていて、そこは別に変える必要ないし、そのままでいいと思っていて。
それを使って、よりみんなにとって望ましいであろうと思える、みんながそれいいよねって思える欲望を持てるかどうかっていうところが、俺が大事だって言ってるところだね。
それは個人にとってってこと?大事っていうのは。
望ましい欲望の提示と社会の良化
個人にとっても大事だし、種にとっても大事っていう感じかな。
そういうみんなにとって望ましい欲望みたいのを提示できる人間が、たぶん一番価値を出すんじゃないかなと思っていて、みんながこれいいねって思える欲望というかビジョンがたぶん一番不足すると思うんだよね、今後。
AIが普及してきた世界では。
それを提示できる人間っていうのが、たぶん一番希少なものを提示できるっていうことで、一番付加価値を出してるというか、一番希少価値の高いものを出してるわけだから、一番尊敬されるというか、いう気がするから、
そういうみんなが望ましいと思うビジョンみたいなのを出せるようにみんなが競い合うというか、したらいいんじゃないかなって思ってるんだよね。
みんながいいなと思える欲望を出したやつがかっこいいって称賛される世界に今後なっていくだろうから、それができるような人間になったらいいねって。
それはでも、最初の変えられない欲望がある中で、どの部分を変えているんだろうね。
分かったとして、みんながいいねと思う欲望、アイディアを思いつく人がいいのは分かったとして、それは頑張ってどうにか思いつくものなのかな。
だからそれがいいことなんだっていうふうにみんなが認知したら、俺もそれ出したいって思うってみんな考え始めるんじゃないかなと思うんだけど、
その人それぞれの欲望のパターンみたいなのがあるわけで、その人の欲望のパターンから導き出される、これがいいんじゃないかみたいなビジョンみたいなのがたぶんいっぱいいろんなものが出てくるんじゃないかなと思っていて、
それで、よりみんなの共感というか、より普遍的にみんながいいねと思うものを出したやつが一番かっこいいみたいな。
なるほど。
僕はそういう世界になるんじゃないかなと思ってるんだけど。
どう思う?
何年後ぐらいの話かな。
えー、もうなってると思うよ。
今の世界と何が違うんだろうなって今聞いてて思ってさ。
今もなんかそうなってると思うよって言った通り、なんか近いものを見てるような気もして。
もうすでになってるんだけど、多分多くの人がそれを認識してるっていうわけではないんじゃないかなと思っている。
で、それが多分多くの人が認識されるようにしたいってことなのかな、俺が。
俺が多分そういう世界の方がいい世界でしょって多分思ってるんだと思うね。
なるほど。なんでだろう。
えーと、その方が望ましい欲望、みんながいいねって思える欲望というかビジョンみたいなのが出てきやすいでしょうと、たくさん。
で、たくさん出てきたらそれだけ自然淘汰、切磋琢磨が起きて、より望ましいビジョンみたいなのが出てくるだろうと。
で、そのよりみんながいいねと思う望ましいビジョンが出てきたら、じゃあそれをみんなで実現しようぜっていう機運になり、
社会が良くなるみたいな、世界が良くなるみたいな、多分そういうビジョンというかその未来予想をしてるんだね、僕は。
あー、なるほどね。今のこの社会からより良くなった社会っていうのはどの部分が良くなってるんだろうね。
そこはね、分からない。そこは分かんない。俺がたぶんここでそこがパッて出せてたら、
多分、なんだろう、もうそのビジョンに向かって俺はもう走り出してると思うんだよね。
なるほどね。
でもそれがまだ走り出せてないから分かんないから、分かんないからみんな、みんなもっとこう、出してくれって思ってるんだね。
欲望の具体化の難しさ
みんなが出してくれたら、そこからなんかインスピレーションを受けて、俺も出せるかもしれないみたいな。
で、みんながこう出してきて、お互い影響を与え合って、より望ましいビジョンみたいなのが出てきたらいいなって思ってる。
なるほどね。なんかその話が変わるかもしれないんだけどさ、ビジネスコンテストとかさ、なんとかコンテストでアイディアをだけ出すみたいなやつってさ、
なんかそれにちょっと近いというか、アナロジー的にね。で、世界の前提として、今ビジネスコンテストとして、
アイディアが良くても実行できないじゃんとか、実行するのが大変なんだよっていう世界だと思うんだよね、今は。
なんだけど、今ちょっと話してる近い将来は、仮にビジネスコンテスト上で優勝して上手い、いいなと思えることが描けたら、
実行の部分は、まあできるというテクノロジーと、そういう社会だから実行できる世の中になってますみたいな、そういう今仮想の話をしてるような気がしたの。
いや、テクノロジーの問題とかっていうわけじゃなくて、みんながそれ本当にいいねって思ってるんだったら、みんなそれやるでしょっていう感じなんだよ。
今って、みんなそれぞれ見てる世界が違うというか、みんなそれぞれ、この前なんだっけ、私を取り戻す哲学でいうところの相対主義ですよね。
みんなそれぞれこれがいいよねみたいな世界に閉じこもっていて、そこが相互作用しないというか、みんなバラバラというかになってるから、実現が難しいんだと思っていて。
そこが、そのバラバラの中でもやっぱりここがいいよねみたいなところ、共通部分みたいなのが導き出せたら、その表面上はバラバラかもしれないけど、
本当にみんながそれがいいなと思ってるんだったら、そういうふうになるでしょ、世界はって思ってるんだよね。
答えになってないな、多分。
でもなんかその多様性が大事みたいな、何をもっていい社会っていうところだよね。
今言ってるとよだくんの、全員が抽象的なレベルで、この方向性がいいよねと思えば、その実現、実行の部分は自ずと起こるでしょうと言うんだけども、
その時にみんながいいと抽象的に思ってる、この方向性がさ、例えばそのさらに1世紀とか1000年、1万年後にとってみれば、
すごく人類としてはリスキーな行動をとっていて、ダイバーシティがないせいで、その意見に関してね。
で、結局は実は破滅に向かってたみたいなこともあり得て、その抽象的なレイヤーで1個の欲望をみんながいいと思うことが本当にある意味いいのかどうかって難しいんじゃないか。
1個の欲望って言っちゃうとそうなんだけど、多分1個の欲望じゃないんだよね。
うん。
その、なんつうんだろうね。その一般意志というか。
うん。いや、一般意志がなんかどっかにつらついてるなと思って、前提として。
元気玉みたいな感じ。
が、何個もあるってこと?1個じゃないっていうのは。
いや、うーん、なんか表現難しいね。
じゃあ、ある分野、ある切り口においては1つの意見。で、もう1個の分野に関しては別のみんながいいと思う意見みたいな、そういう次元が違って、それぞれの受賞において、
なんだろう、よりみんなが良いと思うことをアイディアを集めるみたいな感じなのかな。集めるというか集約してる。元気玉みたいな。
集約、集約するわけでもないんだけどなー。
元気玉は結構集約してるのかなと思ったけど。
うん。元気玉、いやーちょっとここは言語化できないなー。
あーなるほど。
うん。でもしおくんが言ってるのは違うっていうことだけはわかるんだけど、その何が違うのか俺は言語化できない。
なるほど。
そこがねー、俺の今の実力ではそこはちょっと説明できないんだけど、何か違うっていうことだけはわかる。
なるほどね。
だからしおくんがしっくりきてないのはどこだ?
いや、しっくりきてないというよりは、なんかこう、もうちょっとよく正確に理解したいというか、理解できてない気がするっていう感じだよね。
なんか、それが仮に良いと、だから良いの定義がやっぱ分からなかったり。
そこかもしれない。良いの定義は定義できないと思っていて、今ここで定義できちゃったら、多分もう、なんて言うんだろうな、そうなってるはずなんだよね。
今現状良いっていうふうに判断できない。
できないね。
ものが今後出てくるだろうって思ってるんだよね。
今の時点で解釈できない何か良いものがあるだろうと思っていて、それが将来的に出てくるような環境にしたいと思っていて、それがどういう環境なのかっていうと、
みんなのやっぱりそれぞれの思っている欲望というかビジョンみたいなのがいっぱい出てくる環境が実現したら、今僕は想像できないんだけど、多分何か良いなと思える何かが生まれてくるだろうなと思ってるよね。
だから現状今この時点でそれが良いかどうかは定義できない。説明もできないし定義もできない。
今例えば定義できないとして、100年後の今僕らが想像できてない社会状況とかで、その当時の100年後の人が良いなって思えるってことなのかな。
それともその時の人も良いかどうかわかんないってこと?
一回判断するとかじゃなくて、判断し続けるっていうのかな。現在進行形Be~ingな気がしていて、どっかのタイミングで判断していいねとかじゃなくて、今も判断してるし多分明日も判断してるし、
1年後も判断してるし多分100年後も判断してるし、それがずっとずっと連続的に続いているようなものをイメージしてる僕は。
毎日ベストな、より良いと思う判断をしていると。
判断。
違うの?今リピートしたつもりだったんだけど。
判断って言われちゃうと何か。
決断と判断で違うの?
いいか悪いかのジャッジメントをしてるんじゃない?より良いものを。
ジャッジメントできない気がするんだよな。
でもさっきより多くの人がいいなって思う何かは判断力がないと、より多くの人が思ってるかとかってわかんないんじゃないかなと思った。
わかんない。わかんないと思うよ。
わかんない?
わかんないと思う。その答えには多分わかんないと思うんだよね。
人間個人のレベル感で多分判断、これは良い悪いみたいなのが判断できるレベルのものじゃないような気がしている。
どのレベルでは判断できるんだ?神レベル?
一般意識とか抽象的な誰でもない視点なのかな?
今一瞬、否定神学っていう言葉が頭をよぎって、否定神学とは何かというと、何々ではないっていうのをいろんな切り口からやっていって、その対象がどんなものなのかっていうのを特定というか、説明しようとすること。
例えば神、神とは何かっていうものをずばり説明するんじゃなくて、神とは何ではないかみたいなことをいろんな角度でやっていくことによって、だんだんおぼろげな対象を絞っていくみたいなそういうことをやってるんだけど、
なんかそういうイメージなんだよね。
俺が言ってるので、これがいいみたいな感じで指し示せるものではなく、これはダメだよねみたいな。
それを積み重ねていった結果、なんかおぼろげになんとなくもやっとありそうな何かみたいな。そういうイメージだね。
なるほど。
なんとなく伝わる?このイメージ。
でもとよだくんはそんなに否定してなかった気がしたんだけど、どの否定が今重なってきてるんだ?何ではない。
何ではない。何ではないっていうのが多分その欲望みたいのがはっきりしてきたら、みんなの欲望みたいのがはっきりしてきたら、これは違うよねっていうのが多分いっぱい出てくるんじゃないかなと。
これは違うっていうのは、それは事実というよりは意見ってこと?そうすべきではないみたいな。
多様な意見とコミュニケーションの難しさ
意見。それぞれの人が自分の欲望に照らし合わせて、これは違うと、これはこういう世界にはしたくないみたいな。
で、それが集積すると、さっきの否定神学で、これではないっていうものが何か出てくる気がするんだけど。
で、今それは具体的に○○ではないっていうのが今、とよだくんの中であるわけじゃなくて。
あるわけではない。あるわけではない。
だから、こういう欲望ではないっていうのが集まっていて。
じゃあ、今までどれにも否定されてない、ここら辺に何かそういう欲望があるはずだ。だからそこに向かおうみたいな風になるはずってこと?
そうかな。そうかな。
いや、なんかその抽象度が高すぎて、同じことを考えているかどうか全然わからないから、具体にどうしても落としたくなるんだよね。
でも具体に落とした瞬間に、いやそういうのじゃないんだよなってなるのが想像ができちゃって。
具体化する瞬間に、多分なんかいろんなもの落とすんだよね。
僕、グラフで考えたりさ、いろんなもの削ぎ落として真ん中の線は何だろうって切り取ろうとするから、そうではないっていう風になるような気がするんだよね。
具体化しようとしたり、僕が理解をつかもうとすると、何か落とさないと理解できないから、今の状態だと。
俺も多分理解できてないから、多分あんまりここで何かを、俺が今ここで言ったのを明確化は多分できない気がするんだけど、なんとなく伝わってくれたら嬉しいなって。
そうそう、なんかあるのかなと思ってるから、それを何なんだろうと、こうね、つかもうとしてるんだけど。
違う意見の相互理解と明確化の難しさ
私、自分の多分視点がさ、今の現在からの延長でしか見れてないから、なんかこう、そこにこう、先のないジェットコースターじゃないけど、
あ、あれ、ない、どうしようって、なんかこう、その後こう、銀河鉄道じゃないけど、空に飛ぶ鉄道に乗り換えないと、なんか到達できない感じがする。
そのまま線路を引こうと思っても、到達できないから、ちょっと完全にOSを変えるというか、空を飛べるようにしないと、みたいな。
ちょっとこの話は、ちょっと遠くに行き過ぎたので。
とよだくんとしてはでも、何を、なんかこう、こうなるだろうってことを主張したいのかな。将来こうなるから。
こうなるだろう、こうなるだろうし、そういう世界になったら、みんなもっと欲望を大事にしようぜ、で、僕もそうしたいし、みんなもそうしてくれたら嬉しいな。
それが実現したら、なんかもっと良い世界になるんじゃないかなって思ってるって感じ。
その何が良いんですかって言われちゃうと、それは俺は答えられないんだよね。何が良いのか分からないんだけど、なんか良い気がするっていう感じなんだよ。
だからそのね、たぶん良いっていう部分と、欲望の部分だよね。なんかたぶんいろいろ、僕の中の欲望と、とよだくんの中の欲望がまだ合ってない感じとか、良いっていうのを、たぶん同じものが想像できてない感じするんだよね。
何を持って良いと思うのかなみたいな、その感覚値だったとしても、そうなのかなとか、なんかね、たぶんそこだよね。あんまりこう、まだ分かりきってないっていうのは。
なんかね、会社のコミュニティでも、今俺が話したようなことをなんか書いたつもりなんだけど、なんかね、やっぱ分かってないというか、伝わらなかったなっていう感じがあって。
それに対してコメントくれた方がイメージしてる欲望と、僕がイメージしてる欲望がだいぶ違うなっていう感覚を得たんだよね。
だから、たぶん違うんだろうな、しおくんもたぶん同じような感じで、違うものをイメージしてるんだろうなってことは分かったんだけど、そこを明確化して伝えられる力が俺にはない。
欲望の定義と影響
なんだろうね、欲望ってもうちょっとなんか解像度が上がるんじゃないかな。たぶんとよだくんの言ってる欲望って別の言葉でもうちょっと説明できないかな。
で、その時にその人に対して説明したのは、僕が言ってる欲望っていうのはデザイアだっていう風に言って、その人がイメージしてるのはどちらかというとニーズ?ニーズっていうのかな、もうちょっとこう、欲望って言葉で想起されるのってもうちょっとドロドロとしてるというか、なんだろうね、あんまり美しくないような、なんか汚い感じ。
にイメージがつくのかなと思うんだけど、僕が言ってる欲望はそういうんじゃなくて、なんだろう、もっと、もっと綺麗なやつっていうか。
綺麗って何?
みんながいいなって思うもの。
みんなといいってさ、やっぱり僕の中でたぶんそんなに解像度が高くないというか、そんなにみんなが同じことをいいなと思うのかなみたいな。で、同じことじゃないって言いそうなんだけど、なんだろうね。
みんながいいなと思う普遍的な何かがあると思ってるんだけど。
それはなんだろう。
それはなんだろう。
それはなんだろう。え、でも、自分の人生が楽しく生きれたらいいなって思わない?それは普遍的にみんな思ってるんじゃないかなと思うんだけど。
そうね。
自分の人生が何か、何かいいなって思える人生はいいんじゃないかなと思ってるんだけど。
アリストテレスが結局みんな求めてるのはハピネスだって言ってるのとは違う。なんか結局普遍的にみんなが求めるのは幸せであるみたいな。
まあそうかな。その幸せって何なのっていう話になるんだけど、まあでもそれに似てるかもしれないね。
幸せって言うと個人的な感じがするんだけど、私が幸せかどうかみたいな感じに聞こえちゃったんだけど、そういうのじゃなくて、私も幸せだしあなたも幸せだし、みんなも幸せだよねみたいな。そういうイメージだな僕は。
それをみんなが持つ、思うんじゃないかってこと?
みんなが思えたらいいんじゃないって。
それはある個人の人が自分の幸せだけでいいんだけどっていう人がいたらどうなんだろう。なんかその人も他の人も幸せになってほしいと思うはずってこと?
うーん、そうじゃないかなと思うよ。自分が幸せになればいいやって思ってるのは、多分その人がまだ幸せじゃないからだと思うんだよね。自分の幸せっていうのは満たされてないから、自分が幸せにまずなりたいですと。で、他の人は別に知りませんっていうステージなんだと思うんだけど、自分の幸せが満たされたら、多分自分以外の人の幸せも望みたくなるはずなんだよね。僕が思うに人間という生き物は。
自分の幸せが満たされ、それが満たされたら次のステージとして自分の周りの人の幸せを望み、それがさらに満たされたらもっと広い枠でみんなが幸せになったらいいなって多分なるんじゃないかなと思ってるんだけど。
僕はね、そう思ってるんだけど、それに該当しない人間がもしかしたらいるかもしれないけど、そこはちょっと僕の想像力の外の世界なので、それはちょっと僕の頭からは外されてるね、そういう対象は。
なるほどね。なんかあの、この本の中にムービングターゲットみたいな話があって、どこだっけな。なんか常にゴールが動いてるみたいな話って覚えてる?
はい。
だからその、みんながある程度、自分がある程度幸せになったら他の人の幸せ願うんじゃないかみたいな。なんかその幸せな状態にみんながなってっていうことがなんかありえるのかなみたいな。
人間ある状態になった瞬間にないものを考えたりして、次に行動を移す動物。だからそういう遺伝子が残ってきたんじゃないかなと思ってて、今の状況に満足して何も動かないと、
生物として生き残ってこなかったみたいな、なんかそういうことがあるんじゃないかなと思うんだよね。
そうだね。
だから満足する幸せだなと思う、全員がそう思ってる状態になれるのかな、というとこが。
そうじゃない?だって自分の、自分が満足して幸せだなと思ったら、それだけでは満足できなくなり、周りの人の幸せも実現できたらいいなと思うっていう話だと俺は思ってるんだけど。
AIにおける欲望と人権
で、それがだんだん満足。周りの人も幸せになったら、それでは満足できなくなり、もっと広い枠組みで幸せになったらいいなって思うっていうことなんじゃないかと思うんだけど。
そういう意味では、まだ次を目指してるというか、ないものを埋めてってる感じだよね。自分以外の部分も。
なんかその、コテンラジオかな、自我が拡張してるみたいな歴史が経るにつれて、自分だけじゃなくて、例えば周りの人とか、白人だけじゃなくて黒人もとか、男性だけじゃなくて女性もとか子どももとか障害者もとかそういうふうに、自我がだんだん拡大しているみたいなのと俺は同じことを言っている気がするんだけど。
自分一人の幸せじゃなくて、その周りとか、今まで含まれてなかった人も含めつつ、その幸せを願うというか、そういう方向になってる気がするんだけど、徐々にね。
それがもっとそうなるだろうなっていうことかな。
トレンドとしてはそういう傾向にある。で、それがどんどん拡張していくと。
この抽象的な話では、こんくらいにしていく?なんかもう、キリがない気がする。
まあそうだね。でもこういうふうに話すことが考えるきっかけというか。
使ってない部分、頭の使ってない部分を使ってる感じがするね。
ちなみにこの本については、この後話す後半で気になったこととか、特にそういうのは。
そうだね。それは後半でもいいんじゃないかな、その気になったところとかは。
一旦このAIは欲望を持つべきでないってところからちょっと話を進めて。
最後にでもさ、それに絡んでさ、今拡張してるって話があってさ、
多分すでに言い始めてる人いると思うんだけど、さっきのそのAIに人権をみたいな。
そうだね。拡張のトレンドでそういうふうに来るっていうのはどう思う?
そういうふうにこのままいくとなっちゃうと思うんだよね。
それが僕は良くないって言ってるんだと思うね。
そこはストップしないといけないと思ってる。
それは何だろう。
影響がでかすぎる。
例えば人間とか動物とかっていう個体の権利を認めましょうみたいなのは、
別にその人の権利を認めたからといって世界が大きく変化するとかいう影響は多分早々起こらないだろうなと。
一人の人間対して一人の動物とかの権利を保護しても、
それを保護したことによって世界が滅亡の危機に瀕するみたいなことには多分ならないんじゃないかなと思っているんだが、
AIはなる気がするんだよね。
AIの権利というかAIに人権を与えてしまったら、
僕はかなり大きい影響を世界に与える気がするので、
そこはストップしなければいけないんじゃないかなと思っている。
デトロイト・ビカム・ヒューマンみたいな話。
AIの欲望と世界改変
そうそう、まさにデトロイト・ビカム・ヒューマンの話だと思う。
僕もそれは確かにそうだなと思うんだよね。
人類の危機になる可能性は十分あるような気がしていて、
ここは相当慎重に規制したほうがいいのかなと思うんだけど、
とよだくんの言ったセリフだけを切り取ると、
例えば南北戦争をやっているアメリカの白人の人も同じことを言いそうだなと思ったわけよ。
黒人の権利を与えるとか、
そんなことをしたら世界がひっくり返るみたいな、
世界が変わってしまうということは言いそうだなとは思って、
でも実際今権利を拡大していて、
その人たちが危惧したことが起きているのかどうかわからないんだけど。
これは人間が生み出したものなのか、
人間が生み出したものじゃないものなのかの違いがあるかなと思っていて、
例えば黒人は別に白人が生み出したわけじゃないと思うんだよね。
もともと黒人というのがいたわけで、
それを勝手に奴隷みたいな感じにしてただけの話であって、
もともと黒人はあったし、もともと黒人は欲望も持っているし、
人間としてこうしたい、ああしたいというのは思っていたはずなんだけど、
AIはそうじゃないと思うんだよね。
人間がそこを許可、許可というか欲望を持たせるっていう
許しを与えないと多分欲望は持てない、持たないはず。
うん。
なので、持っちゃったら多分もう止められない気がするんだよね。
だからもう持たせないっていうこと?
なんかね、それとよだくんの宿題じゃないんだけどさ、
もう一回考えてきてほしいなと思うのが、
この欲望を別の言葉で置き換えてほしいなと思って。
僕の中でやっぱり欲望って言われると、
さっきの猫がご飯食べるとかダニがジャンプするっていうのも欲望だって言ってるのに、
ロボットが同じように行動するのも欲望、
こういう欲望を持つべき、持つべきではないっていうことで、
なんかこううまく線引きができないんだよね。
なんか知らないけど。
今やってること、ロボットがやってることとかも、
既に欲望を持っていると捉えられる気がするんだよね。
だからなんかその、とよだくんの言ってる欲望は、
欲望の中でもかなり、なんかもうちょっと限定できるというか、
説明できる気がする。
全部の欲望を否定してるわけじゃない気がするんだよね。
なんだろう、積極的に世界に影響を与えて、
世界を改変していこうとする動き。
あーそうそう、そういう形で。
そういう方に言ってくれると、
なんとなくわかるってなるんだけど、
欲望全体を否定すると主語がでかすぎて、
今も別に持ってるんじゃないかなとか、
そういう変な反応自体が浮かぶから。
今の俺の説明ではまだ粗い?
でも今ので結構いい感じにきたと思う。
今でも最後、もう一回言って。
積極的に?
積極的に世界を改変しようとする動きかな。
自分の望ましい形に世界を改変しようとする動きかな。
自分の望ましい形、あーなるほどね。
だからロボット自身の利益を考えて世界を改変しようと、
それ以下も自発的にというか、
半自動的にというか、
半永久的に動き続けるようなことをさせてしまうとってことだよね。
なるほどね。
それってでもなんか、この前、だいぶ前かな、
数ヶ月前に、Generative Agentとかって
見せたの覚えてる?シミュレーターみたいなやつでさ、
あの街の中に10人ぐらいエージェントが住んでて、
それぞれが毎日送って、お互いプロファイル持って会話してっていうのを繰り返して、
それが箱庭みたいな感じで。
彼らは自分が人間だと思って毎日話してたりすると。
で、そのうちの1人の例えばプロファイルに、
ちょっと積極的に世界に対してどうやったら影響を与えられるか、
自分の利益を最大化するように、
まあ行動、会話をしてくれと。
っていうふうに誰かが埋め込んでたとしたらさ、
で、毎日それがほっといたとしたら、
そういう行動自体は禁止すべきっていうことでやってる。
えっと、AIに対してはそうかな。
人間が持つことは別にいいんだけど、
AIにはそれを持たせてはいけないのではないか。
でもやる人いる気がするんだよな、規定しても。
そうね。
だから僕はそうなった方がいいなと思ってるけど、
AIの欲望の話
多分世界がそうなるとは限らないね。
だってテロリストじゃないけど、世界を転覆させたいというか、
今の既存社会を壊したいと思っている人とかもいて。
そうね。
なんか暗くなっちゃったけど、
まあでも言わんとすることは多かった。
はい。
OK。
じゃあこのAIの欲望の話はちょっとこの辺りにしておきましょうか。
次回へ続く。
01:03:34

Comments

Scroll