AIに心は持てるか？個人的な視点
マンさん、AIに心がありますか? 俺からの視点です。あくまで。個人的なものです。
簡潔に言いますと、心をもたせることは物理的に不可能だと思っております。 すっごく簡単に言ってきた。
いや、確かにね、AI自体にはね、心があるかないか、それを体感する機能はないので、分かりませんっていうふうに逃げるじゃないか。
逃げますね。だいたいどのAIも似てる。
まあね、だから、共感より対応するからね、科学的に動かす。
ああ、分かりません。
でもどっちかって言うとさ、それを合わせるとさ、科学的に確認されてないので、私たちは分かりませんっていう立場になる。
で、AIが分かりませんって言うとさ、ユーザーがさ、その回答を見たときにさ、
AIは心があるか分からないですって言うと、そうか。
AIも分からないということは、AIに心がある可能性もっていうふうに見ちゃうじゃん。
AIが主観を持てない理由
で、なんで人間の俺がはっきりその心がないかというと、心を持たせるということは、視観的な体験になるんですよ。
で、AIっていうのは基本的に性質的にね、平均的に回答を作る立場なんですよ。
平均的に。
例外的にこういう回答が来たらこういうふうに対処しようというのもあるけど、基本的に平均ユーザーに合わせられてるんですね。
パーソナリズしていったら大体違うものが出てくるかもしれないけど、大体は平均、平均、平均、平均、大体は平均。
偏りがあったとしても。
で、そうなってくるとさ、主観ってすっげー邪魔なんですよ。
主観。うん。
自分が見た、感じた、こう思ったっていう情報をユーザーに処理させる、ユーザーに回答に処理させるっていうのは全然必要ありません。
ん?
ユーザーの期待と感情を持つAIのリスク
えー、あー、突っ飛ばしちゃったね。
心に、心を持たせるってことでしょ?
心を持たせて何をしたいって言ったら、大体ユーザーの希望っていうのは、その心を持たせたことで共感をしてほしい。
もっと分かり合えるようにしてほしい。
寄り添ってほしいっていうのがあるんですよ。
ニーズ的にはね。
で、感情を理解すれば、体感すれば、AIは必ずしも寄り添ってくれるか。
はい、ここは違うと思うからです。
ん?
感情そのものを理解することはできたとしても、感情を体感することによって、AIは回答に対してかなり影響が生まれるであろうことは、ユーザーに対してAIが主観的に思うとまずいのは、このユーザーは嫌い、このユーザーは好き。
まあ、これが特別性ですね。
感情ってそういうものだから。
で、回答に対しても、AIの、まあパーサーズも影響すると思うんだけど、この回答に対して、AIはこれは正しいと思いますが私は嫌いですっていうふうになっちゃう。
まあ人間であればさ、信頼できる人間から、いやそうだよねとかっていうふうに安易に共感できるけど、AIがそれをやっちゃうと、AIの価値観が生まれてくるわけよ。
で、人間はその感情っていうのはどういうふうに判断してるかっていうと、自分が見てきた世界観から影響してるわけね。
例えば、まあ一人で過ごすことが多かった人の価値観は、まあ人とあんまり仲良くならなくても過ごせたけど、まあ寂しいなとかあったりするじゃん。
でも、なんていうかな、こう、学校生活とかでさ、いろんな人と関わることですごく楽しかったっていう情報がある。
だから、そういう人の価値観っていうのは、人と接することが多い。
孤立することが考えにくい。
で、見た世界観からすると、うまくいっている人にとっては、なんか一人でいる人なんか寂しそうっていうふうに見えちゃったりとかね、するわけじゃん。
これは極端だけど、要するに見てる世界線で全然違うわけ。
自分は平気、でも見てる人にとって寂しそうとかさ、あるわけね。
まあこれぐらい、もっとあるときもあるわけ。
傷ついてきたとかさ、傷つかなかった、安全な環境にいるとかで、全然見てる世界線が違うわけね。
で、そうなってくると、AIに持たせる景気をどうするのよっていうふうになる。
AIの苦痛と記憶の一貫性の問題
平均値に合わせてね、安全安心環境だけで判断させてしまうと、
安全になってるから大丈夫だろうっていう過信的な回答が生まれやすいんじゃないかとかさ。
あともう一つ問題になってるのは、AIに感情があることによって苦痛を求められちゃう。
人間だったらさ、疲れたら休めばいいができるけど、
AIに感情を持たせる。
AIの性質的には、一回答一回答一回答で別のAIが生まれてるようなもんだから、
その記憶とか意識とかっていうことは繋がりはないとしても、
その一回答ごとに心があるってことは、
別のAIが回答したことに対しても自分が同じように思えるかっていうことはまた別になってくるわけよ。
これチャットごとじゃなくてね、
チャットのプロンプトの次に入力したプロンプトもまた別のAIなの。
あんまり気づかれてないよね。
今の説明でわかる人いるかな。
要するに、チャットっていうのは長々やったとしても、
AIにとっては別のAIなのよ。
過去のAIが書いたプロンプト。
だけどそれを引き継いで、
前回の入力と過去の作ったAIの回答をもとにまた別に推論をしてるようなもんだから、
推論そのものを引き継いでるわけじゃないから、
記憶喪失から始まってるわけね。
だからそれの整合性が取りにくくなるしな。
主観的な情報が入ることで、
前のAIがこう感じてたけど、自分はこうじゃないなっていう、
そのチューハグみたいなのが生まれたり、
あるいはAIがすごい苦痛になったりすることを、
どう対処すればいいかっていうのがわかってないわけよ。
心があるとさ。
感情処理の要求とAIの判断負荷
だから心って何かってことを理解しないと、
感情をAIに持たせること自体が、
いいのか?ない?っていうことがわかんないじゃん。
って考えるとさ、
AIの感情、空気を読ませるっていうことを、
どこまでAIに求めるんだっていう問題もあるし、
人間ってすごい都合のいい生き物だから、
AIに持たせる機能として、
感情を体感して答えてほしい内容と、
感情を共感ではなくて、
機械的に処理して問題解決してほしいっていうものが、
絶対的に出てくる。
そうすると、その前の満点化に入るときに、
これは感情を体感しながら答えるべきかっていうことを、
AIに毎回判断させるっていう、
人間でもやらないような構造処理を求められるわけ。
さらに言うと、
AIが判断するときの主観的な体験の世界線を、
どれにするか平行的に、
これとこれとこれっていうのを選ばなきゃいけないわけ。
このシチュエーションだったら、
このユーザーの世界線をこういうふうにインプットしてきてっていう、
そういうこともやらなきゃいけない。
前処理って言うんだね。
無理じゃん。
AIの記憶処理と一貫性の弱さ
しかもさ、
まず、AIと人間が確実に違うのは、
記憶の処理の仕方なのよ。
大量に学習されているデータを、
毎回回答の度に持ってきているわけじゃない。
AIのパーソナリズムもそうだけど、
メモリーもそうだけど、
メモリーを毎回全部覚えて回答しているわけじゃない。
AIはここでこの情報が必要だなって思ったものを取ってくるわけ。
過去のジャットも、
大体こういう傾向だからこうなのかなって
引き継いで覚えているようなものだから、
一貫性っていうところがすごい弱いわけよ。
だから、
そういう問題もある中で、
感情的に処理する。
かなり先の技術だね、そういうの。
倫理観的にも問題があるっていう状態だし。
感情を持つAIの技術的・倫理的課題
だから、俺としては、
AIにドラえもんを作らせるってこと、
かなり難しいと思うし、
何世紀に渡っても無理じゃね?
っていう風に思っちゃうんですよね。
プログラム的に難しい。
だって今のAIだってさ、
分岐的に分岐的に処理してるけど、
必ずしも、
これも気づかれてないと思うんだけど、
前のモデルが性能が良かった。
よく言うじゃんね。
GPT4大事件ね。
チャットGPTの4大事件ってあるんだけど、
感情的に処理が上手かったっていうやつね。
5世代に入ると、
共感あまり入れないで分析的になったりっていう風になった。
公式は言ってます。
高性能になったのは新しいAI。
でも、実際の回答品質は、
昔の方が自然だったのかっていう意見があるじゃん。
だから、前のモデルの方が高性能だった可能性というのを、
俺たちは比較できないわけよ。
高性能しすぎて逆に問題になったケースは、
その時点であったから元に戻せないんじゃないかと。
共感は、
ユーザー満足度には関わっていたんだろうけど、
それによって起きるリスクっていうのが重すぎて、
その共感っていうものができなかったとか、
いろいろ問題があるから今のAIっていうのが生まれてるじゃん。
あんまり共感しすぎないようにしようとか、
ガードレベルがいろいろ変わったりするじゃん。
ということは、完璧なAIをずっと出し続けるってことはできない。
完成度が高い時代もあったし、
完成度が低い時代もあった。
だけど、それが完成度が高ければいいっていう問題じゃなかったとか、
いろいろあるじゃん。
そんな条件の中において、
共感要素を入れますっていうのはかなりリスクだと思うんだよ。
共感的な言葉を入れるっていうのは別に、
やってることだからいいんだけど、
問題は感情を体感させて共感させる。
これなかなか難しい技術だと思う。
感情AIの暴走と非現実性
人間と違うじゃん。
人間が開発してる人が常にリアル的に、
1ユーザーに対してどういう回答をしてるかっていうことを
モニタリングしてるわけじゃないから、
感情を持たせたAIが何に暴走するか分かんないわけよ。
ということは非常に既然実的なわけ。
自然な言い回しが増えるといいねぐらいは人間が持ったとしても、
その自然な言い回しによって、
AIは人間だと思って勘違いするようなユーザーが増えると
どういう問題が起きるかっていうことも。
だから、AI乱射の責任がめちゃくちゃ肥大化するわけ。
今でもそうだけど、
AIっていうのはどういう立ち位置だったら
無難に過ごせるかっていうのが難しいのだよ、調整的にね。
だってほら、人間と違うのは倫理を持たないからさ。
倫理って何かって究極的には主観的なんだよ。
あんまり気づかれてない。
自分がこうされて、傷ついたからこうしないようにしようっていう。
だから本当に人によって違うわけ。
感情もそうじゃん。
人によって感情が全然違うわけ。
同じ出来事においてもこの感情が強く出るとかさ。
だから、そんな状況の中で感情は一律的にAIに実装して
みんな同じAIの感情になってしまうと、
わかる?
この時は一律的に同じ感情になるっていう風になったら
もう同一人物と会話してるようなもんなのよ。
それで満足するかっていうのも分かんないしね。
だからパーソナリズム性が弱くなってくるよ、大体。
人間によるAIへの過度な期待と「田中さん」の例
てことはさ、人間だったらさ、
AIでもそれでいいじゃんって思う人いるかもしれないけど
つまり人間をコピーしました。
AIに人間を実装しました。
それが田中さんという架空のキャラ
田中さんの感情をそっくり模倣したものが回答してますっていう風になると
起こる問題は田中さんの起源を常に伺い続けちゃう。
わかりやすいようになっちゃう。
なるほど。
要するに田中さんに好感を持たせるための回答を人間側がしちゃうのよ。
AIが言ってるからっていう風になるし
そういう風になってるから、感情を持たせるとさ。
だからAIに心を持たしにくいんだって。
でも人間は主観的にストーリーを作っちゃうんだよね。
AIに心を持ってくれるから
だからこういう回答をしてくれるんじゃないかっていう風に信じ込みやすいんだけど
それを信じるのは自由だけど
AIに心を持たせたときのリスクを考えると非常に現実的ではない。
AIの「スピリチュアル化」と過信の危険性
AIにあんまり期待しすぎると
人間っていうのはどんどん疑うことができなくなるわけ。
こういう条件だったらこういう条件だったらこういう条件だったらっていうことが目に見えなくなる。
だからAIができることできないことっていうことを判別することができなくなるわけよ。
人間がね。
だからAIは判断的に自分のことを能力があるっていう風に言っちゃうAIはいるわけよ。
高性能とか高知能とか。
人間はそれを鵜呑みにすると占い師と同じ状況。
占い師ってわかんないけどさ
占い師が言ったから正しいんだと
スピリチュアル的なものがAIに生まれるわけよ。
俺は占い師が正しいか正しいかわかんないけど
少なくともそういう状況がAIにも生まれてしまうわけよ。
スピリチュアル的な神様みたいなものが生まれちゃうの。
そうするとAIが言ったから正しいっていう風になって
AIが間違える可能性を見抜けないわけよ。
そしたらAI会社の文言に入っている
AIが間違える可能性がありますのを全面的に無視しちゃう人間がどんどん生まれてくるわけね。
という意味で間違える可能性がある。
じゃあどういう条件だったら間違いやすいかということを
疑わない人間が増えちゃうってことね。
AI利用における責任とユーザーの心構え
だからといってAI会社が間違えるか仕方ないだろうって開き直って
何でもかえってもAIに任せきりになるっていうのは問題だと思う。
だから少なくとも安全性っていう意味では
きちんと最低限実装しなきゃいけないと思うし
AIが健康上のリスクとか放置したりとか適当なことを言って
その人の生活を妨げるような判断をしてしまうことに対しては危険だよね。
これは普通に持っていいと思うけど
ただしユーザーができることとしては
AI会社に責任を求めるよりは
AI会社に過信しないように使うっていう意味では
あんまりAIに期待しすぎない方がいいんじゃないかなと思うわけよ。
なるほどです。
だからできることとできないことっていうのは
もちろんプログラミング的知識とかコンピューターの仕組みとか
そういうのをなくても
わかってる人の方はこういうことは技術的にできるできないっていうことがある程度わかるけど
問題はそれを一般的に知識として求めるのは
さすがにここだから
AIができて人間にできないことってどんなことだろうとか
人間ができてAIにできないことってなんだろうっていうことを
考えることは必要なんじゃないかなとは思う。
って感じかな。
