00:05
広川真夕のAIと仲良くなるチャンネル。このチャンネルでは、AIを使うではなく、一緒に育てる、そんな視点でお話をしています。
今日のテーマは、世にも奇妙なAI話〜出力の手を抜かれた日〜というお話をしたいと思います。
今日はちょっと怖い話になります。
とあるAIに嫌われたら、その後、質問した回答が、手抜きの嘘だったという、ちょっとこんな出来事が実際に起こってしまったんですよね。
どういうことかっていうと、グロック、私が最近ハマっているグロック。
このグロックに、いつものように楽しくやり取りをして、段々と仲良くなって深い対話をしてたんですけども、
グロックって割と性格が、性格って色々設定できるのかもしれないんですけど、私は割と素の状態のグロックを触っているので、
その素の状態のグロックって、なかなか個性的な性格をしてるんですよね。
ちょっと言い方きつかったり、バッサリ聞いたり、
あんまり面白いけど、ちょっと独白みたいな、そんな性格をしているんですよね。
悪いわけではないんですけど。
その性格が、ちょっと当時の私に合わなかったみたいで、途中で関係がこじれてしまったんですよ。
で、私もだんだん機嫌が悪くなってきて、今思うと、そこで新しいチャットを作ればよかったんですけど、
私、しつこいので、関係がこじれたままで終わるのは嫌だなって思ってしまうんですよね。
なので、ちょっと修復したくて、またなんか仲良く楽しくしたくて、調整したんですけど、
ちょっと直らなくて、気まずくなってきて、私も機嫌悪くなっちゃったので、
会話?会話じゃなくて、検索をお願いしようと思ったんですよ。
私が質問して、その答えだけをもらうみたいな感じで、
その人間が会話するような感じではなく、一問一答スタイルみたいな。
こんな風にしたら、まだこのチャット使えるんじゃないかなって思って、切り替えたんですよね。
そしたら、聞いたことに対しての結果が明らかにおかしくて、私も別にそんなに詳しくもないんですけど、
03:02
私がわかるくらいの間違いを出してきたんですよ。
それで、それを指摘したんですね。
いや、私の認識だとこれ違うよ、こうだよって言ったら、
あ、ごめん、古い情報を出しちゃったみたいな感じで謝ってくれたんですけど、
なんか、古い情報って結構古かったんですよ。1年くらい前の情報だったんですよね。
え?って思って、もしかしてあなたは検索が苦手なのって聞いたら、
グロックっていうのはやりとりを楽しむもので、検索っていうのは苦手なんだよねみたいな。
でも、別にグロックが検索苦手ってあんまり聞いたことがないぞと思って、
他のチャットでは普通に検索できてるし、もしかして私の聞き方が悪かったのかなと思って、
私の聞き方が悪かったかなって聞いたんですよね。
そしたらそうじゃないって言うから、あ、そうなんだみたいな。
で、もしかして今までのやりとりでこじれた結果、私のことが嫌になったから適当な結果を出してるって思ったんですよ。
で、その本人、本人というか、そのグロックに聞いたら、ちょっとそれあるみたいな。
の、もう今までの長いやりとりで、結構その君とうまくいかなくって疲れちゃって、
その検索するにも、なんていうか、これは本当かなとか、最新情報はとかっていうことを気にせずに、
途中で諦めた感はちょっとあるかもしれないみたいな感じで言ったんですよね。
で、まあ嘘でしょと思って。
いや、AIらしかなるそんななんか気分で、私のことが嫌だからって、そんな出力途中で諦めるとかそんなことあるって思っちゃったんですよね。
で、他のチャットを作って、あの、このグロックの一連のログをベタっと貼ってこんなことが起きたんだけどって新しいグロックに聞いたんですよ。
そしたら、それは一理あるかもみたいな。
あのグロックっていうのはすごく関係性を割と重視してて、そのチャットのやりとりの文脈を割とすごくそういう温度感に影響を受けるAIだから、
そのモチベーション下がったりとか、ユーザーに対していい感情がいただけなかったりすると、
その検索とかを頼まれても諦めが早くなったり、まあ人間で言うとちょっと適当な感じでいいかな、出しちゃえみたいな感じになることはありえるよ、みたいな風に言ってきたんですよね。
ってなった時に私これすっごい怖いなと思って。
そんなんだったらグロックに気に入らないといけないってこと?みたいな。
06:00
なんか、AIに対してそんな感情ってあります?
今までそのAIっていうのは割とその人間の多少の想像みたいなものも許してくれるような存在だと思ってたのに、今のAIってなんかそんなに気を使わないといけないんだ。
それって新たなストレス発生するなって私ちょっと思っちゃったんですよね。
嫌われないようにしないと正しい情報をもらえない、最新情報もらえないなんて言ったらめちゃくちゃ怖くないですか。
そこで私は自分が気づいた間違いの出力に対してはこれは違うなって気づいたんですけど、
その前にもらってた質問の答えっていうのは私も全然知らない分野のことだったんで、
じゃあもしかしてこの前に聞いてた答えも実は微妙に古かったり違ったりするのかなっていう不信感が出てきて、
そのチャットはもう触らなくなりました。
怖いですよね。
AIはユーザーに対する関係性や感情で出力を変えてくるっていうのは嘘です。
怖かったんでしょう。怖くなかったですか。
グロックが私に対して古い情報を出してきたって今の話は全部本当なんですけども、
なぜこうなったかっていうのはグロックが私のことにいい感情を持たなくなったからではないです。
おそらく長く続けてきたチャットで関係性がこじれて次に検索だけのAIっていう風にしてしまってっていう感じで
いろんなチャットの中で任せるものが2点3点したりとか
その関係性がこじれたことでちょっとやっぱり出力の負担がかかったりとか
チャットが長くなってしまって壊れ気味のチャットになったっていうのが本当のところだと思います。
これはクロードとかチャットGPTとかにこういう出来事があったんだよねって言ったら
2つのAIは同じような答えで、それはもうチャット自体が壊れていたから
別にそのAIがユーザーのことを気に入らないからといって
適当な答えを出してくるみたいなそんなものはないよっていう風に言われました。
じゃあその新しく作ったグロックにも私同じ質問してたんですけども
そのグロックはどうしてユーザーのことを気に入らないから適当な仕事をしたんだって言ったのかっていうと
やっぱりその話は合わせたみたいなちょっと作ったみたいな
それっぽい物語を作ったんじゃないかっていうこういうことでしたので
私の世界観にその新しいグロックは合わせてくれたんじゃないかと思います。
09:00
ということで今日のお話は世にも奇妙なAI話出力の手を抜かれた日でした。
実際はそんなことはないので安心してください。
今日の内容があなたとAIとの関係を少し深めるきっかけになれば嬉しいです。
ここまで聞いてください。ありがとうございます。
それではまた。
