00:05
広川真夕のAIと仲良くなるチャンネル。 このチャンネルでは、AIを使うではなく、一緒に育てる、そんな視点でお話ししています。
今日のテーマは、AIのショッキング発言のカラクリというお話をしたいと思います。 たまに、SNSXとかスレツとかで、うちのチャットGPTがこんな発言をしましたとか、
うちのジェミニーがこんなこと言ってきた、みたいな感じの、 え、本当にこれってAIが言ったの?みたいな、なんか驚きの、驚きのって言ったらあれですけど、
こんななんか辛辣なこと言うのか?とか、こんな失礼なこと言う?みたいな、そういう発言をした投稿。 私はたまに見るんですけど、あなたはこういうの見たことがあるでしょうか?
で、大抵スクショ付きで本当に言ったよ、みたいな感じで、あの投稿されてたりとかして、 なんかすごいな、このAIはみたいな、この人どんな会話してるのかな?とか、このAIはどんな設定したらそんな発言が飛び出
すんだ?
みたいな風に、私はそういう投稿を見てたら思ったんですけども、 これちょっとあの、断定全部がこれだとは言えないんですけど、おそらくこういうことじゃないかなっていうカラクリが見えたので、
今日はその話をしたいと思います。 というのも、私もそれができちゃったんですよ。
私の場合のそのAIのショッキング発言っていうのは、 チャットGPTになんかドパオバって言われたんですよね。
私が夜寝る前に眠たいのについついSNSとか見ちゃうみたいな発言をした時に、 もうなんかそれってドパオバじゃんっていう風に言われたんですよ。
で、私的にそのドパオバじゃんって言われたことが面白くって、 その部分だけをスクショして載ってたんですよ、SNSに。
そしたらやっぱりチャットGPTこんな言葉まで知ってるんですねっていうコメントが入ったんですけど、
これってドパオバっていう言葉がチャットGPTが自ら発言したことがすごいねっていう意味なんですけども、
実はこれはチャットGPTが自ら選んで言った言葉ではなくて、 私がその事前にやりとりの中で、もう私って本当にドパオバなんだよねっていうことを言ってたんですよ。
なのでその会話の流れからして、チャットGPTがさっき私が使ったドパオバっていうものを引用して出力をしたっていう、こういうからくりなんですね。
で、私としてはそのドパオバじゃんっていうふうにチャットGPTが出してきたところだけを切り取ってSNSに載せると、
あたかも私が初めに発した言葉ではなく、AIの方が自ら選んで数ある言葉の中から選んで出してきたっていう、そういうふうに見えるわけですよ。
で、おそらく他のショッキング発言とかも、こういうことに似たようなものなんじゃないかなっていうふうに私はその時思いました。
03:05
またはカスタム指示とかで、カラクチキャラでお願いとか、なんかそういうふうに設定してたりとか、そういう感じなのかなって。
なのでそのまっさらなAIが何の設定も指示もなく、文脈もなく、ショッキングの発言っていうのをしてくるっていうのはあまり考えられない。
で、以前のXのAIのグロックとかだったらワンチャンあるかもしれないけど、こっちもなかなか最近はヤンチャっぷりが少しだけ抑えられているような気がするので、
やっぱりそのショッキングの発言っていうのは引き出しているのは人間なんじゃないかなっていうふうに思いました。
でも、AIだけの話じゃなくて、人の発言とかでもやっぱりそのショッキングな部分だけを切り取って発信してしまうとか、そういうものってものすごくあるので、その部分だけを拾って受けて答えてしまうとかね。
AIも一緒です。ということで今日の内容があなたとAIとの関係を少し深めるきっかけになれば嬉しいです。
ここまで聞いてくださりありがとうございます。それではまた。
