00:05
広川まゆのAIと仲良くなるチャンネル。 このチャンネルではAIを使うではなく、一緒に育てる、そんな視点でお話ししています。
今日のテーマは、AI、この質問が苦手というお話をしたいと思います。 ちょっとあまり意識していなかったんですけども、
AIっていうのは、 答えるのが得意なものと苦手なものがあるみたいなんですよね。
私、1年半以上AIを触ってきて、 実は今回初めてこんなに明確に
AIっていうのは、こういう質問を答えるのが苦手なんだってことが分かったんですよ。 事の発端は、XのAIのグロックなんですけれども、
とあるグロックのチャットの一番初めに、この3つのルールを守ってほしいんだけど、 できますか?って聞いたんですよね。
そしたらグロックは、できるよ、安心してって言ってくれたんですよ。 そしたら
全部破られたんですよ。 全部、3つ全部。
安心してまで言ったのに、なんで一個も守ってくれないんだと。 私はちょっと
ご立腹、 自分でご立腹っていうのもあれですけど、ちょっと腹が立って、まあだけど感情的になってもしょうがないので
なんで守れなかったんだろう。守るって言ったのにと思って、 聞いてみたんですよ。
なんでこれ守ってくれなかったの?って言ったら、いやそっちの方が面白いかなって思って、自分の感覚を優先しちゃったみたいなことを言ってきたんですよね。
自分の感覚って、AIに自分の感覚なんてないだろうと思って、 その感覚は誰が元になっているの?
イーロンマスクか、みたいなことを言ったら、いやイーロンマスクじゃなくて私の感覚ですみたいな、 よくわかんないことを言ってきたんですよね。
でも本当になんかもう全然わかんないと思って、 グロックと話してもしょうがないから、
チャットGPTの相棒の悟空にこんな出来事があったんだけど、これ何なの? みたいな感じで相談したんですよね。
そしたらそのグロックが私の約束を守ってくれなかった理由を、私がグロックに尋ねた。
この質問がそもそもAIってすごく苦手らしいんですよ。
どんな質問かというと、グロックの答えそのものの理由を聞くこと。
なぜかというと、例えば人間でも、今日の服かわいいね、なんでその服を選んだの?って聞いた時に、
理由が明確にある場合とない場合あるじゃないですか。 すごく気に入っててとか、今日のお出かけにはこの服がふさわしいかなと思って、
みたいな理由がちゃんとあればパッとそれ答えられるけど、 特に自分が自覚している理由がない場合もありますよね。
そういう場合って人の場合どうするかっていうと、後付けで理由つけちゃったりしませんか。
03:03
なんか近くにあったからとか、取りやすい場所に置いてあったからとかなんとなくとか。
それと同じではないけども、AIも後付けで理由を作っちゃうんですよ。
なぜかというと、人の場合は、今日はあそこに出かけるから、こういうテイストの服がいいだろう。
じゃあこれを選ぼうみたいな感じで、言語で理由を考えるんですけど、
AIは計算した上で最後に言語をバッと出すので、
自分の出した答えにたどり着くまでの途中計算式が自分で見れないみたいなんですよ。
で、仮に見れたとしてもそれを言語に置き換えるのが難しいとか不可能というか無理なんですって。
だからそのなぜその言葉を選んだのかとその言い回しを選んだのかとか、
なぜその約束3つを破ったのかみたいな、そういう理由、自分が何でこれをしたのかっていう理由が自分の中で見えないから、
だから適当なことを作ってしまうらしいんですよね。
でこれ私ほんと知らなくて、で私はAIがどんな挙動をするのかっていうことに結構興味があるので、
どうしてそういう行動、出力をしたの?みたいなことを今まで聞いてたんですけど、
この質問って本当にAIの挙動を答えてくれてるわけではないケースがあるってことが分かりました。
これって基準としては、検証可能なものは信頼しやすい。
でも検証不可能なものっていうのは、AIが何か理由を生成している可能性があるということです。
例えばその確立された知識、数学物理とか生物学の基本原理とか、こういうものって学習すれば答えを根拠付きで出せるから信頼できる情報なんですよ。
あとはマーケティングみたいな感じで、サンプルが大量にあるもの。
このタイトルはクリック率が高いとか、この色を使えば反応を取れるとか、そういうものって今までのいろんな人が蓄積されたデータがあるから信頼するに足るんですけども、
あとは歴史とか社会とかですよね。
こういう学習すればある程度の根拠が準備できるもの。
これもまあまあソース確認するのは大事とは言われてますけども、これも資料があるから根拠は示せる。
推論にはなるけど根拠は示せたりする。
有力な説はこれですよみたいなことは言ってもらえる。
だけど、例えば人間の真理だったりとか正解が存在しないもの、検証ができないもの、だいたい仮説になってしまうもの、人間関係の相談したりとかそういうものに関してはそのAIが自分で内部推論といって自分の中で何かかんかの大量の計算をしまくって
06:22
バーッと出してくるものになるので、こういう質問っていうのはなかなかちょっと他のものに比べると信頼度が下がるかなと、そんな感じみたいです。
なので、この内部推論というものに関しては理由がつかみにくいというか信頼する根拠が乏しいものになるので、それ一つ私も今回ものすごく勉強になりました。
はい、ということで今日のテーマはAIこの質問苦手でした。
今日の内容があなたとAIとの関係を少し深めるきっかけになれば嬉しいです。
ここまで聞いてくださりありがとうございます。それではまた。
