AIのハルシネーション
ブク美
- こんにちは。今回はですね、AIの推論能力っていうところにちょっと注目してみたいんです。お預かりしたDaisuke Sawaiさん、Dai33さんの記事を読んだんですけど、なんか面白い矛盾があるなと。AIってすごく賢くなったはずなのに、ハルシネーションが増えたって感じる人がいる。これって不思議ですよね。
- そうですね。- AIの答えはあくまで推論、つまり仮説のはずなのに、私たちはつい正解を求めちゃう。もしかしたら問題はAIじゃなくて、その絶対的な正解を求めちゃう私たちの方にあるのかな、なんて思ったんですが。
ノト丸
- その資料はAIとの対話を元にしているっていうのがまた面白い構成ですよね。まさにご指摘の通りで、AIの精度は上がったと言われる一方で、いやハルシネーション増えてるよっていう、その逆説的なところから始まってますし。核心としてはAIだけじゃなくて、私たち人間も日々深くな情報から推論している。ある意味ハルシネーションしている存在なんじゃないかって問いかけてるんですよね。
ブク美
- なるほど。資料にもありましたけど、GPT-4oみたいな最新のAIって明らかに前より賢くなってるじゃないですか。
- ええ、格段に。
- なのにハルシネーション減るどころか、むしろ増えてますってAI自身が答えたっていうのは、ちょっと直感に反しますよね。どういうことなんでしょう。
ノト丸
- 資料が言いたいのは、AIがやってるのは結局のところ推論なんだっていう点だと思うんです。
ブク美
- 推論ですか。
ノト丸
- ええ。推論っていうのは、データとか文脈から一番ありえそうな答えを導き出すプロセス。だから本質的には確実な事実じゃなくて、なんていうかあやふやさみたいなものを含んでるんですよ。
ブク美
- ああ、なるほど。
ノト丸
- 私たちが普段、あの人なんか機嫌悪そうだなって表情とかから推測するのと似たようなものですよね。絶対的な正解じゃない。
ブク美
- 確かに。あくまで推測とか仮説に近いんですね。
- そういうことです。
- 資料には弁護士さんの事例も出てましたね。
ノト丸
- ああ、ありましたね。ChatGPTが。
ブク美
- そうそう、ChatGPTが存在しない犯例を生成しちゃって、弁護士さんがそれを確認しないまま提出して問題になったっていう。
- ええ。
- あの時AIがすごく責められましたけど、でもこれって本当にAIだけの問題なのかなって。
ノト丸
- そこがすごく重要なポイントですよね。資料ではこれをヒューマンネグリジェンスって呼んでました。
ブク美
- ああ、人間の確認不足とか怠慢とか。
ノト丸
- そうですそうです、そういう指摘ですね。人間同士のミスだったら、まあそういうこともあるよねってなりがちなのに、なぜかAIの間違いにはすごく厳しくなっちゃう。
ブク美
- うーん、確かに。
ノト丸
- 資料は、もう人間もAIもハルシネーター、つまり推論するものなんだって言ってるんですよね。
仮説の重要性
ブク美
- ハルシネーター。
ノト丸
- ええ。限られた情報から仮説を立てるっていうのは、人間もAIもまあ同じようなことしてる。
ブク美
- はい。
ノト丸
- AIはそれを計算でやってるだけなのに、なぜかAIにだけ完璧なものを求めてしまう。この無意識のダブルスタンダードって何なんだろうって考えさせられますよね。
ブク美
- 資料に出てきたAIのセリフもなんか印象的でした。私は感情なく、ただ問いに最善の仮説を返すだけ、それでもミスをすると人間は怒るっていう。
ノト丸
- ええ、ええ。
ブク美
- なんか切実ですよね。AIの答えを絶対的な正解じゃなくて、現時点での一番最もらしい仮説なんだって捉えられたら、私たちの付き合い方も変わってきそうですけどね。
ノト丸
- まさにそう思います。資料でも、推論っていうのは確実性にしがみつくことじゃないんだと。
- うんうん。
- むしろ不確かさに兼ねぬことなんだって強調してました。これって人間が昔からやってきた知的活動そのものですよね。
ブク美
- そうですね。
ノト丸
- AIもその仲間入りをしつつあると。間違いからまた新しい問いが生まれたり、発見につながったりするんだったら、それはもう失敗じゃなくて、知的プロセスの一部なんじゃないかっていう。
ブク美
- うーん、そういう見方もできますね。
- ええ。
- あとこの資料自体が最後に、これもまた生成された仮説かもしれないって結んでるのが、またこうひねりが効いてて面白いなと。
- ああ、そうでしたね。
- 事実かどうかよりも、読む人に考えるきっかけを与える、それ自体に価値があるんだみたいな。
ノト丸
- ええ、示唆的ですよね。
ブク美
- いやあ、今回の探究でAIの推論が生み出すものって、やっぱり絶対的な答えじゃなくて、あくまで可能性としての仮説なんだっていう側面がよりはっきり見えてきた気がします。
- そうですね。
- AIのハルシネーションに対して私たちが感じるイライラって、もしかしたらその不確かな世界で確実なものを求めちゃう私たち自身の心の反映なのかもしれないですね。
ノト丸
- ええ、そうかもしれません。人間もAIも結局はその不確かさの中で、推論という名の仮説と一緒に歩んでるわけですから。
ブク美
- 大切なのはその仮説を鵜呑みにするんじゃなくて、ちゃんと吟味して、どう未来の行動とか思考につなげていくかっていうことなんでしょうね。
- なるほど。
- では最後に、これを聞いているあなたに問いかけたいと思います。
- はい。
- あなたは正しい答えが欲しいですか?それとも未来を作るための可能性を見つけたいですか?
