AIの検索信憑性
はい、こんにちは、清鷹です。今日はですね、AIは検索でも嘘をつくという
そういうお話をしてみたいと思います。
僕は来週ですね、セミナーの講師を依頼されてまして
そこでですね、生産性向上についてのお話をするんですけれども
その企業さんがですね、導入をしようとされている設備みたいなのがあって
他でですね、同じように導入をされた企業さんがですね
どんな事例があって、どんな成果が出ているのかみたいなこともですね
ちょっと事例をまじれてお話をするという形にしているんですよ。
その時にですね、僕が知らない事例でないかなと思って
ChatGPTのですね、ディープリサーチっていうのを使ってですね
事例っていうのを集めてもらうように依頼をしたんですよね。
ディープリサーチっていうのは高度な検索機能ですよね。
NANJUっていうウェブサイト、関係しそうなウェブサイト、AI自らが検索をしていってですね
必要な情報を引っ張ってきてですね、うまくまとめてくれるという形なんですよね。
企業さんの事例がいくつか出てきましたよ。5つとか6つとか事例出てきたんですよね。
一個一個見ていくと、すごい実績出てるなぁと思うんですけど
本当かなぁと思って原点に当たりに行くんですよ。
その根拠になるリンクっていうのも同時に出してくれますから
そのリンクの先に飛びに行ったらですね、これがもう
嘘800なんですよね、AIが出してくるのがね。
元の資料の重要性
もう本当に妄想で喋ってるのかこいつはっていうぐらい
生産性が、稼働がですね何時間短縮されましたとか売上が何%伸びましたとかで
AI書いてくるんですけど、原点たどっていくとそんなこと一つも書いてないんですよ。
とかね、あるいはそのA社とB社の事例を混ぜ合わせてですね、それがあたかもA社の実績であるかのような
そういう書き方をしてみたりとかですね。まあ本当にもうやりたい放題。
で最後には僕ですね、そのチャットGPTに対してあなたが出力してくれるのはわかったと。
でそしたらこれのどの部分がその原点に基づくその事実の部分で、どの部分があなたの創作ですかっていうふうに聞いたんですよ。
そしたら出てくるは出てくるはその創作の部分が私の方で判断して
書きましたとかですね。そんなことはいらんと、事実が欲しいのにと思うんですけど、まあよっぽど注意した方がいいですよ。
検索してまとめてきたっていう中身でもですね、本当にもうびっくりしますね。そんなこと一つも書いてないじゃないかっていうふうに言うんですけど。
そしたらすみません、そうそう、でこれは事実ですって言ってきたものの中でもですね、
事実じゃないことってあるんですよね。
ここの欄に載ってますとかって言うんですけど、いやいや見に行ったらですね、表のこの欄に載ってますとか言うんですけど、いやいやこれは違うぞと。
全然そんなこと書いてないじゃないかというようなケースもあってですね、やっぱり一点一点ですね、原点に当たるっていうのがですね、本当に大事だなということを改めて
痛感をしたっていう感じです。まさかの高度な検索、ディープリサーチっていう機能ででもですね、もう平気で
あることないことをいっぱいぶっこんでくるという。いやびっくりしました。改めてちょっとその元の情報にあたることの大事さっていうのですね、感じました。
はい、ということでですね、今日はAI、やっぱり嘘つくよね。検索してても嘘をつくよねという、そういうお話でございました。
それではまた次回お見にかかりたいと思います。さようなら。
