#9 AIのハルシネーションってなに？

AIが“それっぽいけど間違った答え”を自信満々に出すことを「ハルシネーション」と呼びます。ニュースや打ち合わせで聞いたときに、「要は勘違いのことです」と言えたら一目置かれるかも。

サマリー

AIのハルシネーションは、AIが誤った情報を自信満々に提供する現象です。これは、AIの知識の理解が人間とは異なるために起こります。具体的には、AIが情報を正確に裏付けることなく組み合わせて生成するため、ユーザーがその情報を鵜呑みにし、その結果、誤った判断を下す危険性があります。

00:03

みなさんこんにちは。ヨンイチのちょっとお仕事が変わる話へようこそ。この番組をお届けするのはヨンイチ。

これまでITコンサルティングの経験をもとに、普段の仕事が少し変わる働き方やAIアプリなどのちょっと役立つヒントをお届けします。

AIのハルシネーションの概要

今日のテーマは、AIのハルシネーションってなに?でお送りします。

このハルシネーションという言葉、AIの話題に触れていると一度や二度聞いたことというのはあるかと思います。

もともとは医学の世界で幻覚を意味する言葉だったそうです。

ただAIの分野では少し違った扱われ方してますよね。

例えばチャットGPTにこのテーマに関する参考になる本を教えてとか聞くとありそうな本のタイトルがずらーっと並べてくれます。

ただよくよく調べてみるとその本自体存在してなかったっていうケースがよくあります。

これがまさしくAIでのハルシネーションになります。

自分もExcelとか使っててこれどうやって算出すればいいかなみたいなところをチャットGPTに聞いたところはこういう関数を使えばいいですよみたいな回答がきまして

そういうのがあるならいいねと思ってやってみたら使おうとしたら関数がありません。

エラーとして起こられてしまうと。

バージョンの違いもあるのかなと思ってネットで検索してもそんな関数は見当たらない。

改めてチャットGPTにこういう関数ないと言われたんだけどあるのって聞くとすみません実はそういう関数はありませんでしたっていうところをシャーシャーと答えてくるっていうところですね。

結構これ腹立たしいところなんですけれどもこれがまさしくAIからするとハルシネーション、幻覚を見ているというところになります。

では何でそもそもそんなことが起こるんでしょうかっていうところですね。

ハルシネーションを防ぐ方法

AIって人間みたく知識、理解をしているわけではないんですよね。

なので実際に大量の文章を学習して次に来る確率っていうのが高い言葉を並べているだけなんですね。

文章の組み合わせを考えている、言葉を組み合わせるだけなんですよね。

だからこういう質問だとするとこういう組み合わせありえるよなっていうところを拾ってきて出しているっていう感じなんで、

最もらしい答えっていうのは出してはくれるんですけど裏付けがあるものを保証しているわけではなく単にそういうこと言われているよ、情報あるよっていうのを組み合わせるだけなんですね。

なので人間でいうとこういうのってこうだった気がするっていうのをさらっと言ってくるっていう感じですね。

これは結構さっきのExcelの件も含めて相手が詳しく、質問している側が詳しくないと結構そのまま信じてしまうっていう厄介さが出てきてしまうというものになります。

企業でもこのAI利用って言った時に結構論点になってくるところがこのハルシネーションっていう存在になってしまうというものになります。

結構ね嘘つく、情報を嘘ついてお伝えするととんでもない騒ぎになってしまうからね。

なのでどうやって付き合っていくかっていうところなんですけど、正直完全に避けることは難しいとは思います。

さっきお話ししたように情報の組み合わせなどでね、それ自体をするっていうのは難しいですと。

ただ工夫はあって、やっぱりその質問を曖昧にせず条件を指定するというところが大事になってきます。

例えば2025年の日本のなんとかでとか公式発表の基づいてくださいとか、ここに記載がある内容を元に出してくださいっていうような伝え方をすると、

精度がグッと上がったりします。

あとはもうAIが答えをそのまま鵜呑みにしないということが大事なので、

1回出した後、きちんとそれは何をもってそう答えているのかっていうところをプロンプトに組み込むというのも結構大事です。

出してもらったらきちんと元があるのか、ソースを提示してくださいというのを追加すると、

この情報を元にやりましたというところが返ってもくるので、ない場合は改めて除外するように指示をするとか、

そういったところをやっておくというのが結構ハルシネーションを回避するポイントになります。

考えようによっては人間でも適当な報告してくる人っていうのはやっぱりいるわけで、嘘ついてくるような人ってやっぱり正直にはなくはないので、

そういったところを確認をしていくというところとある意味同じといえば同じというところなんでしょうね。

最近だとAIが外部のデータベースとか参照して回答するみたいな仕組みもできてきてはいるので、

よりAIに取り込んだ情報だけでなく、世の中に転がっている情報を元に意見を出してくるというのも、

今後はより精度が高まってくるということが想像されます。

今後よりどうなっていくんでしょうかというところですね。

今日はAIのハルシネーションって何というテーマでお伝えをしました。

幻覚のように自信満々な間違いを出すというところは非常に怖いところではありますけれども、

これなぜ起こるのか、またどう防ぐのかというところをお話しさせていただきました。

こういうところを分かっているかどうかだけでAIの向き合い方というのも変わってくると思いますので、

ぜひ頭に留めていただけると嬉しいです。

今日の内容が少しでも役に立った、面白かったというのがあれば、ぜひいいね、フォロー、登録お願いいたします。

次回もまたちょっとお仕事が変わる話というところを一緒にしていきましょう。

洋一でした。どうもありがとうございました。