チャット型生成AIは、ときに根拠のない内容や事実とは異なる内容を、自然で、もっともらしい文章として生成することがあります。これが、AIの「ハルシネーション」と呼ばれる現象です。
今回は、チャット型生成AIの背後にあるAIの仕組み、特にLLM、大規模言語モデルの特徴を手がかりに、なぜAIが「もっともらしいけれど正しいとは限らない文章」を生成してしまうのかを考えます。
AIの文章が自然であることと、事実として正しいことは同じではありません。根拠を確認し、別の角度から調べ、最後は人間が判断することの重要性についてお話しします。
感想
まだ感想はありません。最初の1件を書きましょう！
スクロール