【生成AI×認知心理学】巨大LLM時代にこそRAGが必要な理由｜記号接地問題とエピソード記憶の視点から

本記事は、生成AIの活用を検討する企業のDX推進担当者やAIエンジニアに向けて執筆しています。「LLMのコンテキストウィンドウが広がれば、RAGは不要になるのではないか」という疑問に対し、認知心理学の視点から明確な答えを提示します。

生成AIの進化に伴い「RAG不要論」が聞こえる一方で、認知心理学の視点で見るとRAGは依然として不可欠です。本記事では、「短期記憶・長期記憶・メンタルモデル」のアナロジーを用いて、AIの動作原理を解説します。さらに「記号接地問題」と「エピソード記憶」という概念から、AIを実務に接地（グラウンディング）させるためのRAGの本質的な役割を明らかにします。

はじめに：AIは人の脳と同じ構造で働いている

生成AIの仕組みは、認知心理学における人間の記憶モデルと驚くほど類似しています。この類似性を理解することで、RAGがなぜ必要なのかが明確になります。本章では、認知心理学の3つの要素を用いて、生成AIの動作原理を解説します。

認知心理学で読み解く3つの要素

生成AIの構成要素は、認知心理学における「短期記憶」「長期記憶」「メンタルモデル」に対応しています。この対応関係を理解することが、RAGの本質を把握する第一歩です。

1つ目の要素は「プロンプト」です。プロンプトは、認知心理学における短期記憶（ワーキングメモリ）に相当します。人間が作業机の上に広げられる資料には限りがあるように、プロンプトに入力できる情報量にも制約があります。この作業机では、今まさに取り組んでいるタスクに必要な情報だけを扱います。

2つ目の要素は「RAG（Retrieval-Augmented Generation）」です。RAGは、認知心理学における長期記憶に相当します。人間が必要な時に書庫から資料を取り出すように、RAGは膨大なドキュメントの中から関連情報を検索して取得します。この書庫には、マニュアル、過去の議事録、成功・失敗事例など、組織の知識が蓄積されています。

3つ目の要素は「LLM本体」です。LLM本体は、認知心理学におけるメンタルモデルに相当します。メンタルモデルとは、人が頭の中に作る「世界の理解の仕方」のことです。LLMは大量のテキストから学習した「思考の枠組み」を持っており、入力された情報をこの枠組みで解釈して応答を生成します。優秀なコンサルタントが持つ「ものの見方」のようなものです。

この3つの要素の関係は、次のように整理できます。LLM（コンサルタント）は優れた思考の枠組みを持っています。しかし、そのコンサルタントが適切な判断を下すためには、作業机（プロンプト）に必要な情報が載っていなければなりません。そして、その情報は書庫（RAG）から適切に取り出される必要があります。

なぜ巨大LLMになってもRAG（書庫）が必要なのか？

LLMのコンテキストウィンドウ（入力可能な文字数）は急速に拡大しています。しかし、この拡大によってRAGが不要になるわけではありません。本章では、その理由を2つの観点から解説します。

プロンプト（作業机）の限界と「継続性」の問題

コンテキストウィンドウが拡大しても、プロンプトには本質的な限界があります。その限界とは、「継続性」と「効率性」の問題です。

継続性の問題は、会話が途切れるたびに作業机がリセットされることに起因します。人間が複数日にわたるプロジェクトを進める場合、毎朝すべての資料を最初から読み直すことはしません。必要な情報は書庫に整理しておき、必要な時に取り出します。同様に、AIとの対話においても、過去の会話履歴や業務文脈を毎回プロンプトに含めることは現実的ではありません。

効率性の問題は、情報量と処理速度のトレードオフに関係します。作業机が大きくなったからといって、すべての資料を常に広げておくのは非効率です。100万文字のコンテキストウィンドウがあっても、そのすべてを使うと処理時間が長くなり、コストも増大します。必要な情報だけを必要な時に取り出す仕組みが、実務では不可欠です。

メンタルモデルを「絞り込む」という役割

RAGには、情報を取り出すだけでなく、LLMの思考を「絞り込む」という重要な役割があります。この絞り込みがなければ、AIは一般論や幻覚を語り出してしまいます。

LLMは「何でも知っている」が故に、制約がないと広すぎる可能性の中を彷徨います。たとえば、「契約書のレビュー」を依頼した場合、一般的な法律知識に基づいた回答が返ってくるかもしれません。しかし、実際に必要なのは「自社の契約テンプレート」や「過去の修正履歴」に基づいた具体的なアドバイスです。

RAGとプロンプトは、この広すぎる可能性を「特定の業務・文脈」に強制的にフォーカスさせる装置です。書庫から取り出した具体的な資料が作業机に載ることで、コンサルタント（LLM）は「この文脈で」「この資料に基づいて」考えるようになります。この制約こそが、実務で使えるAIを実現するための鍵です。

AIの最大の弱点「記号接地問題」とグラウンディング

AIには、人間には当たり前に備わっている能力が欠けています。それは「言葉の意味を現実と結びつける能力」です。本章では、この「記号接地問題」とその解決策としての「グラウンディング」について解説します。

言葉の意味を知らないAI（記号接地問題とは）

記号接地問題とは、AIが言葉を「記号」として処理しているだけで、その意味を現実体験と結びつけていないという問題です。この問題があるからこそ、AIは平気で嘘をつきます。

この問題を理解するために、辞書のたとえを使いましょう。辞書で「りんご」を引くと、「バラ科の落葉高木、またはその果実」と書かれています。では「バラ科」とは何か。辞書を引くと別の言葉で説明されています。この連鎖は永遠に続き、言葉は言葉でしか説明されません。しかし私たちは、実際にりんごを見て、触って、食べた経験があるからこそ、「りんご」という言葉の意味を理解しています。

AIには、この「実際に経験する」という回路がありません。AIは大量のテキストから言葉同士の関係性を学習していますが、言葉が指し示す現実を体験したことはありません。そのため、言葉の統計的なパターンに基づいて「それらしい」文章を生成しますが、その内容が現実と一致している保証はないのです。これがハルシネーション（幻覚）の根本原因です。

RAGによる「グラウンディング（接地）」

RAGは、AIの思考を「現実」に繋ぎ止める装置として機能します。この繋ぎ止める行為を「グラウンディング（接地）」と呼びます。

グラウンディングとは、もともと電気工学の用語で「接地」を意味します。電気機器を地面（Ground）に接続することで、余分な電流を逃がし、機器を安定させます。同様に、AIの思考を「根拠となるドキュメント（Ground）」に接続することで、空想への暴走を防ぎ、出力を安定させることができます。

RAGは、ドキュメントという「局所的な現実」をAIに与える行為です。AIは言葉の意味を現実体験と結びつけることはできません。しかし、「この文書にはこう書いてある」という事実に基づいて回答することはできます。この「提供された根拠に基づいて回答する」という制約が、AIの思考を空想から現実へと繋ぎ止めます。

たとえば、「当社の返品ポリシーは？」という質問に対して、RAGなしのAIは一般的な返品ポリシーを想像で語るかもしれません。しかし、RAGで自社の返品規定を参照させれば、AIはその文書に基づいた正確な回答を返します。これがグラウンディングの効果です。

RAGの進化：知識（意味記憶）から知恵（エピソード記憶）へ

従来のRAGは、マニュアルやFAQなどの「事実」を参照させることが主流でした。しかし、RAGの真の可能性は、「経験」を参照させることにあります。本章では、認知心理学の「意味記憶」と「エピソード記憶」の概念を用いて、RAGの進化の方向性を解説します。

意味記憶とエピソード記憶の違い

認知心理学では、長期記憶を「意味記憶」と「エピソード記憶」に分類します。この分類は、RAGに何を学習させるべきかを考える上で重要な示唆を与えます。

意味記憶とは、事実やルールに関する記憶です。「日本の首都は東京である」「1キログラムは1000グラムである」といった一般的な知識がこれに該当します。ビジネスの文脈では、マニュアル、規定集、製品仕様書などが意味記憶に相当します。

エピソード記憶とは、個人的な体験に関する記憶です。「先週の商談でこういう質問をされて困った」「あのプロジェクトではこの判断が失敗だった」といった、時間・場所・感情を伴う記憶がこれに該当します。ビジネスの文脈では、議事録、日報、成功・失敗事例の記録などがエピソード記憶に相当します。

この2つの記憶には、決定的な違いがあります。意味記憶は「何が正しいか」を教えてくれますが、エピソード記憶は「何がうまくいったか、何が失敗したか」を教えてくれます。熟練者の判断力は、この2つの記憶が統合されることで生まれます。

AIに「熟練の直感」を持たせる方法

従来のRAGは、意味記憶（マニュアル）を中心に構築されてきました。しかし、マニュアルだけを参照するAIは「頭でっかちな新人」のようなものです。ルールは知っているが、現場の機微がわかりません。

熟練者が持つ「直感」の正体は、豊富なエピソード記憶です。「以前、似たような状況で失敗した」「あの時はこうしたらうまくいった」という経験の蓄積が、瞬時の判断を可能にします。この直感をAIに持たせるためには、エピソード記憶をRAGに組み込む必要があります。

具体的には、以下のようなデータをRAGの対象に加えることが有効です。

1つ目は、成功・失敗事例の記録です。「このアプローチで成約に至った」「この提案は却下された理由はこうだった」といった結果を伴う事例は、意思決定の質を高めます。

2つ目は、商談や会議の議事録です。「顧客がどんな懸念を示したか」「どう対応したか」という文脈情報は、類似状況での判断に役立ちます。

3つ目は、ベテラン社員の暗黙知を言語化した記録です。「なぜその判断をしたか」「何に注意すべきか」といったノウハウは、マニュアルには載っていない貴重な知識です。

このように、意味記憶（事実・ルール）とエピソード記憶（体験・結果）の両方をRAGに組み込むことで、AIは「知識」だけでなく「知恵」を持つようになります。結果や感情に基づいた「接地」が可能になり、AIはより賢明な判断ができるようになるのです。

まとめ

本記事では、認知心理学の視点から「なぜ巨大LLM時代にもRAGが必要なのか」を解説しました。

RAGが必要な理由は、大きく3つあります。1つ目は、プロンプト（作業机）の限界です。コンテキストウィンドウが拡大しても、継続性と効率性の観点から、必要な情報を必要な時に取り出す仕組みは不可欠です。2つ目は、メンタルモデルの絞り込みです。LLMの広すぎる可能性を特定の業務・文脈にフォーカスさせるために、RAGによる制約が必要です。3つ目は、グラウンディングです。記号接地問題を抱えるAIを現実に繋ぎ止め、ハルシネーションを防ぐために、根拠となるドキュメントが必要です。

パラメータ数が増えても、AIを「現実」に繋ぎ止め、「文脈」を維持するためにRAGは必要不可欠です。そして、今後のAI活用の質を分けるのは「何をRAGさせるか」という設計思想です。単なるマニュアル検索（意味記憶）だけでなく、成功・失敗事例（エピソード記憶）をRAGに組み込むことで、AIは「頭でっかちな新人」から「経験豊富な熟練者」へと進化します。

自社のAI活用を見直す際には、ぜひ「どんなエピソード記憶をAIに与えられるか」という視点でデータ整備を検討してみてください。

Get full access to 岡大徳のメルマガ at www.daitoku0110.news/subscribe

サマリー

生成AIの進化に伴い、RAGの重要性が再認識されています。彼らは認知心理学の視点から、RAGがAIに現実との接続を提供し、経験を学ぶ手段となる可能性について考察しています。

RAGの必要性

いやー最近の生成AIの進化、特にコンテキストウィンドウの拡大って、ほんと驚きますよね。

ええ、ほんとに。 一度に100万トークンとか、もう分厚い本を丸ごと扱えるレベルじゃないですか。 そうですよね。

だからこそよく聞かれるのが、これだけ巨大なプロンプトが使えるなら、わざわざ外部のデータベースを検索するRAGってもういらないんじゃないっていう疑問。

これすごくよくわかります。 直感的にはそう思いますよね。机がこう無限に広がったんだから、わざわざ書庫から本を持ってくる必要はないんじゃないかと。

ですよね。 でも今日はまさにその点について、認知心理学っていうちょっと意外な視点から、いやむしろRAGの本当の価値はここからなんだという話を深掘りしてみたいんですよ。

認知心理学ですか。それは面白そうですね。AIの話にどう繋がってくるんでしょう。

はい。まず今回の資料で提案されているすごく秀逸なアナロギーがあるんです。AIシステムを一人の優秀なコンサルタントだと考えてみてください。

はい、コンサルタント。 LLM本体は彼の思考の枠組み、つまり児童の良さですね。

で、プロンプトは目の前のタスクをこなすための作業机。 そしてRAGが必要な資料が保管されている書庫なんです。

うわぁ、その例えはなんかすごくしっくりきますね。 コンテキストウィンドウが拡大したっていうのは、つまり単に作業机が大きくなっただけだと。

まさに。 でもそれなら、机の上に書庫の本をもう全部広げちゃえば解決するんじゃないですか。

そこがA重要なポイントです。まず、毎回すべての情報を机に広げるのってすごく非効率ですよね。

まあ確かに。 それにもっと大事なのが、情報が多すぎるとコンサルタント、つまりLLMの注意が散漫になってしまうことなんです。

ああ、人間と同じってことですね。 そうなんです。

AIも一度に集中できる情報には限界がある。 RAGはたくさんある資料の中から、今このタスクに最も関連性が高いのはこの3冊です。

と、最適な資料を作業図形の上に置いてくれる、まあ優秀な師匠みたいな役割を果たすんですね。

へえ、単なる情報検索じゃなくて、思考のフォーカスを絞らせる役割も担っていると。

ええ。 でもそれだけじゃないんですよね。

あの、AIが時々平気で嘘をつく、ハルシネーションの問題、これにもRAGが関わっているとか。

まさに、AI最大の弱点、いわゆる記号設置問題がそこにあるんです。 記号設置問題。

はい。 AIにとってリンゴっていう言葉はあくまで赤い、とか果物、とか他の言葉との統計的な関係性でしかないんです。

私たちみたいに実際にリンゴを手に取った重みとか、かじった時のシャリッとした食感みたいな現実世界での体験とは結びついていない。

わあ、言われてみれば確かに。だから言葉と言葉の関係性だけで、それらしい嘘を本人、というかAIは嘘という自覚なく生成してしまうわけですね。

その通りです。そこでRAGがグラウンディング、つまり思考を現実に設置させる、アンカーの役割を果たすんです。

経験と知恵の学習

グラウンディング。

はい。当社の返品ポリシーは、と聞かれたAIが一般的な知識で答えるんじゃなくて、RAGが社内規定っていう動かぬ事実を提示する。

これによってAIの思考は初めて現実の地面に足をつけられる。それで正確な回答ができるようになるんです。

なるほど。グラウンディングでAIが嘘をつかなくなるのはわかりました。

でもそれだけだと、AIってまだ正直で物知りな辞書みたいな感じですよね。

ええ、そうですね。もっとこう、経験豊かな先輩みたいに、状況に応じたアドバイスをくれるようになるには何が足りないんでしょう。

素晴らしい問いですね。そこはまさにこれからのRAGの進化の方向を示してるんです。

ほう。人間の長期記憶には2種類あると言われています。一つは忌み記憶。

忌み記憶、はい。

日本の使徒は東京みたいな一般的な知識です。ビジネスで言えばマニュアルとか使用書ですね。

はい。今のRAGが主に参照しているのはその忌み記憶ですよね。

ええ。しかしもう一つ重要なのがエピソード記憶なんです。

エピソード記憶。

例えば、あの時A社との商談でこの資料を見せたらすごく良い反応だった、といった個人の体験に基づいた記憶です。

これまでのAIはマニュアルは読み込んでるけど、現場の経験がない頭でっかちな新人だったんですよ。

ああ、なるほど。わかりやすい。

真の価値っていうのは過去の疑似録とか成功失敗事例といったエピソード記憶をRAGに組み込むことで生まれます。

これによってAIは単なる知識、ナレッジだけでなく文脈に応じた判断力、つまり熟練者のような知恵、ウィズダムを獲得し始めるんです。

ということは、RAGはもう不要になるどころか、1、AIの思考の焦点を絞って、2、ハルシネーションを防ぐために現実と結びつけて、

さらには3、経験から知恵を学ばせるために、今後ますます重要になる、ということですね。

いやー、これは見方が変わりました。

まさに。ですから、あなたに、そしてリスナーの皆さんに最後に投げかけたい問いはこれなんです。

これから考えるべきは、自社のAIにどんな知識を教え込むかだけじゃない、むしろ、あなたの組織が持つどんな経験を学ばせることができるだろうか。

そのデータベースに眠っている成功や失敗の物語こそが、AIを単なるツールから真のパートナーへと進化させる鍵なのかもしれない。