RAG とは何か
RAG(Retrieval-Augmented Generation / 検索拡張生成)は、LLM の生成時に外部知識を検索して文脈に注入する手法です。社内ドキュメントや最新情報を、モデルの再学習なしに回答へ反映できます。
なぜ精度が上がるのか
LLM は学習時点の知識しか持たず、ハルシネーション(もっともらしい誤り)を起こします。RAG は回答の根拠を検索結果に紐づけるため、事実性と鮮度が向上します。
最小構成の実装
- ドキュメントをチャンク分割し、埋め込み(embedding)でベクトル化する
- ベクトル DB に格納する
- 質問をベクトル化し、近傍検索で関連チャンクを取得する
- 取得文脈をプロンプトに足して LLM に生成させる
つまずきやすい点
- チャンクサイズが大きすぎると関連度が下がる
- 検索ヒットが0件のときのフォールバック設計
- 出典(source)を回答に併記して検証可能にする
検索の質が RAG の質を決めます。まずは小さく作り、評価データで反復改善するのが近道です。