RAG(Retrieval-Augmented Generation)は、生成AIに社内文書やFAQ、マニュアルなどの外部情報を検索・参照させ、その情報を根拠に回答を作らせる仕組みです。
業務でRAGを使うときに重要なのは、「資料を登録してAIに質問する」だけではありません。参照させる情報を整え、検索しやすい単位に分け、質問に合う情報を取り出し、その情報に基づいて回答させ、結果を評価して改善するところまでが実務上の一連の流れです。
この記事では、RAGを生成AI業務へ導入するときの具体的な手順を、各工程の入力・行動・出力、判断基準、社内問い合わせ対応の通し例、つまずきやすい点まで含めて解説します。
RAGの基本構成
RAGは大きく「情報準備」「検索」「回答生成」「評価・改善」の4つで考えると分かりやすくなります。
- 参照させる文書を集める
- 文書を検索しやすい形に整える
- 質問に関連する情報を検索する
- 検索結果を生成AIへ渡して回答を作る
- 回答と検索結果を評価し、改善する
単に生成AIへ文書全文を渡すのではなく、必要な部分を検索して渡すことで、回答の根拠を限定しやすくなります。
RAGのやり方を7ステップで進める
ステップ1:対象業務と回答範囲を決める
入力:業務課題、質問例、利用者、既存資料
行動:まず「RAGで何に答えたいか」を決めます。対象を広げすぎると、必要文書も評価基準も曖昧になります。
たとえば社内問い合わせ対応なら、最初から全社規程を対象にせず、「経費精算」「休暇申請」「IT申請」など質問が多い領域から始めます。
判断基準:
- 繰り返し発生する質問か
- 答えの根拠となる社内資料が存在するか
- 回答内容を人が検証できるか
- 誤回答時のリスクを許容・管理できるか
出力:対象業務、対象質問、対象外の質問、成功条件
ステップ2:参照文書を集めて品質を確認する
入力:マニュアル、FAQ、規程、商品資料、手順書、過去問い合わせ
行動:参照させる資料を集め、最新版か、内容が矛盾していないか、利用範囲に問題がないかを確認します。
確認ポイント:
- 最新版であるか
- 同じテーマで内容が食い違っていないか
- 廃止済みの手順が残っていないか
- 機密情報や個人情報を含まないか
- 利用者が参照してよい権限範囲か
出力:RAGへ登録する文書一覧と除外文書一覧
ステップ3:文書を検索しやすい単位へ分ける
入力:登録対象文書
行動:長い文書を、そのまま1件として扱わず、意味のまとまりごとに分けます。これをチャンク分割と呼びます。
たとえば30ページの経費精算マニュアルなら、「申請期限」「領収書要件」「交通費」「出張費」「承認フロー」のように、質問単位で参照しやすいまとまりへ分けます。
判断基準:
- 1つのチャンクで1つの論点を説明できるか
- 前後を読まないと意味が分からない分割になっていないか
- 質問されたときに必要情報だけを取得できる粒度か
出力:検索対象となるチャンク群
ステップ4:メタデータを付けて検索しやすくする
入力:チャンク化した文書
行動:文書名、カテゴリ、部署、更新日、対象者、版番号など、検索や絞り込みに使う情報を付けます。
例:
- 文書名:経費精算マニュアル
- カテゴリ:経費精算
- 対象者:全社員
- 更新日:2026-07-01
- 版番号:v3.2
出力:検索条件として使える文書属性
ステップ5:検索結果が妥当か確認する
入力:ユーザー質問、検索対象チャンク
行動:質問に対して、関連情報が上位に出るかを確認します。
たとえば「出張時の新幹線代はどう申請するか」という質問なら、出張費や交通費の規程が上位に出る必要があります。
判断基準:
- 質問に直接関係する文書が取得できているか
- 古い文書や無関係な文書が上位に出ていないか
- 必要な根拠が複数文書に分かれている場合、十分取得できているか
- 検索件数が多すぎてノイズになっていないか
出力:回答生成に渡す参照情報
ステップ6:参照情報をもとに回答させる
入力:質問、検索結果、回答ルール
行動:生成AIへ、検索結果に基づいて回答させます。業務利用では、参照情報にない内容を推測しないこと、根拠を示すこと、分からない場合は分からないと答えることを明示します。
回答指示の例:
以下の参照情報だけを根拠に回答してください。
参照情報に答えがない場合は「確認できません」と回答してください。
回答の最後に、参照した文書名と該当箇所を示してください。
質問:{ユーザー質問}
参照情報:
{検索結果}
出力:根拠付きの回答案
ステップ7:回答品質を評価し、改善する
入力:実際の質問、検索結果、AI回答、人の正解
行動:回答だけでなく、検索段階から問題を切り分けます。
評価ポイント:
- 正しい文書を検索できたか
- 回答は参照情報に基づいているか
- 必要な条件や例外を落としていないか
- 根拠を確認できるか
- 人の回答と比べて実務で使えるか
検索結果が悪ければ、文書分割やメタデータ、検索条件を見直します。検索は正しいのに回答が悪ければ、回答指示や出力形式を見直します。
出力:改善対象と次回の修正内容
通し例:社内問い合わせ対応でRAGを使う
背景
管理部門には、経費精算や休暇申請に関する同じ質問が繰り返し届いていました。担当者は毎回マニュアルを探して回答し、担当者によって説明の表現も少しずつ異なっていました。
課題
- 回答作成に平均8分かかる
- 同じ質問でも回答表現にばらつきがある
- 古い手順を案内するリスクがある
対象範囲を決める
最初は「経費精算」に限定し、よくある50件の質問を対象にしました。税務判断や例外承認が必要な質問は対象外としました。
参照資料を整備する
経費精算マニュアル、FAQ、交通費規程を集め、旧版を除外しました。各文書へ更新日と対象者を付けました。
チャンク化する
マニュアルを「領収書」「交通費」「出張費」「申請期限」「承認フロー」などの論点に分けました。
検索テストをする
「新幹線の領収書は必要ですか」「タクシー代は申請できますか」など実際の質問20件で検索テストを行いました。
初回は、「交通費全般」の大きなチャンクが上位に出るものの、タクシー利用条件の細かな記述が落ちるケースがありました。
改善する
交通費チャンクを「電車」「新幹線」「タクシー」に分け、文書カテゴリも追加しました。その結果、質問に対応する根拠を取得しやすくなりました。
回答生成を試す
AIには「参照情報にない内容は推測しない」「回答末尾に参照文書を示す」というルールを設定しました。
評価結果
50件のテスト質問で、人が妥当と判断した回答は初回38件でした。文書分割と検索条件を見直した後は46件まで改善しました。残り4件は例外条件が複雑だったため、有人対応へ誘導するルールを追加しました。
回答作成時間も、担当者が最初から調べる場合の平均8分から、AI案を確認して返す平均3分程度へ短縮しました。
学び
RAGでは、AIモデルだけを調整しても十分ではありません。文書品質、分割、検索、回答ルール、評価を一体で改善する必要があります。
RAGの評価で見るべき3つの層
1. 検索品質
正しい文書が取れているかを確認します。検索が間違っていれば、生成AIは正しい回答を作れません。
2. 回答品質
検索結果に基づいて、必要条件や例外まで正しく説明できているかを確認します。
3. 業務品質
実際の業務時間短縮、問い合わせ削減、誤回答率、有人対応への切り替えが適切かを確認します。
RAGでつまずきやすいポイント
資料を入れれば自動で高精度になると思う
文書が古い、重複している、分割が不適切といった問題があると、検索精度も回答精度も下がります。
長い文書をそのまま登録する
必要な箇所を検索しにくくなります。質問単位で意味がまとまるチャンクへ分けます。
回答だけを評価する
誤回答の原因が検索なのか生成なのか分からなくなります。検索結果と回答を分けて確認します。
根拠を表示しない
業務利用では、回答の確認先が分からないと人が検証しにくくなります。文書名や該当箇所を示します。
対象外質問の扱いを決めない
RAGで答えられない質問は必ずあります。「分からない」と返す条件や、有人対応へ切り替えるルールを決めます。
権限管理を考えない
部署限定文書や個人情報を含む資料を扱う場合、利用者ごとに参照可能な範囲を制御する必要があります。
RAGが向いている業務
- 社内FAQ・ナレッジ検索
- 問い合わせ回答支援
- マニュアル・規程検索
- 商品・サービス情報の検索
- 文書作成時の根拠情報提示
一方、最新情報が頻繁に変わるのに更新管理できない業務や、誤回答リスクが極めて高く自動回答に向かない業務では、適用範囲を慎重に決める必要があります。
RAG実践用チェックリスト
- 対象業務と対象外質問を決めたか
- 参照資料は最新版か
- 旧版・重複文書を除外したか
- 文書を検索しやすい単位へ分けたか
- 更新日・カテゴリ・対象者などのメタデータを付けたか
- 実際の質問で検索テストをしたか
- 検索結果と回答品質を分けて評価したか
- 回答に根拠を示しているか
- 参照情報にない内容を推測しないルールがあるか
- 有人対応へ切り替える条件を決めたか
- 文書更新と評価の運用担当を決めたか
まとめ
RAGは、生成AIに外部情報を検索・参照させ、根拠付きの回答を作るための仕組みです。
実務では、①対象業務を決める、②参照文書を整える、③文書を適切に分割する、④メタデータを付ける、⑤検索品質を確認する、⑥参照情報に基づいて回答させる、⑦検索・回答・業務結果を評価して改善する、という流れで進めます。
特に重要なのは、RAGを「生成AIへ資料を渡すだけの仕組み」と考えないことです。文書品質、検索品質、回答ルール、人による確認、評価と改善まで含めて設計することで、社内問い合わせ対応やナレッジ検索などの業務で継続的に使える仕組みにできます。