RAGで自社データを業務活用する方法は？

TL;DR

RAGは、質問に関連する自社データを検索し、その情報と質問文を生成AIへ渡して回答を作る仕組みである。社内ヘルプデスクや問い合わせ文案、新人教育に活用できるが、データにない内容や100％正確な回答には対応できないため、人による確認と継続的なデータ更新が必要になる。

Transcript

二本発見究長えどです今回は生成AIか 自社データまこの仕組みでよく使われて いるものがラグと呼ばれる仕組みになるん ですけどもこのラグでできることできない ことというテーマで先日の生成AI サミットでウールさんに登壇いただいた 内容をダトでお届けしていきたいと思い ます結構今多くの企業でこのラグという 仕組みリトリーバルオグメ ジェネレーションの略で検索して拡張して 生成するということの略称がラグなわけな んですけれどもまこれがどんなことができ て逆にどういうことができないのか事例も 含めて教えてもらい非常にいいよいい内容 だったので改めて振り返っていきたいと 思いますえこのチャンネルリモートが 研究所ではAIリモート主体に必要な ツールやノウハウ最新情報をビジネスの 視点でお届けしてるので... Read More

Key Insights

• RAGは、質問に関連する情報をデータベースから検索し、質問文と一緒に生成AIへ渡して回答を作る仕組みであり、自社データを参照情報として利用できる。
• 検索工程は、RAGの回答品質を決める重要部分であり、ベクトル検索やキーワード検索などで適切な情報を取得できなければ、生成される回答も正確にならない。
• 社内ITヘルプデスクは、AIが回答可能な質問だけを処理し、答えられない質問を人間へ引き継ぐ設計にすることで、完全な自動化を求めず業務を効率化できる。
• 約400名の企業で導入された事例では、社内資料と過去のFAQを参照するAIが一次回答を担い、質問の6〜7割程度を処理して担当者の負担を軽減した。
• FAQが未整備の企業でも、散在する資料や過去の回答を整理して開始し、AIが答えられなかった質問と人間の対応結果を追加することで改善を続けられる。
• 社外問い合わせ対応は、AIが返信文案を作成し、人間が確認または修正してから送る運用にすることで、誤回答への対策と対応時間の短縮を両立しやすい。
• 新人教育は、日報や進行中の案件に関連する社内知識を検索し、選択問題、確認質問、読むべき資料などへ変換して能動的に提示する形で支援できる。
• RAGは、参照データに存在しない内容を回答できず、100％の回答精度も保証できないため、誤りが許されない用途では人間の確認や別の仕組みが必要である。
• 🎬 このチャンネルの他の動画:
  • 既存サービスに生成AIを組み込む6つの方法
  • 新Bingスマホアプリの使い方と活用方法
  • Claude Managed Agentsを安全に使う方法
• 📺 このチャンネル: いけともch

Questions & Answers

Q: RAGとはどのような仕組みですか？

RAGとは、ユーザーの質問に関連する情報を外部データベースから検索し、その参考情報と質問文を生成AIへ渡して回答を作る仕組みです。生成AIが元から持つ知識だけに頼らず、自社資料や過去のFAQなどを参照させることで、業務固有の質問にも回答できるようにします。

Q: RAGで回答を生成する手順は？

RAGでは、最初にユーザーの質問を受け取り、検索プログラムがデータベース内から関連情報を取得します。次に、その関連情報と元の質問文をLLMへまとめて渡し、自然な回答文を生成してユーザーへ返します。検索と文章生成を分けた二段階の処理が基本です。

Q: RAGの回答精度を高める方法は？

RAGの回答精度を高めるには、質問に合う参考情報を検索工程で正しく取得できるように設計することが重要です。ベクトル検索、キーワード検索、IDによる固定検索などから目的に合う方法を選び、未回答の質問や人間の対応結果をデータへ追加して継続的に改善します。

Q: RAGを社内ヘルプデスクで活用する方法は？

RAGを社内ヘルプデスクで活用するには、社内規則、ファイルの場所、権限情報、過去のFAQなどを検索対象にし、普段使うチャットツールから質問できるようにします。AIが答えられない場合は担当者へ自動的に引き継ぎ、人間の回答を次回以降の参照データとして追加します。

Q: 社内ヘルプデスクのRAG導入で得られた成果は？

約400名の企業の事例では、社内資料と過去のFAQを参照するAIがIT関連の一次回答を担当し、質問の6〜7割程度を処理しました。回答できない質問だけを人間へ通知する仕組みにしたことで、担当者がすべての問い合わせへ直接対応する負担を減らせました。

Q: RAGを社外問い合わせ対応に使う方法は？

社外問い合わせでは、RAGに顧客への返信を完全自動化させず、担当者が確認する返信文案を作らせる方法が推奨されています。担当者は内容が正しければボタン操作で送信し、問題があれば修正できます。この構成により、誤回答を確認しながら作成作業を効率化できます。

Q: RAGを新人教育に活用する方法は？

RAGを新人教育に活用するには、日報や担当プロジェクトの内容に関連する規則、専門知識、社内資料を検索し、生成AIで問題や助言へ変換します。日報の投稿時や終業前などを実行のきっかけにすれば、確認問題を出したり、知識が不足している人へ読むべき資料を案内したりできます。

Q: RAGでできないことは何ですか？

RAGは、参照するデータに存在しない内容を根拠にした回答や、常に100％正確な回答を実現することはできません。検索で不適切な情報を取得すれば生成結果も誤る可能性があります。また、検索後に生成処理を行うため、単純な回答処理より時間がかかる場合もあります。

Q: FAQが整備されていなくてもRAGを導入できますか？

FAQが十分に整備されていなくても、散在している社内資料や過去の回答履歴を整理するところから導入できます。最初から完全な回答率を求めず、AIが答えられない質問を人間へ回し、その対応結果を新しいデータとして追加すれば、回答可能な範囲を段階的に広げられます。

Q: RAGに人間の確認が必要なのはなぜですか？

人間の確認が必要なのは、RAGでも検索の失敗や生成時の誤りを完全には排除できないためです。特に社外への回答や、間違いが許されない業務では、AIが文案を作り、人間が根拠と表現を確認してから送信する運用にすることで、精度上の制約を補う必要があります。

Summary & Key Takeaways

• RAGは、ユーザーの質問を受けて外部データベースから関連情報を検索し、その情報と質問文をLLMへ渡して自然な回答を生成する仕組みである。検索にはベクトル検索、キーワード検索、IDによる固定検索などが使える。回答品質を左右する中心は検索工程であり、関連性の低い情報を取得すると、その後の生成処理でも正しい回答は期待できない。

• 活用例の一つは、約400名の企業に導入された社内ITヘルプデスクである。散在していた社内資料や過去のFAQを整理し、チャットツール上でAIが一次回答を担当した。質問の6〜7割程度を処理し、答えられない場合は人間の担当者へ引き継ぐ。未回答の内容をFAQへ追加することで、対応可能な質問を段階的に増やせる運用となった。

• 社外問い合わせでは、AIが回答を直接送信するのではなく、担当者向けの返信文案を作り、人間が確認、修正して送る運用が推奨された。新人教育では、日報や担当案件に関連する社内知識を検索し、問題や助言へ変換して提示できる。一方、RAGは元データにない内容を回答できず、完全な精度も保証できない。検索と生成を段階的に行うため、回答時間も長くなり得る。