RAG（検索拡張生成）は、LLMの大きな弱点である「社内データを知らない」という問題を解決します。仕組みはこうです。文書（契約書、手順書、Wiki、メール）をベクトルデータベースにインデックス化し、質問のたびに最も関連する箇所を検索してモデルに渡し、モデルが出典を示しながら回答します。
RAGはハルシネーションを大幅に減らし、企業でAIを本当に役立つものにします。主権の観点での注意点は、インデックスには最も機密性の高い文書の要約されたコピーが含まれるため、第三者のクラウドではなく社内でホストしなければならないことです。
ある会計事務所が、アシスタントを4,000件の顧客ファイルに接続します。スタッフがある企業の決算日を尋ねると、アシスタントは該当するファイルから答えを見つけ、出典となる文書を表示します。
回答が自社の文書に基づく必要があるときです。社内手順、契約書、ナレッジベース、顧客履歴などが該当します。
RAGは私の文書を外部に送信しますか？
いいえ、お客様の管理範囲内に導入されていれば送信されません。文書とそのインデックスはお客様のサーバーまたはソブリンなホスティング事業者に留まり、モデルも同じ場所で動作します。