RAGとファインチューニングの違い｜社内資料をAIへ渡すときの選び方

その場で資料を足すか、モデルを調整するか

RAGはRetrieval-Augmented Generationの略です。質問に関係する資料を検索して取り出し、その内容を生成AIへ渡す方法です。モデルの内部をその都度学習し直すわけではありません。参照する資料が回答時の根拠になります。

ファインチューニングは、追加の学習データでモデルの重みを調整する方法です。重みとは、モデル内部にある計算上の数値です。特定の形式や振る舞いへ寄せたい場合などに検討されますが、最新情報の更新、権限管理、根拠表示が自動的に解決するわけではありません。

• 出典：AWS / RAG vs fine-tuning（新しいタブ）

「料金が変わる」と「返答の形をそろえる」は別の問題

架空の社内規程で、出張の宿泊費上限が12,000円から15,000円へ変わったとします。変えたいのは情報の内容です。承認済みの新版を回答時に参照させ、旧版を通常の検索対象から外す方法が考えやすくなります。

一方、情報は合っているのに、毎回長文になってしまい、社内の「結論・根拠・確認待ち」という形式へそろえたいとします。最初に指示と見本で調整し、それでも大量の同種作業で課題が残る場合に追加学習を検討します。

両方が必要なケースもあります。形式を調整したモデルへ、最新規程を検索して渡す構成です。ただし、組み合わせれば運用対象も増えるため、初めから両方を作る理由はありません。

RAGは、検索で根拠を落とすと答えも崩れる

資料を登録しただけで正しく検索されるとは限りません。通常上限の段落だけ取り出し、例外地域の段落が抜ければ、回答は間違います。新旧の規程を同じ重みで検索してしまう問題もあります。

このため、AIの最終回答より前に、検索された資料とその版を確認します。必要な条文が検索結果に入っていないなら、指示文だけ直しても根本の対処になりません。資料の分割、検索条件、権限や版の絞り込みを見直します。

追加学習は、間違った見本も覚えさせかねない

学習用のデータへ、矛盾した正解や古い対応方針が混ざっていると、望んだ方向へ改善するとは限りません。データを作る作業、品質確認、学習後の評価、更新時の運用まで含めて検討します。

特に、学習に使った例へ正しく答えられることと、初めての入力へ正しく答えられることは別です。学習用と評価用のデータを分け、追加学習前の指示だけの方法とも比較してください。既定モデルで十分なら、維持する仕組みを増やす必要はありません。

同じ規程で、通常・例外・未記載を確かめる

評価用に、通常の宿泊上限、指定地域の例外、規程にない海外出張の三つを用意します。答えだけでなく、参照した条文と、未記載の条件を勝手に補わないことを確認します。以下は構成選定用の架空の確認表です。

判断材料は、費用と更新の手間まで含める

比較する費用には、モデル利用だけでなく、検索用の保存先、資料の更新、回答の監査も入ります。追加学習なら、データ整理と学習の再実行も必要です。「導入費が安い」だけで選ぶと、毎月の更新作業で困ることがあります。

検索の基礎はベクトル検索の具体例へ。資料の切り方で迷う場合はRAGのチャンクサイズで、例外条文が落ちる原因を確認できます。まだ少数の資料ならChatGPTプロジェクトから試してください。