EngineeringRAGLLMEvaluation
連載「RAG実践ガイド」— RAGを「作れる」から「診断・改善できる」へ
RAG(Retrieval-Augmented Generation)のチュートリアルは世の中に溢れている。LangChainやLlamaIndexを使えば、PDFに質問できるチャットは半日で動く。しかし実務で価値が出るのはそこからだ。
- 検索精度が悪いとき、どこを見るのか
- Chunk sizeをどう決め、その判断をどう説明するのか
- 「改善した」ことをどう数値で証明するのか
この連載では、単に「RAGを実装できる」ではなく、設計判断を説明でき、精度劣化を診断し、改善を数値で証明できる状態をゴールに置く。8回に分けて、理論と実装・実験をセットで進めていく。
この連載で答えられるようになる質問
連載を終えたとき、次の質問に自分の言葉で答えられる状態を目指す。面接でも顧客との会話でも、RAGの実力はこういう質問で測られる。
- なぜRAGを使うのか?Fine-tuningとの違いは?
- Chunk sizeをどう決める?
- Retrievalの精度が悪いとき何を見る?
- Vector SearchとBM25をどう使い分ける?Hybrid Searchはなぜ効く?
- Rerankerはどこに入れる?RecallとPrecisionのトレードオフは?
- Hallucinationをどう測る?
- RAGの品質改善をどう証明する?
- 本番環境でLatency/Costをどう抑える?
連載の構成
| 回 | テーマ | 内容 |
|---|---|---|
| 第1回 | RAGの原理 | なぜRAGが成立するのか。最小構成のRAGをフレームワークに頼らず実装する |
| 第2回 | EmbeddingとVector Search | 埋め込み空間・ANN・HNSW。Embeddingモデル比較をRecall@5で定量化する |
| 第3回 | Chunking | Chunk size実験(200/500/1000)。粒度と文脈のトレードオフをデータで確認する |
| 第4回 | Retrievalの本格化 | Dense/Sparse/Hybrid Search、RRF、Metadata Filtering。Dense検索が失敗するケースの再現 |
| 第5回 | Reranking | Cross Encoderによる2段構成。RetrieverはRecall重視、RerankerはPrecision重視という役割分担 |
| 第6回 | RAG Evaluation | Golden Datasetの構築と、Retrieval / Generation品質の分解評価 |
| 第7回 | Advanced RAG | Query Rewriting、HyDE、Self-RAG、Corrective RAG。検索を一発で終わらせない設計 |
| 第8回 | Production RAG | Terraformによる IaC、Observability、Cost/Latency監視。「デモ」を「システム」にする |
最終成果物
連載を通して「社内PDFに質問できるチャット」で終わらせず、Technical Support RAG Platform を一本完成させる。
Manual / Design Doc / GitHub Issues
FAQ / Incident Report / API Documentation
↓
RAG
↓
Technical Support Assistant
たとえば「Cloud Run deployment fails with a health check error. What should I investigate?」という質問に対して、回答だけでなく次まで表示する。
Answer
Sources
- runbook.md
- incident-042.md
- cloud-run-guide.md
Retrieval Debug
Top1 0.91 / Top2 0.84 / Top3 0.77
Evaluation
Faithfulness: 0.94
Context Recall: 0.90
ここまで作れば、RAGを呼び出しただけではなく、検索・評価・改善・運用まで理解していることを成果物で証明できる。
進め方 — 1日60〜90分の型
各回は1週間を想定している。毎日の学習は次の配分を推奨する。
20分:理論 → 40分:実装 → 20分:実験 → 10分:自分の言葉で説明
最後の10分が特に重要だ。たとえば「なぜChunkを大きくしすぎるとRAG品質が落ちるのか」を、資料を見ずに説明してみる。説明できない部分が、理解できていない部分そのものになる。
第1回はRAGの原理 — なぜ検索で幻覚が減るのかから。