RAG 参考架构

本页说明 RAG(检索增强生成)的标准参考架构:一条在用户查询时运行的应用流,和一条为检索准备数据的数据管道。它是后续分块、向量化、检索与评测各页的总纲。

为什么需要

语言模型不了解企业私有数据。RAG 的做法是:查询时先检索相关内容,再把检索结果与问题一起放进提示词,让模型基于这些上下文作答。架构本身不复杂,但分块方式、嵌入模型、索引配置和检索方式都会显著影响结果,需要按阶段设计和评估。

核心概念

组件或阶段
职责
原文举例的实现
智能应用
接收用户问题,展示回答
企业自有应用
编排器(orchestrator)
决定何时检索、发起检索、组装提示词、调用模型
Microsoft Agent Framework、Semantic Kernel、Azure AI Agent service、LangChain
检索
在 Azure AI Search 中执行查询,取前 N 个结果
向量、全文、混合检索或多次检索
语言模型
基于提示词中的上下文生成回答
原文不限定具体模型
数据管道
分块、丰富、向量化、写入索引
推送或拉取文档
数据管道对每个文件逐一处理,四个步骤如下:
步骤
做什么
目的
分块(Chunking)
把文件切成语义相对完整的片段
每块尽量只表达一个概念
丰富(Enrich)
为块补充标题、摘要、关键词等元数据
支持过滤与检索
向量化(Embed)
用嵌入模型把块及需参与向量检索的字段转为向量
支持向量搜索
持久化(Persist)
把块写入搜索索引
供应用流检索

标准 RAG 与 Agentic RAG

维度
标准 RAG
Agentic RAG
检索决策
设计时固定,每次查询走同一条流程
代理在运行时决定是否检索、查哪个索引、检索几步
适用场景
单次检索、单一索引即可回答
多步推理、动态选择来源、运行时拆分查询、检索与动作结合
评测维度
见「RAG 评测指标」
原文提到工具选择准确率、每次请求的工具调用次数、端到端延迟,具体做法待核实

架构图

来源:Design and Develop a RAG Solution on Azure
来源:Design and Develop a RAG Solution on Azure
图中展示查询时的应用流与数据管道之间的关系。

限制与待核实

  • 原文未给出延迟、成本、并发或配额数字。这些需要按实际负载测算,本页不给出数字。
  • Agentic RAG 的评测维度与实现细节,原文只做概述,待核实。
  • 原文把标准 RAG 描述为固定顺序的流程。它不适合所有场景,选型需结合查询类型判断。

来源与核对

  • 来源:
  • https://learn.microsoft.com/en-us/azure/architecture/ai-ml/guide/rag/rag-solution-design-and-evaluation-guide
  • https://learn.microsoft.com/en-us/azure/architecture/ai-ml/guide/rag/rag-chunking-phase
  • read_scope:正文已读
  • 核对说明:正文通过网页抓取工具获取,工具返回的是整理后的文本,表格内容据此归纳。图片地址取自正文中的图片链接,未另行核对图片内容。
上一篇
企业 RAG 设计与评估
下一篇
已退役服务与迁移
Loading...
文章列表
分享AI实践与思考
入门
Microsoft Foundry
开发工具
治理与网络
观测与评测
工具与知识
模型与部署
Azure OpenAI
Azure AI Search
性能与基准
索引与分块
概念解释
快速上手
Foundry Tools
RAG 与知识工程
检索质量与评测
数据准备
智能体与工具
评测、观测与安全
企业架构与成本
成本与容量
架构
解决方案场景
文档与服务
知识与分析
样例与学习资源
附录