分享AI实践与思考
入门
上手
教程
基础
概念解释
Microsoft Foundry
开发工具
操作指南
参考
治理与网络
工具与知识
概念解释
操作指南
Agent Service
总览
概念解释
Azure OpenAI
API 与开发
总览
Azure AI Search
权限与安全
参考
检索概念
概念解释
快速上手
教程
Foundry Tools
其他与已退役
总览
概念解释
RAG 与知识工程
智能体与工具
MCP 与 Skills
操作指南
基础
评测、观测与安全
安全
评测
概念解释
参考
企业架构与成本
解决方案场景
样例与学习资源
附录
容量规划
容量规划是在需求预测、使用模式与计费模型之间做权衡,决定资源预留多少、何时扩缩、采用哪种承诺方式的过程。它是成本模型的输入,也是避免过度预配与容量不足的手段。
为什么需要
- 生成式 AI 负载的成本与请求量、上下文长度、工具调用次数相关。参考架构页面明确指出,非确定性的工具调用可能带来不可预测的费用。
- 成本优化不等于低成本。Well-Architected 成本支柱的原则页强调,应围绕业务目标与投资回报设计,并避免为规划增长之外的容量买单。
- 容量不足会影响延迟与可用性,过度预配则降低投资回报。规划的目标是两端之间的平衡。
核心概念
概念 | 含义 | 说明 |
工作负载评估 | 分析组件、稳定性、可预测性与需求 | 包括性能、扩展、备份、灾难恢复等要求 |
使用模式 | 稳定、可预测或突发 | 决定适合哪种折扣或计费模型 |
成本驱动因素(cost driver) | 直接影响成本的变量 | 如请求量、客户数、存储容量 |
计量表(cost meter) | 按用量记录的计费单元 | 如计算时长、数据传输、I/O 次数 |
动态伸缩 | 维持基线容量,按需扩张 | 避免为峰值长期预配 |
承诺型折扣(reservation) | 对可预测用量预付以换取折扣 | 折扣比例待核实(2026-11-05 获取);灵活性下降 |
按量付费(consumption) | 用多少付多少 | 用量不高或不确定时可能更合适 |
固定价格计费 | 用量高且可预测、且有可比 SKU 时使用 | 通常更省,且功能可能更多 |
计费模型对比
模型 | 适合的场景 | 主要风险 |
按量付费 | 早期试验、用量波动大 | 长期单价可能高于承诺型;工具调用放大时费用难以预测 |
承诺型 | 基础用量稳定、可预测 | 需要较准确的预测,否则资源闲置 |
固定价格 | 高且稳定的利用率,且有可比选项 | 需确认 SKU 与功能是否对应 |
Spot 定价 | 可中断、容错的任务 | 页面仅列为计费模型之一,本页未展开,待核实 |
AI 工作负载的容量维度
维度 | 影响 | 处理要点 |
模型部署配额(如每分钟 token 或请求数) | 决定并发与峰值承载 | 配额随模型、部署类型与区域变化,数值待核实(2026-11-05 获取),以官方配额页为准 |
向量索引副本与分区 | 影响检索延迟与可用性 | 参考架构建议至少 3 个 AI Search 副本,以支持区域冗余 |
会话存储(Cosmos DB) | 随会话数与保留期增长 | 预留容量可降低成本,但降低灵活性;页面建议启用连续备份 |
出口防火墙吞吐 | 外呼工具调用的上限 | Azure Firewall Basic 成本较低,但有吞吐限制;待核实具体限值 |
模型可用性与区域 | 决定能否按计划部署 | 不同区域的模型与工具支持不同,需逐区域确认 |
限制与待核实
- 本页不给出配额、区域容量、折扣比例或单价数字,全部标注为待核实(2026-11-05 获取)。
- 参考架构页面指出,Foundry 没有内置的模型部署负载均衡或熔断,容量规划需要在应用层或网关层补充。
- 页面并未提供容量预测的具体公式,预测方法见成本估算方法页的步骤。
来源与核对
- 来源:见 frontmatter 的 sources 列表。
- read_scope:正文已读。成本模型与成本原则页为完整正文;参考架构页面在末尾约 7000 字符处截断,AI 相关容量信息仅采用已读部分。
上一篇
成本估算方法
下一篇
安全基线
Loading...