容量规划

容量规划是在需求预测、使用模式与计费模型之间做权衡,决定资源预留多少、何时扩缩、采用哪种承诺方式的过程。它是成本模型的输入,也是避免过度预配与容量不足的手段。

为什么需要

  • 生成式 AI 负载的成本与请求量、上下文长度、工具调用次数相关。参考架构页面明确指出,非确定性的工具调用可能带来不可预测的费用。
  • 成本优化不等于低成本。Well-Architected 成本支柱的原则页强调,应围绕业务目标与投资回报设计,并避免为规划增长之外的容量买单。
  • 容量不足会影响延迟与可用性,过度预配则降低投资回报。规划的目标是两端之间的平衡。

核心概念

概念
含义
说明
工作负载评估
分析组件、稳定性、可预测性与需求
包括性能、扩展、备份、灾难恢复等要求
使用模式
稳定、可预测或突发
决定适合哪种折扣或计费模型
成本驱动因素(cost driver)
直接影响成本的变量
如请求量、客户数、存储容量
计量表(cost meter)
按用量记录的计费单元
如计算时长、数据传输、I/O 次数
动态伸缩
维持基线容量,按需扩张
避免为峰值长期预配
承诺型折扣(reservation)
对可预测用量预付以换取折扣
折扣比例待核实(2026-11-05 获取);灵活性下降
按量付费(consumption)
用多少付多少
用量不高或不确定时可能更合适
固定价格计费
用量高且可预测、且有可比 SKU 时使用
通常更省,且功能可能更多

计费模型对比

模型
适合的场景
主要风险
按量付费
早期试验、用量波动大
长期单价可能高于承诺型;工具调用放大时费用难以预测
承诺型
基础用量稳定、可预测
需要较准确的预测,否则资源闲置
固定价格
高且稳定的利用率,且有可比选项
需确认 SKU 与功能是否对应
Spot 定价
可中断、容错的任务
页面仅列为计费模型之一,本页未展开,待核实

AI 工作负载的容量维度

维度
影响
处理要点
模型部署配额(如每分钟 token 或请求数)
决定并发与峰值承载
配额随模型、部署类型与区域变化,数值待核实(2026-11-05 获取),以官方配额页为准
向量索引副本与分区
影响检索延迟与可用性
参考架构建议至少 3 个 AI Search 副本,以支持区域冗余
会话存储(Cosmos DB)
随会话数与保留期增长
预留容量可降低成本,但降低灵活性;页面建议启用连续备份
出口防火墙吞吐
外呼工具调用的上限
Azure Firewall Basic 成本较低,但有吞吐限制;待核实具体限值
模型可用性与区域
决定能否按计划部署
不同区域的模型与工具支持不同,需逐区域确认

限制与待核实

  • 本页不给出配额、区域容量、折扣比例或单价数字,全部标注为待核实(2026-11-05 获取)。
  • 参考架构页面指出,Foundry 没有内置的模型部署负载均衡或熔断,容量规划需要在应用层或网关层补充。
  • 页面并未提供容量预测的具体公式,预测方法见成本估算方法页的步骤。

来源与核对

  • 来源:见 frontmatter 的 sources 列表。
  • read_scope:正文已读。成本模型与成本原则页为完整正文;参考架构页面在末尾约 7000 字符处截断,AI 相关容量信息仅采用已读部分。
上一篇
成本估算方法
下一篇
安全基线
Loading...
文章列表
分享AI实践与思考
入门
Microsoft Foundry
开发工具
治理与网络
观测与评测
工具与知识
模型与部署
Azure OpenAI
Azure AI Search
性能与基准
索引与分块
概念解释
快速上手
Foundry Tools
RAG 与知识工程
检索质量与评测
数据准备
智能体与工具
评测、观测与安全
企业架构与成本
成本与容量
架构
解决方案场景
文档与服务
知识与分析
样例与学习资源
附录