分享AI实践与思考
入门
上手
教程
基础
概念解释
Microsoft Foundry
开发工具
操作指南
参考
治理与网络
工具与知识
概念解释
操作指南
Agent Service
总览
概念解释
Azure OpenAI
API 与开发
总览
Azure AI Search
权限与安全
参考
检索概念
概念解释
快速上手
教程
Foundry Tools
其他与已退役
总览
概念解释
RAG 与知识工程
智能体与工具
MCP 与 Skills
操作指南
基础
评测、观测与安全
安全
评测
概念解释
参考
企业架构与成本
解决方案场景
样例与学习资源
附录
语音 agent
本页说明如何在 Foundry Agent Service 中创建语音提示词智能体(voice-based prompt agent),并在门户中完成一次语音会话,适用于已经了解智能体基本概念的读者。
适用场景
- 需要实时口语交互,例如客服、呼叫中心或语音助手。
- 不想自己托管语音识别、回合检测与语音合成的编排服务。
前提
- 一个 Foundry 项目,并且对项目具有 Foundry User 角色。
- 项目可用的语音模型(官方示例为 gpt-realtime),在项目的“模型”页面确认。
- 订阅已获得语音提示词智能体的预览访问权限,并确认项目所在区域支持该预览。
- 门户路径:支持麦克风与扬声器的浏览器。SDK 路径:Python 3.10 或更高版本,并已
az login。
步骤(门户)
- 登录 Microsoft Foundry 门户,打开目标项目的“智能体”页面。
- 选择“构建智能体”(Build an agent),输入唯一的智能体名称。
- 在“交互模式”中选择“语音”。注意:创建后不能更改交互模式。
- 选择一个用例,用于生成默认指令。
- 选择“创建智能体并打开 playground”。
- 在 playground 中审阅并修改指令,检查模型、音频与工具设置。
- 保存并启动会话,用麦克风完成一轮对话,确认能听到语音回复。
步骤(SDK,Python)
- 安装
azure-ai-projects(官方示例要求 2.8.0 或更高版本)。
- 创建
AIProjectClient时设置allow_preview=True。
- 通过
beta.voice_agents管理语音会话与会话记录;标准的agents接口创建语音定义时同样需要allow_preview=True。
- 按需选择示例:自然语言生成定义、显式定义,或使用自带模型的部署。
配置项
配置项 | 说明 |
指令(Instructions) | 定义智能体的行为与话术 |
AI 模型 | 原生语音模型或文本模型加语音链路;可用托管模型,也可用符合条件的自部署模型 |
音频 | 官方说明默认为 24 kHz PCM 输入输出,具体以门户为准 |
转写与语言 | 通过 Foundry Tools 中的 Speech 完成转写,可配置语言与短语列表 |
语音与头像 | 选择语音;头像仅在浏览器中提供视觉输出 |
回合检测 | 决定何时判定用户说完 |
工具 | 与文本智能体相同,可添加工具 |
预期结果
- 门户 playground 中能完成语音对话。
- 对话结束后,可在追踪或监控中看到语音会话的记录(需已连接 Application Insights)。
常见问题
现象 | 可能原因 | 处理 |
交互模式中看不到“语音” | 预览未在该项目、资源、订阅或区域开通 | 确认预览可用性 |
模型列表为空 | 资源权限、区域或模型可用性不满足 | 检查权限与区域,刷新页面 |
无法启动会话 | 浏览器未授权麦克风 | 在浏览器中允许麦克风访问 |
渠道与限制
- 电话渠道:官方支持 Teams Phone 可扩展性与 Twilio 电话号码;官方说明目前不把直接 SIP 作为受支持的客户流程。
- 头像:通过 WebRTC 在浏览器中输出画面,电话呼叫者只能听到音频。
- 评测:目前支持对已有完整会话进行评测;单轮评测与模拟会话评测不支持。
- 预览:语音智能体为预览功能,官方称不提供 SLA,不建议用于生产负载。
- 区域、模型、语音、定价与电话渠道的可用性:待核实(2026-11-05 获取)。
来源与核对
- 来源:Quickstart: Create a voice-based prompt agent(https://learn.microsoft.com/en-us/azure/foundry/agents/quickstarts/prompt-voice-agent)
- 来源:What is Microsoft Foundry Agent Service?(https://learn.microsoft.com/en-us/azure/foundry/agents/overview)
- 核对范围:正文已读(快速入门的前置条件、门户步骤与排错表已读,SDK 示例已读其结构;概述页的语音章节已读)。定价与各语言的完整代码未逐条核对。
上一篇
Toolbox 与工具
下一篇
部署 hosted agent(azd)
Loading...