月明的文档中心 分享AI实践与思考
入门
上手
教程
基础
概念解释
Microsoft Foundry
开发工具
操作指南
参考
治理与网络
工具与知识
概念解释
操作指南
Agent Service
总览
概念解释
Azure OpenAI
API 与开发
总览
Azure AI Search
权限与安全
参考
检索概念
概念解释
快速上手
教程
Foundry Tools
其他与已退役
总览
概念解释
RAG 与知识工程
智能体与工具
MCP 与 Skills
操作指南
基础
评测、观测与安全
安全
评测
概念解释
参考
企业架构与成本
解决方案场景
样例与学习资源
附录
内容安全快速开始
本教程调用 Analyze text 接口，检测一段文本在仇恨、性内容、暴力与自伤四个类别上的严重度。也可以先在 Foundry 门户的 Try it out 页面试运行，不写代码。
前置条件
项目 | 要求 | 备注 |
Azure 订阅 | 已有订阅 | 页面所述 |
Content Safety 资源 | 在支持区域创建，选择定价层（F0 或 S0） | 区域列表待核实（2026-11-05 获取） |
角色 | Cognitive Services User 或更高 | 页面所述 |
工具 | cURL（REST 路径）；或 Python 3.x 与 pip（SDK 路径） | 页面同时提供 C#、Java、JavaScript 与 TypeScript 示例 |
步骤（REST）
- 在 Azure 门户创建 Content Safety 资源，部署完成后进入资源。
- 在左侧“资源管理”下打开“Subscription Key and Endpoint”，复制终结点与任一密钥。
- 修改 cURL 命令：把
<endpoint>替换为终结点，把<your_subscription_key>替换为密钥，并可修改请求体中的text。
- 向
<endpoint>/contentsafety/text:analyze?api-version=2024-09-01发送 POST 请求（页面示例版本，版本是否为当前版本待核实）。
- 阅读返回 JSON 中的
categoriesAnalysis。
请求体字段：
字段 | 必填 | 说明 |
text | 是 | 待检测的文本，支持非 ASCII 字符 |
categories | 否 | 类别数组；不填则检测全部四类（Hate、Sexual、SelfHarm、Violence） |
blocklistNames | 否 | 文本黑名单名称数组，名称仅支持字母、数字与 - . _ ~ |
haltOnBlocklistHit | 否 | 为 true 时命中黑名单即停止后续有害内容分析 |
outputType | 否 | FourSeverityLevels（严重度 0/2/4/6）或 EightSeverityLevels（0 到 7） |
预期结果
返回示例（页面示例，严重度为示例值）：
类别 | 严重度 | 含义 |
Hate | 2 | 检测到低等级仇恨相关内容 |
SelfHarm | 0 | 安全 |
Sexual | 0 | 安全 |
Violence | 0 | 安全 |
严重度越高表示内容的危害越严重。页面的 SDK 示例输出同样为各类别的严重度数值。
另一种路径：Foundry 门户
- 打开 Microsoft Foundry 门户，进入项目，选择左侧导航中的“Guardrails + controls”，再打开“Try it out”。
- 选择“Moderate text content”，输入文本或选择示例，点击“Run test”。
- 结果会列出命中的类别与严重度，并给出 Accepted 或 Rejected 结论；“Configure filters”页签可设置各类别的允许与禁止级别。
- 通过“View Code”可复制配置后的示例代码。
常见问题
现象 | 处理 |
请求被拒绝（认证相关错误） | 检查密钥是否来自当前资源，以及账号是否具备 Cognitive Services User 角色；具体错误码待核实 |
文本过长被拒绝 | 参照概览页的输入要求，上限数值待核实 |
不想在代码中写入密钥 | 页面建议把密钥放在环境变量或 Azure Key Vault 中，不要硬编码或公开提交 |
示例文本含冒犯性内容 | 页面提示样例数据可能包含冒犯性内容，请谨慎使用 |
清理资源
删除不再使用的 Content Safety 资源或资源组。具体步骤本页未核对，待核实。
来源与核对
- 来源：Quickstart: Analyze text content（Microsoft Learn，https://learn.microsoft.com/en-us/azure/ai-services/content-safety/quickstart-text）
- 核对范围：正文已读。本页核对了门户路径、REST 前置条件、请求与输出字段，以及 C#、Python、Java 段的步骤与输出；JavaScript 与 TypeScript 段仅作为页面存在的说明，未逐段核对。
- 获取日期：2026-11-05。
上一篇
检测与阻止策略
下一篇
内容安全概览
Loading...