azure-ai-contentsafety-ts

azure-ai-contentsafety-ts 技能概览

azure-ai-contentsafety-ts 能做什么

azure-ai-contentsafety-ts 技能帮助你使用 Azure AI Content Safety 的 TypeScript 接口分析文本和图像中的有害内容。它很适合需要一份实用的 azure-ai-contentsafety-ts 指南来处理内容审核工作流的场景，包括仇恨、暴力、色情、自伤，以及基于 blocklist 的策略检查。

适合谁安装

如果你正在 Azure 中构建或审计 UGC 流水线、审核队列、聊天安全过滤器或媒体接入检查，就应该安装 azure-ai-contentsafety-ts。它尤其适合做 azure-ai-contentsafety-ts for Security Audit 的团队，因为目标是验证更安全的处理方式，而不只是简单调用模型。

这个技能为什么不一样

这是一种 REST 客户端技能，不是通用的 prompt 模板。最关键的判断点是认证和 endpoint 配置：ContentSafetyClient 是一个函数，技能要求你提供 Azure endpoint，以及 API key 或 Azure credential 流程。这让 azure-ai-contentsafety-ts skill 更偏向部署集成，而不是普通的“让模型分类内容”的提示词。

如何使用 azure-ai-contentsafety-ts 技能

安装并确认包是否可用

按照技能里给出的发布安装路径执行：npm install @azure-rest/ai-content-safety @azure/identity @azure/core-auth。如果你正在评估 azure-ai-contentsafety-ts install, 先确认你的项目已经支持 Azure SDK 的 TypeScript 包，并且能够安全存放密钥。

先读对文件

先从 SKILL.md 开始，再结合你应用里的配置和密钥管理方式确认包的预期用法。这里最有价值的信息是环境变量约定和认证模式，所以在写集成代码前，优先看 CONTENT_SAFETY_ENDPOINT、CONTENT_SAFETY_KEY 以及任何 credential 配置。

把粗略目标转成可用输入

一条高质量的 azure-ai-contentsafety-ts usage 请求应该明确：你要检查什么内容，输入是文本还是图片，你希望得到什么策略结果，以及结果会用在什么地方。比如，与其说“检查这段文本”，不如说“扫描用户资料简介中的色情或仇恨内容，并返回审核决策和原因码”。

按 SDK 预期的流程来用

把这个技能当成一次 API 集成任务：先认证，再发送单次审核请求，解释返回结果，然后把结果映射到你应用里的审核逻辑中。为了得到更好的结果，可以说明你用的是 API key 认证还是 DefaultAzureCredential，代码是本地运行还是生产环境运行，以及除了内容分类评分之外是否还需要 blocklist 流程。

azure-ai-contentsafety-ts 技能 FAQ

azure-ai-contentsafety-ts 只能做文本审核吗？

不是。azure-ai-contentsafety-ts 技能同时覆盖文本和图像分析，也支持可定制的 blocklist。如果你的问题是更广义的内容安全策略执行，它比只处理文本的 prompt 更合适。

使用前需要先做好 Azure 认证吗？

需要。这个技能默认你已经有一个 Azure AI Content Safety 资源，并且可以完成认证。如果你无法提供 endpoint 和凭据，集成会在产生任何有用的审核结果之前卡住。

对新手友好吗？

如果你能跟着 TypeScript SDK 的配置步骤走，并且会管理环境变量，它就算友好。但如果你想要的是无需代码的审核答案，那它并不理想，因为 azure-ai-contentsafety-ts usage 路径依赖真实的 Azure 配置。

什么情况下不该用这个技能？

如果你需要的是通用的内容策略头脑风暴、与厂商无关的审核方案，或者只能离线运行的分类器，就不要用它。你的应用如果不能暴露 Azure 凭据，或者根本不需要图文安全评分，也不适合用它。

如何改进 azure-ai-contentsafety-ts 技能

给模型的是策略形状，而不只是内容本身

当你明确产品里“什么算不安全”时，效果会更好。在 azure-ai-contentsafety-ts for Security Audit 中，加入目标场景、你关心的风险类别、决策阈值，以及任何应触发升级处理的 blocklist 词语或短语。

提供具体输入和预期输出

糟糕的请求是“帮我审查这段内容”。更好的说法是“扫描这条评论，按仇恨和色情内容分类，并返回应自动发布、进入人工队列还是直接拒绝”。这类输入能改进 azure-ai-contentsafety-ts usage，因为它给出了决策边界和输出格式。

注意认证方式和运行环境是否匹配

最常见的失败模式，是把本地和生产环境的凭据模式混在一起。如果你用 DefaultAzureCredential，要说明这是本地开发还是已部署基础设施，并确认所需的 AZURE_TOKEN_CREDENTIALS 设置。若使用 API key 模式，一定要写清楚 endpoint 和密钥来源。

从审核结果迭代到产品规则

第一次运行后，要根据误报、漏报或缺失标签来调整请求。可以改成更窄的检查、更清晰的解释，或者优化 blocklist，而不是重写整个集成。这样是让 azure-ai-contentsafety-ts skill 在真实工作流中变得更可靠的最快方式。