OpenAI 红队测试

红队测试通过对抗性场景发现 AI 应用的安全弱点，帮助检查系统面对恶意或意外使用方式时的表现，并补充常规评估。

只提交你拥有或已获得明确授权的资产。未经 OpenAI 明确书面许可，不得使用 OpenAI 红队测试来分析或报告第三方资产（包括开源软件）的漏洞。

使用开源 Promptfoo 开展红队测试

Promptfoo 是用于评估和红队测试的开源框架。你可以在自己的环境中运行测试，用结构化的对抗性提示词和攻击策略评估应用，发现潜在风险，并在修复后重复验证。

入门、配置和测试方法见 Promptfoo 红队测试文档。

企业服务的可用性

OpenAI Red Teaming 面向需要托管式 AI 应用与智能体红队测试的企业客户，可支持比独立本地工作流更广泛的协调、审查和报告需求。

红队测试与评估

常规评估用于衡量应用在预期使用方式下是否正确工作；红队测试则探索滥用、对抗和意外使用时可能出现的问题。两者相互补充，应共同用于构建、部署与持续改进应用。