OpenAI 成本优化

使用OpenAI模型时，可以通过多种方式降低成本。费用与延迟通常相互关联：减少词元和请求，往往也能加快处理。Batch API与Flex处理还提供了其他降本途径。

成本与延迟

可考虑以下策略：

• 减少请求：降低完成任务所需的API调用次数。
• 减少词元：压缩输入，并优化提示词以获得更短的输出。
• 选择较小模型：在维持所需准确性的前提下，平衡模型费用与延迟。

进一步的方法见延迟优化。

Batch API

Batch API异步处理作业。先将多条请求收集到一个文件，启动批处理，再在后台执行期间查询状态，完成后统一取回结果。它适合无需即时响应的工作。

开始使用Batch API。

Flex处理

Flex以更慢的响应和偶尔资源不可用，换取较低的Chat Completions或Responses请求费用，适合非生产或较低优先级任务，例如模型评测、数据补充和异步工作负载。

开始使用Flex处理。