成本优化

控制成本的关键不是只看单次价格，而是同时减少无效请求、过长上下文、过长输出和重复调用。

如何优化 API 调用成本？

建议优先从这些方面入手：

• 选择适合任务复杂度的模型；简单分类、提取、改写任务不一定需要最高成本模型。
• 合理设置 max_tokens 或输出长度限制，避免无边界生成。
• 只发送必要上下文，移除重复说明和无关历史。
• 监控请求量、扣费金额和各模型消耗占比，及时发现异常消耗。
• 对瞬时网络问题使用退避重试，但避免无限重试。

流式响应能降低成本吗？

流式响应主要改善用户体验，让客户端更早看到输出，也能在发现结果不符合预期时提前中断请求。但它不天然减少 token 成本；最终费用仍取决于实际输入、输出和模型计费规则。

哪些指标最值得关注？

建议持续关注：

• 各模型请求量和费用占比
• 平均输入 token 与输出 token
• 单个功能模块的平均调用成本
• 长上下文请求占比
• 余额或账单的异常波动

如果成本突然上升，优先排查是否出现了重复调用、上下文无限增长、输出长度失控或模型误选。