【大模型服务平台百炼】模型观测能力升级
Aug 25, 2025
大模型服务平台百炼模型观测是百炼官方提供的模型监控能力,你可以通过这个功能查看调用记录、Token消耗、性能指标,含Token延时、调用时长、RPM(每分钟调用次数)、TPM(每分钟消耗Token数)及失败率等。
变更内容
本次模型观测的功能升级,主要提升了以下体验:
- 在单个模型的监控详情中,调用统计改成了分时统计逻辑,包括调用次数、失败次数、失败率、调用量等。支持用户自定义时间精度(按小时/天)。
- 优化了普通监控和高级监控图表:
- 增加了失败信息,包括 4xx、5xx、限流、内容拦截等关键错误信息(注意:仅高级监控可点击查看失败详情)。
- 优化调用量指标图表显示,支持同时显示全部、输入、输出、缓存等多项指标,无需手动切换。
- 新增平均输入与输出 tokens 量图表,支持平均输入 tokens 和平均输出 tokens 两个指标的展示和对比。
变更影响
2025-08-22 该功能上线后,开发者现可通过访问百炼控制台-模型-模型观测体验升级更新后的模型观测能力。