Tech
[程序员] 火山云 agent plan/coding plan 缓存命中无优惠
公司买了 20 多个号,但是用的飞快,根据跟官方的沟通,火山云对长对话上下文缓存命中是根本没有优惠的,每轮对话都需要对历史上下文做全量计费。
也就是说你做一个 1m 上下文的任务,你以为你的 token 消耗大概也是 1m 左右,但是实质上你的每轮对话都会对历史做完整计费。假如你做了 100 轮对话,那实质上你的 token 消耗将达到 100m ,整整多了一百倍!!!
这跟 ds 官方的计费 完全不一样!!
不要再用 agent plan 的公式来推算可以使用的量了,这是完全不准确的。实际的扣费,是跟你的会话上下文和轮次完全挂钩的。
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX