Tech
[分享发现] 搓了一个 dsh 插件,用于统计会话的 Token 费用消耗明细
dsh 插件:Token 计费明细
大家好,最近在使用 dsh 感觉挺好玩的,我发现一个比较实际的问题:
模型请求越来越多,但很难在当前会话里快速知道:
这次请求大概花了多少钱?
当前会话累计费用是多少?
哪些 Token 命中了缓存?
不同模型、不同阶段的费用如何比较?
重启 dsh 之后,历史费用还能不能保留?
所以我做了一个本地插件:dsh-cost-meter 。
项目地址:
https://github.com/uruana33/dsh-cost-meter
npm:
https://www.npmjs.com/package/@mymeter/dsh-cost-meter
它能做什么
安装后,会在 dsh Web profile 中提供一个 Token 计费浮窗和独立的 Token 计费页面。
主要功能包括:
请求生成过程中实时显示 Token 和费用估算
最终收到 provider usage 后,用实际 usage 校正估算值
区分输入 Token (无缓存)、输入 Token ...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX