Tech
[OpenAI] 分享一个自制的 Token 计数器:精确计数 + 22 家大模型上下文/价格对比,纯前端本地运行
起因是平时估 prompt 大小老要搜各种“字数转换”,要么不准,要么不知道用的哪套分词器,就自己写了一个,单文件纯前端:
https://tliens.github.io/TokenLens/
功能:
Token 精确计数:用 OpenAI 官方分词器( o200k / cl100k ),和 GPT-5/GPT-4o 官方计数一致
其他厂商( Claude / Gemini / DeepSeek / Qwen / GLM / Kimi / Grok 等 22+ 模型)按经验系数估算,界面明确标了“精确 / 估算”徽标
上下文窗口对比:柱状图上标出你这段文本在每个模型上下文里的位置,超限直接标红
成本对比:这段文本作为一次输入各花多少钱 + 每百万 token 单价
模型和价格在线同步 LiteLLM 开源数据库,可手动刷新,断网有内置兜底
中英双语,深色模式
实现:单 HTML 文件,无框架;分词用 js-tiktoken ( CDN 加载 o200k/cl100k 词表),模型数据 fetch LiteLLM 的 JSON 。文本全程...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX