Tech
[分享创造] 9router requestDetails 超高压缩(超过 97%)全量存储及消息体 review 审查查看分享
不知道是否有用 9router 做 AI 代理网关的,原生使用 sqlite 存储 requestDetails 会被截断,看不了完整消息感觉不方便,给它添加了个功能来存储完整消息和查看详细消息体。
压缩率非常可以,opencode 写代码,2500 次请求平均每个请求接近 500KB 了,压缩后每个请求只需要 3KB ,这磁盘占用基本全量存储已经毫无压力了,而且批量合并追加写无文件重写等导致写放大的问题。
消息体查看也挺方便的,系统提示词啥的可以直接 markdown 预览,咋调用的一看就清清楚楚了:
https://imgur.com/SM9chvk
给官方提交了 merge 还每合并
https://github.com/decolua/9router/pull/4291
想试试看看可以用镜像
sujin190/9router
需要配置环境变量 OBSERVABILITY_TIMSLITE_DATA_STORE=true 才启用,完全兼容之前版本
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX