Tech
[程序员] 长对话模型上下文暴增,如何压缩上下文?
基于单一长需求持续对话,模型上下文很容易跑到几十万 Token 。
背景:
模型:DeepSeek V4 Pro ( 1M 上下文)
不限额不考虑费用(公司报销),也不在乎延迟, 只追求最高质量的回复与代码准确率 。
疑问:
压缩时机: 按比例固定压缩,比如上下文到达 50%主动压缩?
压缩方式: OpenCode 的 /compact 指令是否靠谱?会丢失关键信息吗?
替代方案: 如果不压缩上下文,是自己拆分任务吗?有合适的工具或流程吗?
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX