Tech
[DeepSeek] DeepSeek V4.1 Flash 正式发布
参数量是 552B ,看起来是重新预训练的模型,benchmark 看起来很棒。 “新一代模型大幅减少了 KV Cache 缓存的大小,与上一代模型相比,对 HBM 的需求减少到 1/4 ,对 SSD 的需求减少到 1/8 。在 Agent 使用场景中,缓存命中的费用往往占比较高,对 KV Cache 的压缩大幅降低了 Agent 类任务的使用成本。” 不知道用了什么黑科技,降价也是因为成本降了。 “我们将会全力支持开源社区进行新模型的推理适配,并尝试通过各种方式扩大部署的范围。如果您有大规模部署的需求且具备相应的资源( 2k 卡 GPU 、有存储集群),欢迎与我们联系。” 帮忙做适配🤣 公众号原文: https://mp.weixin.qq.com/s/qg0NU3NNUbp1co2PdkAPAg 模型开源链接: https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash 论文链接: https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash/blob/main/D...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX