Tech
[Local LLM] 2 台 DGX Spark 上运行的本地 LLM 横向对比
有三个模型能跑
过去一周 flash 模型集体更新:
Qwen3.8-Flash-Next
GLM-5.3-FLash
DeepSeek-V4-Flash-Vision-Exp(之前没有 Vision)
比较幸运的是这几个模型刚刚好都能在两台 DGX Spark 上面跑起来,直接爽吃。
横向比较
在这三个模型里面来回切换了好多次,说一下使用体验:
速度层面:
Qwen3.8-Flash-Next > DeepSeek-V4-Flash-Vision-Exp > GLM-5.3-FLash
代码质量:
GLM-5.3-FLash > DeepSeek-V4-Flash-Vision-Exp > Qwen3.8-Flash-Next
图形理解:
GLM-5.3-FLash > Qwen3.8-Flash-Next > DeepSeek-V4-Flash-Vision-Exp
比较细节的是 GLM-5.3-FLash 有两个量化版本 EXL3 和 NVFP4...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX