最近看到一个二手/定制 AI 服务器方案： * 4× Tesla V100 SXM2 32GB * NVLink 互联 * 卖家宣传为 128GB 显存池化，类似一张 128GB 大显存卡 * 用于本地大模型、RAG 、企业私有 AI 助手 * 定制水冷，1650W 电源 想请教几个重点问题： 1. 这种 NVLink 方案在实际 LLM 推理中，真的能像一张 128GB 显存卡一样用吗？ 还是仍然需要 vLLM / llama.cpp / accelerate / tensor parallel 等框架切分？ 2. V100 现在跑 Qwen / DeepSeek / Kimi / GLM 这类模型，限制大不大？比如 BF16 、FlashAttention 、vLLM 、量化模型兼容性。 3. 如果主要用途是企业 RAG 、本地知识库、多用户小规模推理服务，这种 4× V100 32GB 还值得买吗？ 还是 RTX 4090 / 5090 / 3090 多卡更合适？ 4. 买之前应该让卖家跑哪些测试？目前想到： * nvidia-smi * n...