Tech
[Local LLM] 部署 Qwen3.8-27B 模型死循环问题最新升级
部署 Qwen3.8-27B 模型的朋友，死循环问题可以升级了。
https://huggingface.co/froggeric/Qwen-Fixed-Chat-Templates
llama.cpp 的配置参数里指定模板文件：
--jinja --chat-template-file /model/Qwen3.8-27B/chat_template.jinja --reasoning-format deepseek
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX