Tech
[Local LLM] ANTE:原生支持本地 GGUF 的 Coding Agent, Qwen3.6 27B 在 TB 2.1 跑到 56.2%
ANTE 一个运行在终端里的 Coding Agent 。使用方式类似 Claude Code / Codex ,但它从头用 Rust 编写,下载包约 15 MB ,解压后是一个没有 Node.js 、Python 等运行时依赖的单文件程序。 ANTE 可以管理 llama.cpp 的安装、GGUF 模型发现、内存预估、加载进度和服务生命周期。模型下载完成后,不需要账号、API Key 或网络,模型请求和输出都留在本机。已经在使用 Ollama 、LM Studio 、vLLM 或其他 OpenAI-compatible 服务的话,也可以直接接入。 当然,它也支持 OpenAI 、Anthropic 、Gemini 、DeepSeek 、OpenRouter 等在线模型,可以在同一个客户端里切换本地和云端模型。 一些跑 使用 Terminal-Bench 2.1 评测 ANTE 的 agent harness 。测试采用 89 个任务、每个任务 5 次,共 445 次 trial ;每次评测固定公开发布的 ANTE 版本,并提供原始 Harbor run 。 目前公开结果包括: ...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX