Tech
[分享创造] 分享下最近 vibe 的大模型 API 测试工具,一套 Rust+vue 同时支持服务器部署和 tauri 桌面端
最近在 M2 上折腾了一圈,Qwen 从小到大跑了一遍,但总感觉缺一个趁手的快速测试工具。用常规的对话工具感觉有点重,或者看 token/s 费劲,索性自己 vibe 了一个,还能当个 apikey 存储器,分享下
ModelApiTester — 填地址、发消息、看结果,支持是否开启上下文
核心功能:
支持 OpenAI / Anthropic / Gemini 三种 API 格式,自动适配
流式输出 + 完成后 Markdown 渲染(公式、视频都能渲染)
每条回复能看到 prefill 耗时、decode 耗时、生成速度 tok/s 、总 token 数 ,对比模型性能很直观
多模态图片上传,文件附件
内置 32 条预设提示词,8 个维度(推理/代码/数学/指令遵循/创意写作/多语言/常识/安全)快速测模型能力,点一下就填进输入框,不用每次自己想 prompt
会话和配置存 SQLite ,刷新不丢
架构上:Rust 写了一层共享 core (业务逻辑 + SQLite ),上层接两个壳 —— axum HTTP 服务器和...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX