Tech
[分享发现] 🔥 消失九个月,我带着三个开源项目杀回来了
兄弟们,好久不见。今天回来,直接上硬货——三个我亲手打磨的开源项目,全部开源,全部可用,全部欢迎来喷。
项目一:OmniStudio
一句话:一个把模型下载、三引擎推理、对话/语音/生图/视频/OCR 揉进同一个窗口的本地大模型万能工作台。解决什么:本地跑模型这件事被拆得太碎了。下载在这、llama.cpp 在那、vLLM 另开一摊,对话、TTS 、ASR 、生图还要各自配一套。我受不了这种「装完引擎才刚开始干活」的体验,所以做了一个本地优先、选完就能用的一体化桌面工作台。核心特性:
模型市集一键搜、下、管:GGUF / safetensors 全格式,断点续传,首次引导直接拉 Qwen 就能聊
llama.cpp / vLLM / SGLang 三引擎统一管理 + 本地网关,一套接口同时给对话、Agent 、外部工具用
对话、语音、生图、视频、音乐、OCR 、翻译、知识库、共享记忆、Skills 全在一个工作台里,云端 API 也能接进来当后备
技术栈:TypeScript + Bun ,桌面端本地优先,MIT
仓库: https://github....
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX