Tech
[分享创造] [开源] Edge-Cloud Gateway:找 3~ 5 位开发者实际测试
大家好,我最近开源了一个实验性项目:Edge-Cloud Gateway 。
它位于 OpenAI-compatible 客户端与本地/云端模型之间,根据安全规则选择:
---完整请求直接上云
---本地模型选择相关原始上下文后再上云
---明确指定的受限任务使用本地模型
项目不会强制压缩请求。如果本地筛选失败、不安全或者没有产生实际缩减,就恢复完整请求。
当前 v0.1.0 已有:
--OpenAI-compatible Chat Completions
--Ollama 和通用兼容 Provider
--SSE 与工具调用透传
--路由、回退、延迟和 Token 指标
--默认离线 Mock
--399 项自动化测试
--36 个合成安全场景
--公开 CI 和 MIT 许可证
先说明:项目目前不是生产可用版本,没有客户端认证、TLS 和多租户隔离,请勿直接暴露到公网。
现在想找 3 ~ 5 位开发者实际按照 README 运行一下,主要希望了解:
安装和首次启动是否顺利;
README 有没有看不懂或缺失的步...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX