Tech
[问与答] 公司私有化部署大模型
公司有点规模,搞了几千万预算部署了一些国产开源大模型,然后流程上要求高敏业务的智能体必须使用本地化模型。
从技术的角度讨论下看,这个事还能继续走下去吗?
已知的问题:
1.不如云厂商提供的模型兼容性好
2.偶尔还有 bug ,比如 tool call bug
3.这个预算碰到 k3 这种模型根本部署不起
还会有什么问题?你怎么看?
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX