Tech
[程序员] 云端厂商云端托管的 Agent,一般都是什么场景在用?
今天有一个面试,被问到你们的大模型调用是离线的还是联网的,整场回答中我不知所云,完全 Get 不到他的点。
直到快聊完了,我把我们的整体架构顺了一遍,讲了下 Agent 核心逻辑( LLM + loop + function ),然后他说“哦,就是 sdk 吧!”。好家伙,我到快结束才反应过来,他搞了半天问的是云端全托管 Agent, 什么大模型离线和联网调用,啥玩意。刚开始我问是不是指本地部署大模型和大模型厂商远端 api?
远端托管的 Agent 应该定制化都很差吧,实在想不到开发场景?在我认知都是使用比较熟悉的第三方框架实现的。
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX