Tech
[问与答] 老哥们,预算 3w 左右想弄一套小型化本地大模型硬件,求推荐
如题,预算 3w 左右,想弄一套小型化本地大模型硬件来跑本地大模型,处理一些不能传到外网的文档的 RAG ,保证 tps 的情况下,能省电更好,目前看了华硕的 GX10 ,求问是否还有其他的推荐?
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX