Tech
[分享发现] 在线体验 16K token/s 的新大模型部署架构
在 HN 上看到 AMD 收购那家把模型权重烧到芯片里的 taalas 的消息, 考虑到 gpt 5.6 相比 gpt 5.5 实际体验并没有多在的改进, 感觉或许把权重烧到芯片里, 没准是条路子 帖子里有他们的模型架构体验接口, 自己试了下, 16k token/s, 不敢想象要是有 gpt5.5 这样的模型这么快, 体验得多么好了 https://chatjimmy.ai/
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX