Tech
[问与答] 给公司同事搭的中转 TTFT 延迟也太高了，怎么优化，没有思路
跟公司同事一起拼了个 gpt pro x20, 打了个 sub2api 中转，目前用起来就是这个指标有点差，首 token 很慢，求教怎么优化
直接是部署在一个美国 CN2 的服务器，服务器 ping 延迟在 160ms 左右
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX