thbcm的文章

技术专栏

ai大模型流式输出——基于SSE协议的长连接实现

thbcm阅读(98)赞(0)

有时会有诸如实时刷新,实时显示的场景,我们往往是客户端定时发起请求,不断的尝试获取最新的数据。 但是每次请求都会创建并释放一个新的连接,这样对于需要频繁请求的场景,性能损耗太大,此外对于实时性响应的场景也很难评估轮询周期。轮询的周期短,很多...

联系我们