有时会有诸如实时刷新,实时显示的场景,我们往往是客户端定时发起请求,不断的尝试获取最新的数据。
但是每次请求都会创建并释放一个新的连接,这样对于需要频繁请求的场景,性能损耗太大,此外对于实时性响应的场景也很难评估轮询周期。轮询的周期短,很多查询结果其实并没有变化,增加了成本开销。轮询周期长,又不能实时的展示数据,周期值变成了一个经验值,而且不同场景都需要不断的调整。这属实不够友好。
于是http1.1协议对此进行了扩展,允许长连接的存在。今天要介绍的SSE协议,就属于http1.1下的新协议。
SSE全称为 Sever-Sent Event
指服务器端事件发送。当客户端请求成功后,服务端会依次将事件(其实就是响应信息),分多次发送到客户端。客户端只要接收事件(响应信息),做出相应的处理即可。
就像下图的样子:
ai大模型流式输出——基于SSE协议的长连接实现
未经允许不得转载:小狮博客 » ai大模型流式输出——基于SSE协议的长连接实现
相关推荐
- 关于我在驱动orangepi-r1-plus-lts的i2c0接口时遇到的问题
- Qwen-Image2.1游戏素材工坊:把整套素材拼成”模拟游戏画面”逐张体检 (二)
- 理解 iFrame 嵌套的跨域问题
- MQTT实战 – .NET + MQTT生产级架构:从500个设备到50,000个设备(九)
- 【重投】P1514 [NOIP 2010 提高组] 引水入城 笔记
- 我花200美元用AI重写了纯C#高精度数学库:放大 10^290 倍也不糊
- 面了 50 个候选人,90% 都挂在 LeetCode 3 无重复字符的最长子串:滑动窗口的 5 个致命坑
- 别再手动催 AI 干活了:一文读懂 Loop Engineering(循环工程)
小狮博客