论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
IT评测·应用市场-qidao123.com
»
论坛
›
数据库
›
分布式数据库
›
为什么大模子网站利用 SSE 而不是 WebSocket? ...
为什么大模子网站利用 SSE 而不是 WebSocket?
tsx81428
金牌会员
|
2025-3-12 01:23:24
|
显示全部楼层
|
阅读模式
楼主
主题
959
|
帖子
959
|
积分
2879
在大模子网站(如 ChatGPT、Claude、Gemini 等)中,前端通常利用
EventSource(Server-Sent Events, SSE)
来与后端对接,而不是
WebSocket
。这是由于 SSE 更适合类似流式文本生成的场景。下面我们具体对比
SSE、WebSocket 和其他可选方案
。
1. SSE(Server-Sent Events,服务器发送事件)
特点:
单向通讯
(服务器 → 客户端),实用于大模子输出流式文本的场景。
基于 HTTP/1.1 及 EventSource API
,兼容性较好,易于集成。
自动重连
,如果毗连断开,浏览器会自动实验重新毗连。
轻量级
,开销小,适合传输文本数据。
缺点:
只支持
服务器推送
,客户端无法主动发送消息(必要用 AJAX/Fetch 结合)。
受
同源策略
影响,跨域时必要 CORS 配置。
在
HTTP/2 之前,SSE 只能打开 6 个毗连
(浏览器限制),但在 HTTP/2 上可复用单毗连,题目减小。
实用场景:
✔
流式返回
(如 ChatGPT 逐字输出)
✔ 服务器向前端持续推送数据(如股票行情、日志监控)
2. WebSocket
特点:
全双工通讯
,客户端和服务器可以随时相互发送数据。
基于 TCP,独立于 HTTP
,但通常通过 HTTP/HTTPS 协商(ws:// 或 wss://)。
低延长
,实用于高频交互(如及时聊天、游戏、协作编辑)。
缺点:
毗连管理复杂
(心跳检测、断线重连、负载平衡较难)。
署理/防火墙兼容性题目
,某些企业网络可能会制止 WebSocket。
服务器资源占用更大
,必要维护长毗连,占用线程/内存。
实用场景:
✔
双向及时交互
(如在线协作、弹幕、游戏匹配)
✔
低延长高频数据更新
(如金融生意业务、物联网)
为什么大模子网站不用 WebSocket?
WebSocket 实用于双向通讯
,而
大模子的输出是“流式”文本,客户端只需接收数据
,WebSocket 的优势无法体现。
WebSocket 必要额外的
毗连管理
,而 SSE 依靠于现有的 HTTP 毗连,更易集成。
3. HTTP 长轮询(Long Polling)
特点:
客户端发送请求,服务器
保持毗连不返回数据
,直到有新数据才返回。
客户端收到数据后立即发送新的请求,模拟流式通讯。
兼容性极好,所有 HTTP 服务器都支持。
缺点:
请求开销大
,每次返回数据后都必要重新创建 HTTP 毗连,浪费资源。
延长较高
,如果服务器没有数据,客户端必须定期请求,服从低。
4. gRPC(基于 HTTP/2 的流式通讯)
特点:
双向流式通讯
(客户端和服务器都可以持续发送数据)。
基于 HTTP/2
,性能较好,可在单个毗连上多路复用请求。
实用于微服务通讯
,比 REST API 更高效。
缺点:
浏览器原生不支持
,必要利用
gRPC-Web
署理转换。
复杂度高
,部署比 SSE/WebSocket 难。
总结:哪种方式适合大模子前端?
方案
是否实用于大模子流式返回?
特点
实用场景
SSE(EventSource)
✅
最佳选择
服务器 → 客户端单向推送,轻量、自动重连
流式输出(ChatGPT)
、及时通知
WebSocket
❌ 过分计划双向通讯,低延长,复杂毗连管理聊天、游戏、协作编辑
长轮询(Long Polling)
❌ 开销大兼容性强但服从低,每次数据返回后需重新请求旧系统支持
gRPC(HTTP/2 流)
❌ 必要署理双向流式,高性能,浏览器需 gRPC-Web微服务、API 交互
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
0 个回复
正序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
发新帖
回复
tsx81428
金牌会员
这个人很懒什么都没写!
楼主热帖
【pandas小技巧】--读取多个文件 ...
【参考】开发工程师职级与职级界定-职 ...
【毕业季】纸短情长,浅谈大二以前的学 ...
mysql修改表字段长度
读SQL进阶教程笔记06_外连接
kubernetes之镜像拉取策略ImagePullSec ...
MySQL与Redis数据双写一致性工程落地案 ...
BinaryBombs(二进制炸弹实验) ...
Apple应用证书申请流程
计算机系统装配与集成实验
标签云
运维
CIO
存储
服务器
浏览过的版块
程序人生
前端开发
鸿蒙
快速回复
返回顶部
返回列表