- 下游(Downstream)：下游指 Higress 接收到请求的来源，一般是如欣赏器等客户端
- 上游(Upstream)：上游指 Higress 转发请求的目标后端服务
Higress 简介
Higress 是一款云原生 API 网关，内核基于 Istio 和 Envoy，可以用 Go/Rust/JS 等编写 Wasm 插件，提供了数十个现成的通用插件，以及开箱即用的控制台（demo 点这里）
Higress 在阿里内部为解决 Tengine reload 对长毗连业务有损，以及 gRPC/Dubbo 负载平衡能力不敷而诞生。
阿里云基于 Higress 构建了云原生 API 网关产品，为大量企业客户提供 99.99% 的网关高可用保障服务能力。
Higress 基于 AI 网关能力，支持了通义千问 APP、百炼大模型 API、呆板学习 PAI 平台等 AI 业务。同时服务国内头部的 AIGC 企业（如零一万物），以及 AI 产品（如 FastGPT）
什么是 AI 网关
AI Gateway = AI Native API Gateway
AI 网关的本质依然是 API 网关，AI 原生的意义在于，在如许的 API 网关里，AI 是一等公民。API 研发，API 供应，API 消耗，以及 API 观测都基于 AI 场景下的需求，演进出全新的能力。
这是传统 API 网关的功能范畴，AI 场景下仍旧有其通用价值：
在 AI 场景下，基于 Higress 可以将 API 网关的功能范畴进一步扩展：
核心优势
生产等级
- 脱胎于阿里巴巴多年生产验证的内部产品，支持每秒请求量达数十万级的大规模场景。
- 彻底摆脱 Nginx reload 引起的流量抖动，配置变更毫秒级见效且业务无感。对 AI 业务等长毗连场景特别友好。
便于扩展
- 提供丰富的官方插件库，涵盖 AI、流量管理、安全防护等常用功能，满意90%以上的业务场景需求。
- 主打 Wasm 插件扩展，通过沙箱隔离确保内存安全，支持多种编程语言，允许插件版本独立升级，实现流量无损热更新网关逻辑。
安全易用
- 基于 Ingress API 和 Gateway API 标准，提供开箱即用的 UI 控制台，WAF 防护插件、IP/Cookie CC 防护插件开箱即用。
- 支持对接 Let’s Encrypt 自动签发和续签免费证书，并且可以脱离 K8s 摆设，一行 Docker 命令即可启动，方便个人开发者使用。
流式处理
- 支持真正的完全流式处理请求/响应 Body，Wasm 插件很方便地自界说处理 SSE （Server-Sent Events）等流式协议的报文。
- 在 AI 业务等大带宽场景下，可以显著降低内存开销。
使用场景
AI 网关:
Higress 可以或许用同一的协议对接国内外所有 LLM 模型厂商，同时具备丰富的 AI 可观测、多模型负载平衡/fallback、AI token 流控、AI 缓存等能力：
Kubernetes Ingress 网关:
Higress 可以作为 K8s 集群的 Ingress 入口网关, 并且兼容了大量 K8s Nginx Ingress 的注解，可以从 K8s Nginx Ingress 快速平滑迁徙到 Higress。
支持 Gateway API 标准，支持用户从 Ingress API 平滑迁徙到 Gateway API。
相比 ingress-nginx，资源开销大幅下降，路由变更见效速度有十倍提升
微服务网关:
Higress 可以作为微服务网关, 可以或许对接多种类型的注册中心发现服务配置路由，比方 Nacos, ZooKeeper, Consul, Eureka 等。
并且深度集成了 Dubbo, Nacos, Sentinel 等微服务技术栈，基于 Envoy C++ 网关内核的精彩性能，相比传统 Java 类微服务网关，可以显著降低资源使用率，淘汰本钱。
安全防护网关:
Higress 可以作为安全防护网关， 提供 WAF 的能力，并且支持多种认证鉴权计谋，比方 key-auth, hmac-auth, jwt-auth, basic-auth, oidc 等。
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。 |
