系列文章
前言
将 Kubernetes 的 CNI 从其他组件切换为 Cilium, 已经可以有效地提升网络的性能. 但是通过对 Cilium 不同模式的切换/功能的启用, 可以进一步提升 Cilium 的网络性能. 具体调优项包括不限于:
- 启用本地路由(Native Routing)
- 完全替换 KubeProxy
- IP 地址伪装(Masquerading)切换为基于 eBPF 的模式
- Kubernetes NodePort 实现在 DSR(Direct Server Return) 模式下运行
- 绕过 iptables 连接跟踪(Bypass iptables Connection Tracking)
- 主机路由(Host Routing)切换为基于 BPF 的模式 (需要 Linux Kernel >= 5.10)
- 启用 IPv6 BIG TCP (需要 Linux Kernel >= 5.19)
- 禁用 Hubble(但是不建议, 可观察性比一点点的性能提升更重要)
- 修改 MTU 为巨型帧(jumbo frames) (需要网络条件允许)
- 启用带宽管理器(Bandwidth Manager) (需要 Kernel >= 5.1)
- 启用 Pod 的 BBR 拥塞控制 (需要 Kernel >= 5.18)
- 启用 XDP 加速 (需要 支持本地 XDP 驱动程序)
- (高级用户可选)调整 eBPF Map Size
- Linux Kernel 优化和升级
- 其他:
- tuned network-* profiles, 如: tuned-adm profile network-latency 或 network-throughput
- CPU 调为性能模式
- 停止 irqbalance，将网卡中断引脚指向特定 CPU
在网络/网卡设备/OS等条件满足的情况下, 我们尽可能多地启用这些调优选项, 相关优化项会在后续文章逐一更新. 敬请期待.
今天我们来调优 Cilium, 启用 Host-Routing(主机路由) 以完全绕过 iptables 和上层主机堆栈，并实现比常规 veth 设备操作更快的网络命名空间切换。
测试环境
- Cilium 1.13.4
- K3s v1.26.6+k3s1
- OS
- 3 台 Ubuntu 23.04 VM, Kernel 6.2, x86
- 3 台 Debian 10 开发板, Kernel 4.19, arm64
eBPF Host-Routing
即使 Cilium 使用 eBPF 执行网络路由，默认情况下，网络数据包仍会穿越节点常规网络堆栈的某些部分。这就导致了所有数据包仍能通过所有 iptables 钩子。不过，这些钩子会增加大量开销。有关测试环境的确切数据，请参阅 TCP 吞吐量 (TCP_STREAM)，并比较 "Cilium "和 "Cilium（传统主机路由）"的结果。
具体如下:
Single-Stream:
Multi-Stream:
在 Cilium 1.9 中引入了基于 eBPF 的主机路由，以完全绕过 iptables 和上层主机堆栈，并实现比常规 veth 设备操作更快的网络命名空间切换。如果内核支持该选项，它将自动启用。要验证您的安装是否使用了 eBPF 主机路由，请在任何 Cilium pod 中运行 cilium status，并查找报告 "Host Routing（主机路由）"状态的行，其中应显示 "BPF"。
如下, 在 Cilium 1.9 中引入了基于 eBPF 的主机路由后的性能提升:
从初始结果可以看出，当在 v5.10 内核上使用 Cilium 1.9(及更新版本) 的 eBPF 扩展时，直接路由下 Pod 到远程 Pod 会话的单流 TCP 吞吐量会翻倍，而不是由主机堆栈转发处理两个方向。同样，在避开主机堆栈时，测试中的 Pod 的 TCP 请求/响应事务性能提高了近 3 倍。
要求
- Kernel >= 5.10
- 直接路由(Direct-routing)配置或隧道
- 基于 eBPF 的 kube-proxy 替换
- 基于 eBPF 的伪装(masquerading)
实施
如上所述, "如果内核支持该选项，它将自动启用".
我们查看 Kernel >= 5.10 的情况:
Kernel >= 5.10
- $ kubectl -n kube-system exec ds/cilium -- cilium status |grep "Host Routing"
- Host Routing: BPF
<blockquote>
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！ |
