云原生动态:Gateway API v1.6发布、NVIDIA KAI调度器实现K8s GPU共享与Vault KMS公测
云原生动态:Gateway API v1.6发布、NVIDIA KAI调度器实现K8s GPU共享与Vault KMS公测
本周云原生领域迎来多项重要更新。Kubernetes官方发布Gateway API v1.6,TCP/UDP四层路由正式进入GA;NVIDIA推出KAI Scheduler与vCluster组合方案实现多团队GPU共享;HashiCorp发布Vault Kubernetes密钥管理公测版;CNCF围绕AI Agent可观测性展开深入讨论。
主要新闻
Gateway API v1.6发布:TCPRoute/UDPRoute晋级标准,实验资源独立API组
Kubernetes SIG Network社区正式发布Gateway API v1.6.0。本版本中TCPRoute和UDPRoute从Experimental通道毕业进入Standard通道,并在v1 API版本下正式可用,标志着Gateway API在第七层HTTP/TLS路由基础上补齐了第四层原始TCP/UDP流量路由能力。同时,v1.6引入新的实验性资源XBackend——一个通用后端装饰器,为Service及其他后端类型提供面向出口(egress)场景的扩展点,特别适用于集群内Agent工作负载。更值得关注的是,实验性资源正式迁移至独立的API组gateway.networking.x-k8s.io,并以X前缀命名(如XBackend、XMesh),使实验与标准边界在API组层面显式化。
Source: Gateway API v1.6: TCPRoute and UDPRoute Graduate to Standard
NVIDIA KAI Scheduler + vCluster:隔离Kubernetes集群上的GPU共享
NVIDIA推出基于KAI Scheduler与vCluster的GPU共享方案,允许AI/ML团队在共享GPU硬件上运行相互隔离的Kubernetes虚拟集群。每个团队获得独立API Server、CRD和RBAC的vCluster,而底层GPU资源池由单个集群统一管理。KAI Scheduler通过分层队列实现公平分配,空闲GPU容量可动态再分配。例如三个AI团队(NLP、计算机视觉、推荐系统)可以共享单个NVIDIA L40S GPU,各自获得最低保障份额,同时在空闲期利用其他团队的剩余容量。结合NVIDIA MIG多实例技术还可实现硬件级隔离。该方案在GPU稀缺和高成本背景下,为AI基础设施的资源利用率优化提供了新路径。
Source: NVIDIA’s KAI Scheduler and vCluster Enable GPU Sharing in Kubernetes
HashiCorp发布Vault Kubernetes密钥管理公测版
HashiCorp推出Vault Enterprise作为Kubernetes KMS提供商的公测版本,通过KMS v2兼容插件vault-kube-kms,让Kubernetes API Server将etcd中的机密数据信封加密(envelope encryption)卸载至Vault。Kubernetes仍生成并使用数据加密密钥(DEK)保障API Server吞吐,DEK种子由Vault中的密钥加密密钥(KEK)保护。对受监管团队而言,该方案实现了密钥生命周期、轮换、策略与审计的集中管理,无需修改应用代码。HashiCorp将密钥管理定位为日益增长的机器身份问题——应用、容器、CI/CD流水线与AI Agent都需持续访问敏感资源。值得注意的是,该功能仅支持Vault Enterprise,且需修改EncryptionConfig与kube-apiserver清单,托管控制平面场景无法使用。
Source: HashiCorp Ships Public Beta of Vault Kubernetes Key Management
CNCF发文讨论AI Agent可观测性:成本与追踪成为三大支柱
CNCF发布关于AI Agent可观测性的技术文章,指出传统APM无法解释Agent”为何反复询问同一个问题而成本飙升”。文章提出Agent可观测性三大支柱:每次会话都应产生记录完整决策历史的Agent Trace(每次模型调用、工具调用、子Agent委派及耗时成本);成本监控成为Agent的单位经济学,Token消耗是核心信号;守卫机制(迭代上限、工具调用预算、循环检测)作为预算熔断器先于告警发挥作用。作者强调”成本是金丝雀”——突发的成本飙升几乎总意味着Bug(循环、模型路由错误、上下文无界累积),并建议构建类似brew doctor的”诊断命令”一键检查Agent依赖健康。
Source: You can’t debug what you can’t see — Observability for AI Agents
分析
本周的新闻共同勾勒出云原生基础设施的三大演进方向:
-
网络层进入”四层+七层”全协议时代:Gateway API v1.6中TCPRoute/UDPRoute的GA,使Kubernetes具备统一的L4/L7服务网络标准。结合XBackend对出口场景(尤其是Agent负载)的支持,Gateway API正在从”入口网关”演变为覆盖入站、出站与服务网格的通用网络API。平台团队应评估现有Ingress/Service Mesh栈向Gateway API收敛的路径。
-
AI算力成为Kubernetes调度与安全的新焦点:NVIDIA KAI Scheduler与vCluster的组合,本质上是把”GPU共享+租户隔离”从运维技巧提升为标准化方案,反映了GPU稀缺下资源虚拟化的迫切需求。而Vault KMS公测则表明,随着AI工作负载在Kubernetes上激增,密钥管理与加密已下沉为集群基础设施能力的组成部分——KMS v2插件将密钥生命周期从集群中剥离,符合零信任与职责分离的监管趋势。
-
Agent可观测性从概念走向工程实践:CNCF文章将Token成本作为第一级告警信号,说明社区已意识到Agent工作负载与传统微服务在可观测性上的本质差异——Agent不会崩溃并打印堆栈,而是循环、幻觉和烧钱。对SRE与平台工程团队而言,构建Agent Trace、成本熔断与循环检测将是未来数月的标准功课。
结论
Gateway API v1.6的发布、NVIDIA的GPU共享方案、Vault KMS公测与CNCF的Agent可观测性讨论,共同标志着云原生基础设施正在向”AI原生”全面演进。对于技术团队而言,关注四层路由的落地、评估GPU共享方案、推进Kubernetes密钥管理集中化,以及建立Agent可观测性体系,将是把握下一阶段云原生红利的关键动作。