TL;DR — A KubeCon NA, em Salt Lake City, deixou claro que IA em produção virou problema de operação de frota, não de modelo. A CNCF graduou o Kubeflow, recebeu o KubeRay e promoveu o OCM a Incubating; Meta e Adyen mostraram GitOps e auditoria em cerca de 100 clusters cada uma. Uma pesquisa lembrou que VMs ainda rodam 53% das aplicações. Para quem opera no Brasil, a decisão agora é de plataforma: agendamento de GPU, gestão multicluster e governança aberta.
Na semana passada, falamos da credencial vazada que vira fatura. Esta semana a pauta foi ditada pela KubeCon + CloudNativeCon North America, de 9 a 12 de novembro, e o recado foi menos sobre qual modelo usar e mais sobre onde e como ele roda. Quase todo anúncio relevante da semana respondeu a uma pergunta de operação: como agendar GPU sem desperdício, como gerenciar dezenas de clusters, como entregar sem parar a infraestrutura, como manter a escolha de fornecedor.
O stack aberto de IA no Kubernetes ficou completo?
Ficou bem mais perto disso. Três movimentos da semana fecham lacunas que, até aqui, empurravam empresas para plataformas fechadas:
- Kubeflow graduado. O projeto que cobre processamento de dados, treinamento, fine-tuning e serving de modelos chegou ao nível mais alto de maturidade da CNCF.
- KubeRay doado à CNCF. O operador que roda Ray no Kubernetes (com os CRDs
RayCluster,RayJobeRayService) era a peça que faltava para o chamado stack PARK (PyTorch, modelos, Ray e Kubernetes) ficar inteiro sob a Linux Foundation. - Fundação maior e mais disputada. A CNCF fechou o ano com 231 projetos e estimou 21,2 milhões de desenvolvedores cloud native. Também anunciou duas certificações para 2027 voltadas a IA, a KAIA e a CKIE.
O que isso muda na prática: quem já opera Kubernetes não precisa de um segundo universo para IA. Pode treinar, ajustar e servir modelos com operadores abertos, mantidos por fundação neutra, usando as mesmas práticas de observabilidade, segurança e custo que já tem. A ressalva é que "aberto" não significa "pronto". Esses componentes pedem um time de plataforma que os opere, e esse é o custo real da escolha.
Por que o scheduler padrão queima dinheiro com GPU?
Porque ele agenda pod por pod, e treinamento distribuído não funciona assim. Um texto técnico publicado no blog da CNCF durante a semana explicou os dois requisitos que o Kubernetes puro ignora:
| Requisito | O que acontece sem ele | Quem resolve hoje |
|---|---|---|
| Gang scheduling: todos os pods do job sobem juntos | Parte dos pods reserva GPU e fica ociosa esperando o resto | Kueue, plugin Coscheduling |
| Topology-aware placement: pods próximos na rede de GPUs | Comunicação entre GPUs lenta, job muito abaixo do potencial do hardware | Kueue (TAS) |
O scheduler nativo começou a incorporar gang scheduling nas versões recentes, mas ainda sem paridade com o ecossistema. A recomendação do texto, com a qual concordamos, é instrumentar agora (fila de admissão, tempo de espera, estado dos PodGroups, throughput do job) em vez de esperar o recurso nativo amadurecer. Para quem paga GPU em dólar, cada pod parado esperando os irmãos é dinheiro jogado fora, e a mesma lógica de dimensionar pela demanda real que discutimos em autoscaling com KEDA e HPA, do lab à produção vale em dobro para acelerador.
Como operar 100 clusters com um time pequeno?
Os dois casos de usuário final mais comentados da semana responderam a essa pergunta, por caminhos complementares.
A Meta venceu o concurso de estudos de caso da CNCF com uma plataforma GitOps para a infraestrutura de IA. Um time de pouco mais de 15 engenheiros gerencia cerca de 100 clusters em vários provedores e famílias de aceleradores. O gargalo era o acoplamento: o Terraform provisionava a infraestrutura e também fazia o deploy das aplicações, então qualquer atualização simples esperava um ciclo de mais de quatro horas. A solução foi separar as responsabilidades. O Terraform ficou com a base, o Argo CD passou a reconciliar as aplicações a partir do Git e o Kargo assumiu a promoção entre ambientes. O deploy caiu para minutos.
A Adyen entrou na CNCF como Platinum End User. A fintech opera mais de 100 clusters com Cilium, Prometheus e OpenTelemetry e abriu o código do kubectl-rexec, que torna auditável todo acesso via kubectl exec. Em ambiente regulado, esse é o tipo de controle que o auditor pede e que costuma ser resolvido proibindo o acesso de vez.
Para coordenar a frota, o Open Cluster Management (OCM) foi promovido a projeto Incubating. A arquitetura é hub-and-spoke com modelo pull: cada cluster busca sua configuração, e o hub não concentra as credenciais de todos. É um desenho que conversa bem com quem mistura nuvem, on-premises e borda, um cenário comum no Brasil e que tratamos em Kubernetes on-premises sem lock-in para infraestrutura estatal.
A lição comum: escala com time pequeno não vem de mais gente, vem de separar camadas (infraestrutura, entrega, acesso) e deixar cada uma com a ferramenta certa e auditável.
A VM morreu?
Não, e a semana trouxe números para encerrar essa discussão. A pesquisa Virtual Machines, Agentic AI and the Mix of Workloads, da Linux Foundation Research (patrocinada por CNCF e Broadcom, com 492 respondentes em setembro), mostra que as VMs representam em média 53% das aplicações em produção. Para 51% dos respondentes, pelo menos metade das aplicações roda em VM, e 71% esperam que a proporção fique na mesma faixa nos próximos 12 meses. A IA reforça isso: isolamento forte de workload é um dos motivos para manter a VM no jogo.
Para empresas brasileiras com muito legado virtualizado, a leitura é pragmática. O objetivo não é "containerizar tudo", é governar VMs e containers com o mesmo modelo de identidade, rede, observabilidade e custo.
Outros destaques da semana
- Rede virou especialidade. A CNCF lançou a Certified Kubernetes Network Engineer (CKNE), um exame prático de 120 minutos sobre CNI, service networking e DNS, gestão de tráfego, segurança de rede e observabilidade. Na mesma linha, o Google publicou um laboratório com o ClusterNetworkPolicy do GKE, com políticas de rede em camadas (admin, namespace e baseline) para isolar workloads de inferência em clusters multi-tenant.
- Plataforma decide a estratégia de IA. O relatório da CNCF com a SlashData mostrou que a forma de organizar o time de plataforma pesa na adoção de IA. Onde cada time gerencia as próprias ferramentas, 54% adotam abordagens híbridas, contra 43% onde vários times colaboram numa plataforma comum. No mesmo levantamento, 75% dos desenvolvedores cloud native usam IA para programar, contra 55% dos demais.
- Soberania entrou na pauta da fundação. Entre os 12 novos membros da CNCF estão provedores de nuvem soberana, e a Vultr subiu para Platinum lançando uma aliança open source. Na Europa, a proposta do Cloud and AI Development Act (CADA) cria níveis de garantia para serviços de nuvem e IA no setor público. Para quem atende governo ou dados sensíveis no Brasil, portabilidade deixou de ser preferência técnica e virou requisito de contrato.
Perguntas Frequentes
Preciso de uma plataforma separada para rodar IA, ou dá para usar o Kubernetes que já tenho?
Na maioria dos casos dá para começar no cluster que você já opera. Com o Kubeflow graduado e o KubeRay sob a CNCF, treinamento, fine-tuning e serving têm operadores abertos e mantidos por fundação neutra. O que muda é a camada de agendamento: GPU cara exige gang scheduling e posicionamento por topologia (Kueue, Coscheduling), e não apenas o scheduler padrão.
O que é gang scheduling e por que ele importa para o custo de GPU?
É a garantia de que todos os pods de um job distribuído sobem juntos ou nenhum sobe. Sem isso, parte dos pods reserva GPU e fica parada esperando o resto, e você paga por acelerador ocioso. O Kueue e o plugin Coscheduling resolvem isso hoje; o scheduler nativo do Kubernetes começou a trazer o recurso, mas ainda sem paridade com essas ferramentas.
Quando vale adotar uma ferramenta de gestão multicluster como o OCM?
Quando o número de clusters passa a ser gerido por planilha e script. O OCM usa arquitetura hub-and-spoke com modelo pull, em que cada cluster busca a configuração e o hub não centraliza credenciais sensíveis. Para quem tem clusters em nuvem, on-premises e borda, é uma forma de padronizar placement e distribuição sem depender de um plano de controle proprietário.
Containers vão substituir as VMs de vez?
Não no horizonte de curto prazo. Na pesquisa da Linux Foundation Research com 492 profissionais, as VMs representam em média 53% das aplicações em produção, e 71% esperam que essa proporção fique na mesma faixa em 12 meses. A estratégia realista é operar os dois com a mesma governança, não migrar tudo de uma vez.