NVIDIA Revoluciona Kubernetes em GPU com Open Source!

Ah, que notícia INCRÍVEL! Vamos dar um trato nesse conteúdo e deixar ele com a cara do Lucas Tech.


NVIDIA Chuta a Porta! Seu Kubernetes com GPU, Gerenciado… e AGORA é Open Source!?

Olá, pessoal! Aqui é o Lucas Tech, e hoje eu tô vibrando com uma novidade da NVIDIA que pode mudar COMPLETAMENTE a forma como a gente pensa em orquestração de containers com GPUs. Se você trabalha com inteligência artificial, machine learning ou qualquer coisa que exija poder de processamento gráfico, se liga, porque a NVIDIA acabou de abrir o jogo de um jeito que ninguém esperava!

Eles lançaram DOIS projetos open source que prometem facilitar MUITO a vida de quem gerencia Kubernetes em infraestrutura com GPUs. Esqueça a dor de cabeça de montar tudo do zero e gerenciar manualmente. A NVIDIA está trazendo uma solução gerenciada para sua infraestrutura. Sim, você leu certo! Vem comigo que eu explico tudo!

O Que É Esse Rolo da NVIDIA, Afinal? (Um Resumo Rápido!)

Pra resumir a ópera, a NVIDIA liberou o NVIDIA Kubernetes Engine (NVKE) e o NVIDIA Kubernetes Recipes (NVKR). Pensa neles como as peças de um quebra-cabeça que se encaixam perfeitamente para te dar um Kubernetes gerenciado, mas rodando nas suas próprias máquinas com GPU. Ambos fazem parte da NVIDIA DSX AI Factory Platform e estão sob a licença Apache 2.0. Por enquanto, estão em public preview (prévia pública), então calma que ainda tem chão, mas a fundação é sólida!

  • Estrutura Mínima: Pra rodar essa maravilha, você vai precisar de 3 servidores CPU pro cluster de gerenciamento, mais 3 servidores CPU por plano de controle de cada cluster de workload, além, claro, de um pool de nós de trabalho com GPU. Pra testar localmente? 6 CPUs, 12 GiB de RAM, 100 GiB de disco e, acredite, nenhuma GPU necessária para essa avaliação inicial. Maneiro, né?
  • Onde Ele Roda? Nas suas próprias máquinas bare-metal NVIDIA GPU, provisionadas via NVIDIA Infra Controller (NICo). E tem suporte pra arquiteturas amd64 e arm64!
  • Performance: Por ser um preview, a NVIDIA ainda não publicou benchmarks de desempenho ou tempo de provisionamento. O foco agora é na certificação e não na velocidade bruta.
  • O Lado Bom: Ele já é certificado como uma Plataforma Kubernetes de IA e um Instalador Kubernetes, testado para conformidade no Kubernetes 1.36. Isso significa que é "puro" Kubernetes, sem gambiarras.
  • O Lado Pra Melhorar (Ainda!): Por estar em preview, tem uns pontos importantes. A API do NVKE, pós-instalação, serve HTTP puro na porta 30080 sem autenticação. Não tem um processo de upgrade ou backup do plano de gerenciamento.
  • A Grande Sacada: A melhor parte é ter um Kubernetes open, atestado e upstream (direto do projeto original) para suas nuvens de GPU. A pior, por enquanto, são as lacunas de segurança e ciclo de vida de um produto em preview. Então, não é pra produção ainda, ok?

NVKE: O Coração do Seu Kubernetes Gerenciado na NVIDIA

O NVKE é o software open source que você instala para ter um serviço de Kubernetes gerenciado na sua própria infraestrutura NVIDIA com GPUs. Pensa nele como o cérebro que vai gerenciar seus clusters. O repositório o chama de "uma fábrica auto-hospedável de clusters Kubernetes", e essa é a melhor descrição!

Ele te dá uma API REST e controladores em um cluster de gerenciamento. Você, como usuário, interage com clusters padrão usando o bom e velho kubectl. Já o operador gerencia tudo pela API do NVKE ou via nvkectl (a CLI deles). A cereja do bolo? O NVKE usa Kubernetes upstream, kubeadm e Cluster API. Isso garante que é um Kubernetes "de verdade", sem modificações proprietárias que te prendam.

NVKR: A Faca na Bota Que Constrói Tudo

Se o NVKE é o maestro, o NVKR é a orquestra que produz os instrumentos! O NVIDIA Kubernetes Recipes é um sistema de build com "Definições Declarativas". Em termos mais simples, ele constrói tudo o que seus clusters precisam: executáveis, imagens de containers, Helm charts e até imagens de nó para amd64 e arm64.

As "Receitas" do NVKR definem combinações validadas de versões de software e gerações de GPU. Além disso, ele anexa assinaturas, SBOMs (Listas de Materiais de Software) e a proveniência a referências OCI (Open Container Initiative) "fixadas por digest". Isso é super importante para segurança e rastreabilidade! O legal é que o NVKR pode construir artefatos até para outros sistemas de gerenciamento de Kubernetes.

Como Essa Mágica Toda Acontece? A Arquitetura por Trás (Passo a Passo)

A NVIDIA detalha 5 estágios principais de como o NVKE funciona:

  1. Bootstrap (O Pontapé Inicial): Você usa o comando nvkectl bootstrap site pra iniciar um cluster temporário kind (sim, aquele que roda K8s dentro de um container Docker!) em um único nó. É o seu ponto de partida.
  2. Cluster de Gerenciamento: Com o bootstrap pronto, o NVKE pede 3 servidores para o NICo (NVIDIA Infra Controller), que os inicializa a partir da imagem de nó. Assim que esses 3 entram no ar, o cluster temporário do kind é apagado. O NVKE agora está no controle total!
  3. Provisionamento de Máquinas (Bare-Metal): O NICo é o cara que gerencia o ciclo de vida do hardware "cru" (bare-metal). O CAPNICo (um Cluster API provider) conecta o NICo ao NVKE. Ah, e pra garantir a segurança, cada nó precisa apresentar uma identidade SPIFFE atestada antes de receber as credenciais pra se juntar ao cluster, usando TPM para isso. Chique, né?
  4. Conjuntos de Lançamento (Release Sets): Os operadores publicam uma imagem de máquina (um script iPXE), um "release" de cluster e um "release" de pool de nós. Os clientes escolhem um release pelo nome, sem ter que se preocupar com imagens de OS ou cloud-init.
  5. Clusters de Workload (Onde a Mágica Acontece de Verdade!): Cada cluster que você cria para seus clientes tem seu próprio plano de controle, seu próprio etcd e seus próprios pools de nós. O NVKE instala o OVN-Kubernetes e o NodeLocal DNSCache. E pra completar o pacote, ele integra outros projetos como o AI Cluster Runtime (AICR) para o runtime da GPU, o NodeWright para pacotes de nós e o NVSentinel para automação de correção de problemas.

Além disso, temos criptografia etcd por cluster e um chart Helm baseado em OpenTelemetry para exportar logs, métricas e traces. É um pacote completo, pensado para o universo da IA!

A Realidade do Preview: Onde o NVKE Precisa Melhorar (AINDA!)

Como eu disse, é um preview. Isso significa que há algumas limitações importantes que precisamos estar cientes. A NVIDIA é transparente sobre isso, o que é ótimo!

  • API Aberta Por Padrão: Logo após a instalação, a API do NVKE serve HTTP puro na porta 30080 de cada nó de gerenciamento, sem autenticação. Isso é um ponto de atenção crítico e precisa ser configurado/segurizado em ambientes reais.
  • Sem Autorização: Qualquer chamador autenticado (depois de resolver o ponto anterior, claro) pode criar e excluir qualquer cluster de workload. Ou seja, por enquanto, o controle de acesso é bem rudimentar.
  • Kubeconfigs Não Podem Ser Revogados: Um kubeconfig de administrador entregue a alguém permanece válido até que o certificado do cliente expire. Não há um mecanismo fácil para revogar acessos rapidamente.
  • Sem Ciclo de Vida do Plano de Gerenciamento: O cluster de gerenciamento (o NVKE em si) não pode fazer upgrade, escalar ou substituir seus próprios nós. E, pasmem, não existe um procedimento de backup ou restauração. Isso é super importante para produção!
  • Nós Não São Substituídos Automaticamente: Mudanças na configuração do pool de nós só se aplicam a novos nós. Nós desatualizados são sinalizados, mas não são drenados (desligados de forma segura) ou excluídos automaticamente.
  • Telemetria Apenas para Avaliação: O backend padrão para telemetria (monitoramento) armazena dados em memória e dá acesso de administrador do Grafana para usuários anônimos. Não é para produção!

Minha Visão

Como um entusiasta de tecnologia, essa jogada da NVIDIA me deixa super animado! É um passo GIGANTE para a democratização da infraestrutura de IA e ML em grande escala. Gerenciar Kubernetes já é complexo, adicionar GPUs e toda a infraestrutura bare-metal torna a coisa ainda mais desafiadora. Ao fornecer o NVKE e NVKR como open source, a NVIDIA não está apenas oferecendo ferramentas; ela está definindo um caminho para que mais empresas e desenvolvedores possam construir suas próprias "fábricas de IA" com controle total sobre seus dados e hardware.

Apesar das limitações do preview (que são importantes e devem ser levadas a sério!), o potencial é enorme. Imagina o que a comunidade open source pode fazer com isso! A visão de ter um Kubernetes certificado e focado em GPU, com controle de ponta a ponta sobre a infraestrutura, é um sonho para muitos. É o tipo de inovação que empurra os limites do que é possível. A NVIDIA está, de fato, "abrindo o jogo" e isso é uma ótima notícia para o futuro da IA.

E você, o que achou dessa novidade da NVIDIA? Pensa em experimentar o NVKE/NVKR quando estiver mais maduro? Já teve experiências com Kubernetes em GPUs? Me conta nos comentários!

Referência: Matéria Original

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Rolar para cima
Tutorial Elevenlabs