Senior AI Compute Infrastructure Engineer

Sobre a vaga

Procuramos um Senior AI Compute Infrastructure Engineer para trabalhar em infraestrutura de computação de IA em escala global. Você será responsável por projetar, implementar e otimizar sistemas de inferência de modelos de linguagem grandes usando tecnologias modernas de containerização e orquestração.

Responsabilidades

• Projetar e implementar infraestrutura de computação otimizada para cargas de trabalho de IA e machine learning
• Otimizar pipelines de inferência usando CUDA, TensorRT e frameworks como vLLM e DeepSpeed
• Gerenciar clusters Kubernetes dedicados a cargas de trabalho de GPU NVIDIA
• Implementar e manter soluções de serving de modelos (KServe, Ray Serve, TorchServe)
• Depurar e resolver problemas de performance em CUDA e NCCL
• Trabalhar com frameworks de treinamento distribuído como Megatron-LM

Requisitos

• Experiência profissional sênior com Kubernetes e orquestração de containers
• Proficiência em Python para infraestrutura e automation
• Conhecimento profundo de CUDA e otimização de GPU NVIDIA
• Experiência com pelo menos um servidor de inferência (Triton Inference Server, vLLM, KServe ou Ray Serve)
• Familiaridade com frameworks de computação distribuída como DeepSpeed ou Megatron-LM
• Experiência em debugging de problemas de performance em CUDA e NCCL

Diferenciais

• Experiência anterior em startups ou empresas de rápido crescimento
• Contribuições open source em projetos de infraestrutura ou IA
• Conhecimento de TorchServe e otimizações de TensorRT