Engenheiro(a) de LLMOps Senior Híbrido em SP 133003
Job Summary
Estamos buscando um(a)LLMOps Engineerpara sustentar evoluir e testar a nossa infraestrutura de Inteligência Artificial. Sua missão será garantir que nossas plataformas de IA (Google Gemini Enterprise Azure Foundry AWS Agent Core)AI GatewayeOrquestração de Agentesoperem com alta disponibilidade segurança e eficiência de custos.
Mais do que rodar o que já existe você será peça-chave na validação do futuro da nossa stack apoiando na homologação de novas tecnologias liderando testes e desenvolvendo soluções práticas.
- Operação de Plataformas Agênticas:Gerenciar e otimizar a camada de agentes e proxies utilizando ferramentas comolitellmGCP GeminiAWS Agent CoreeAzure Foundry.
- Homologação e P&D:Avaliar e homologar novas ferramentas modelos e tecnologias do ecossistema de GenAI conduzindo testes de estresse latência e qualidade além de desenvolver MVPs/soluções internas.
- Gestão de Gateways e RAG:Configurarrate limitingfailoverload balancinge gerenciar a infraestrutura de bases vetoriais (OpenSearch Vertex AI Vector Search etc.).
- Observabilidade e FinOps:Implementar tracing e monitoramento em tempo real (LangFuse Datadog AI Grafana) focado em consumo de tokens latência e otimização de custos de inferência.
- Automação (CI/CD para IA):Criar pipelines automatizados para deploys de IA incluindo esteiras de avaliação de prompts (Evals) e testes de regressão de modelos.
- Domínio em IA Agêntica e Gateways:Experiência prática comlitellmGCP GeminiAWS Agent Coree/ouAzure Foundry/OpenAI.
- Multicloud e IaC:Sólidos conhecimentos nos serviços de GenAI da AWS Azure ou GCP além de provisionamento viaTerraform.
- Programação:Proficiência emPython(obrigatório para automações e SDKs) .
- DevOps Fundamental:Experiência prática com containers e orquestração (DockereKubernetes).
- Arquitetura de Dados para IA:Compreensão de pipelines de RAG e bancos de dados vetoriais.
- Experiência com desenvolvimento de Código com IA (Github Copilot Claude Code Codex...)
- Certificações de Nuvem focadas em IA/ML (AWS Azure ou GCP).
- Experiência na implementação de LLMs locais (vLLM Ollama) para otimização de custos.
- Conhecimento em segurança de IA (OWASP Top 10 para LLMsPII masking)
Required Experience:
Senior IC
About Company
We see opportunity in technology. In domains such as cloud, AI, mainframe modernisation, DLT and IoT, we blend established practice with new thinking to help our clients stay ahead.