Senior Software Developer
New
C
CI&TAI software
Listing location: Brazil; Workplace type: RemoteFull-TimeSenior
Salary not disclosed
Apply NowOpens the employer's application page
Job Details
- Required Skills
- Node.jsPostgreSQLJavaKotlin
Requirements
- Experiência sólida em desenvolvimento backend com Kotlin/Java ou Node.js.
- Conhecimentos em LLMs e aplicações baseadas em IA generativa.
- Conhecimento de integração e operação de modelos por meio de provedores como Azure, OpenAI, Azure AI Foundry, AWS Bedrock e GCP Vertex AI.
- Conhecimento de LLM routing, load balancing, fallback, streaming, token management e prompt caching.
- Conhecimento de PostgreSQL e/ou MongoDB.
- Experiência com observabilidade e monitoramento, incluindo Grafana, Prometheus e ferramentas similares.
- Conhecimento de métricas de aplicações distribuídas, incluindo latência, throughput, error rate, p90/p95/p99, TTFT e consumo de tokens.
- Conhecimento de MCP (Model Context Protocol), integração de agentes, AI Agents/Agentic AI e RAG.
- Experiência com Docker, Kubernetes, Git e pipelines de CI/CD.
- Experiência no desenvolvimento e operação de sistemas em cloud pública.
- Capacidade de atuar em sistemas distribuídos e investigar problemas que envolvam múltiplos serviços, aplicações, clouds e provedores.
- Boa capacidade de investigação e troubleshooting, incluindo análise de logs, métricas, traces e comportamento dos serviços.
Responsibilities
- Desenvolver e evoluir soluções de governança de modelos, provedores, configurações, tenants, políticas, roteamento, balanceamento de carga, fallback e controle de custos.
- Desenvolver e evoluir integrações com LiteLLM, atuando na camada de inferência, roteamento e provedores de LLM.
- Integrar e operar modelos e serviços de IA em Azure OpenAI, Azure AI Foundry, AWS Bedrock e GCP Vertex AI.
- Implementar mecanismos de observabilidade, incluindo métricas, logs, traces e dashboards.
- Investigar e solucionar incidentes e problemas relatados por usuários e consumidores da plataforma, em conjunto com o suporte técnico.
- Refinar tecnicamente novas funcionalidades, compreendendo os processos e aplicações antes de propor ou implementar soluções.
- Identificar gargalos de desempenho, disponibilidade, escalabilidade e confiabilidade dos serviços.
- Desenvolver APIs e integrações entre componentes, mantendo compatibilidade com serviços e consumidores existentes.
- Documentar decisões técnicas, integrações, configurações e procedimentos operacionais.
View Full Description & ApplyYou'll be redirected to the employer's site
