Senior Engenheiro(a) de Dados – Governança e Linhagem de Dados
C
CI&TData governance
Listing location: Brazil; Workplace type: RemoteFull-TimeSenior
Salary not disclosed
Apply NowOpens the employer's application page
Job Details
- Languages
- Inglês intermediário/avançado (B2 ou superior)
- Required Skills
- AWSPostgreSQLPythonSQLApache AirflowGitSnowflakeCI/CD
Requirements
- Ter sólida experiência com Python e SQL avançado.
- Ter experiência consistente com Apache Airflow, incluindo desenvolvimento e troubleshooting de DAGs.
- Ter experiência com PostgreSQL e Snowflake.
- Ter experiência com AWS, incluindo RDS, EC2 e serviços relacionados.
- Ter experiência com Git e pipelines de CI/CD.
- Ter experiência com LLMs ou agentes de IA aplicados à análise de código e automação, como Claude, OpenAI, Bedrock, LiteLLM ou MCP.
- Ser capaz de ler, compreender e fazer engenharia reversa de pipelines e códigos existentes.
- Conhecer modelagem de dados, gestão de metadados e conceitos de linhagem de dados.
- Como diferencial, ter experiência com OpenMetadata, DataHub, Collibra ou ferramentas de catálogo similares.
- Como diferencial, ter experiência com Astronomer ou migrações de Airflow.
- Como diferencial, ter experiência no mercado financeiro ou em gestão de ativos.
- Como diferencial, ter familiaridade com Arcesium, Bloomberg ou sistemas de gestão de portfólio.
- Como diferencial, ter experiência com Trino e recursos de governança do Snowflake, como Horizon e Data Sharing.
- Como diferencial, ter certificações em cloud ou engenharia de dados, como AWS ou Snowflake.
- Como diferencial, ter inglês intermediário/avançado (B2 ou superior).
Responsibilities
- Mapear scripts Python, metadados, funções, packages e views SQL para inventariar ativos de dados, dependências e consumidores.
- Construir e publicar linhagem de dados em nível de objeto e, posteriormente, de coluna, abrangendo PostgreSQL e Snowflake.
- Integrar metadados técnicos, linhagem e ownership ao OpenMetadata via API.
- Implementar automações em pipelines de CI/CD para atualizar catálogo e linhagem a cada PR e deploy.
- Definir e implementar regras técnicas de qualidade de dados e monitoramento para tabelas críticas.
- Colaborar com times de dados, DevOps e plataforma e com donos de dados de negócio.
- Documentar inputs, outputs, dependências e propósito de cada objeto de dados.
- Usar agentes de IA e LLMs, incluindo Claude e OpenAI, para acelerar análise de código, geração de metadados e documentação, com validação humana.
View Full Description & ApplyYou'll be redirected to the employer's site