Senior Engenheiro(a) de Dados – Governança e Linhagem de Dados

C
CI&TData governance
Listing location: Brazil; Workplace type: RemoteFull-TimeSenior
Salary not disclosed
Apply NowOpens the employer's application page

Job Details

Languages
Inglês intermediário/avançado (B2 ou superior)
Required Skills
AWSPostgreSQLPythonSQLApache AirflowGitSnowflakeCI/CD

Requirements

  • Ter sólida experiência com Python e SQL avançado.
  • Ter experiência consistente com Apache Airflow, incluindo desenvolvimento e troubleshooting de DAGs.
  • Ter experiência com PostgreSQL e Snowflake.
  • Ter experiência com AWS, incluindo RDS, EC2 e serviços relacionados.
  • Ter experiência com Git e pipelines de CI/CD.
  • Ter experiência com LLMs ou agentes de IA aplicados à análise de código e automação, como Claude, OpenAI, Bedrock, LiteLLM ou MCP.
  • Ser capaz de ler, compreender e fazer engenharia reversa de pipelines e códigos existentes.
  • Conhecer modelagem de dados, gestão de metadados e conceitos de linhagem de dados.
  • Como diferencial, ter experiência com OpenMetadata, DataHub, Collibra ou ferramentas de catálogo similares.
  • Como diferencial, ter experiência com Astronomer ou migrações de Airflow.
  • Como diferencial, ter experiência no mercado financeiro ou em gestão de ativos.
  • Como diferencial, ter familiaridade com Arcesium, Bloomberg ou sistemas de gestão de portfólio.
  • Como diferencial, ter experiência com Trino e recursos de governança do Snowflake, como Horizon e Data Sharing.
  • Como diferencial, ter certificações em cloud ou engenharia de dados, como AWS ou Snowflake.
  • Como diferencial, ter inglês intermediário/avançado (B2 ou superior).

Responsibilities

  • Mapear scripts Python, metadados, funções, packages e views SQL para inventariar ativos de dados, dependências e consumidores.
  • Construir e publicar linhagem de dados em nível de objeto e, posteriormente, de coluna, abrangendo PostgreSQL e Snowflake.
  • Integrar metadados técnicos, linhagem e ownership ao OpenMetadata via API.
  • Implementar automações em pipelines de CI/CD para atualizar catálogo e linhagem a cada PR e deploy.
  • Definir e implementar regras técnicas de qualidade de dados e monitoramento para tabelas críticas.
  • Colaborar com times de dados, DevOps e plataforma e com donos de dados de negócio.
  • Documentar inputs, outputs, dependências e propósito de cada objeto de dados.
  • Usar agentes de IA e LLMs, incluindo Claude e OpenAI, para acelerar análise de código, geração de metadados e documentação, com validação humana.
View Full Description & ApplyYou'll be redirected to the employer's site
View details
Apply Now