[Job-31065] Engenheiro de Dados Sênior , Brazil

Estamos em busca de uma pessoa para atuar como Engenheiro(a) de Dados, para integrar um projeto estratégico, apoiando a evolução e modernização de processos de dados relacionados ao Poder Público.

O principal desafio será atuar sobre processos que foram migrados de tecnologias legadas, como SAS, Hive e Teradata, realizando ajustes, evoluções e otimizações no ambiente atual baseado em Databricks e PySpark, garantindo qualidade técnica, performance e aderência às boas práticas de desenvolvimento

-Desenvolver, ajustar e evoluir pipelines de dados utilizando Databricks e PySpark;
-Analisar processos previamente migrados de ambientes legados e realizar os ajustes necessários;
-Identificar gargalos e implementar melhorias de performance e otimização em pipelines e processamento de grandes volumes de dados;
-Desenvolver soluções utilizando Python e PySpark;
-Trabalhar com arquitetura medalhão (Bronze, Silver e Gold) no Databricks;
-Aplicar boas práticas de Engenharia de Software, garantindo código organizado, sustentável e de fácil manutenção;
-Analisar regras e processos anteriormente implementados em SAS, Hive e Teradata, apoiando sua modernização;
-Utilizar Git para versionamento e colaboração no desenvolvimento;
-Atuar de forma autônoma na investigação e resolução de problemas técnicos;
-Colaborar com times técnicos e áreas envolvidas para entendimento das regras existentes e evolução das soluções.

-Experiência sólida com Databricks;
-Experiência avançada com PySpark;
-Experiência com Python aplicado à Engenharia de Dados;
-Conhecimento e experiência prática com Git;
-Experiência na construção, manutenção e evolução de pipelines de dados;
-Experiência com otimização e performance de processamento de dados;
-Conhecimento de arquitetura medalhão;
-Experiência com ambientes de dados em Microsoft Azure;
-Conhecimento de boas práticas de desenvolvimento de software;
-Capacidade de atuar com autonomia em ambientes complexos de dados.

-Experiência ou conhecimento em SAS;

-Experiência ou conhecimento em Hive;
-Experiência ou conhecimento em Teradata;
- Vivência em projetos de migração e modernização de plataformas de dados legadas;
-Experiência com processos de dados de grande volume e alta complexidade.

#LI-PA1