Publiée il y a 2 semaines
Data Engineer (Databricks) | SR (Remote)
Compass UOL
Télétravail · Brésil 🇧🇷
- Télétravail
- Temps plein
- Airflow
- AWS
- Azure
- BigQuery
Description du poste
- Atuar na definição e evolução de arquiteturas de dados utilizando Databricks, garantindo a otimização de pipelines, a eficiência do processamento e a resolução de problemas técnicos de alta complexidade.
- Contrução e manutenção de pipelines de dados escaláveis e confiáveis, utilizando tecnologias modernas de processamento distribuído para garantir a ingestão, transformação e disponibilização de dados com qualidade e performance.
- Trabalhar com Apache Spark, Airflow, Kafka, dbt, além de bancos SQL/NoSQL (PostgreSQL, MongoDB, Cassandra) e plataformas cloud (Databricks, AWS Glue, BigQuery).
- Projetar, definir e implementar arquiteturas de dados escaláveis, utilizando o modelo Lakehouse e a arquitetura Medallion (Bronze, Silver e Gold).
- Implementar soluções de processamento de dados em batch e streaming, incluindo CDC e Structured Streaming.
- Desenvolver e orquestrar processos de ingestão e integração de dados utilizando Azure Data Factory (ADF), Auto Loader e Lakeflow.
- Implementar práticas de governança, segurança e controle de acesso aos dados por meio do Unity Catalog.
- Desenvolver APIs REST, integrações e automações utilizando Python.
- Implementar processos de CI/CD, versionamento e automação de deploy utilizando Git e Databricks Workflows.
- Domínio avançado de Databricks, PySpark, Spark SQL e Delta Lake.
- Experiência sólida com DLT / Lakeflow Spark Declarative Pipelines, CDC e Structured Streaming.
- Experiência prática com Liquid Clustering, Auto Loader e otimização de tabelas Delta.
- Domínio de Unity Catalog, governança, segurança, linhagem e controle de acesso.
- Experiência na definição e implementação de Arquitetura de Dados, incluindo modelo Lakehouse e arquitetura Medallion (Bronze, Silver e Gold).
- Experiência prática com Azure Data Factory (ADF) para orquestração, ingestão e integração de dados.
- Experiência em Desenvolvimento de APIs (REST) e programação avançada em Python para construção de integrações, microsserviços e automações.
- Conhecimento avançado em Spark Performance Tuning, Photon, particionamento, shuffle e análise de planos de execução.
- Experiência com Databricks Workflows, CI/CD, Git e Declarative Automation Bundles.
- Capacidade de otimizar workloads, dimensionar recursos computacionais e reduzir custos de processamento.
- Experiência em observabilidade, monitoramento e sustentação de pipelines em produção.
- Capacidade de atuar como referência técnica, orientar profissionais e estabelecer boas práticas de engenharia de dados.
- Certificações: Databricks Certified Data Engineer Associate; Databricks Certified Data Engineer Professional.
Benefícios
- Vale-alimentação e/ou vale-refeição;
- Plano de saúde e plano odontológico;
- Plano de saúde para o seu pet;
- Auxílio home office (para vagas remotas);
- Kit de boas-vindas no onboarding;
- Seguro de vida;
- Zenklub, com acompanhamento psicológico e nutricional;
- TotalPass;
- Programa de Certificações e Capacitação Contínua com parceiros (Adobe, Anthropic, AWS, Google, Microsoft, Salesforce);
- Parcerias e descontos para o seu desenvolvimento;
- Acesso ao conteúdo UOL;
- Kit maternidade;
- Licença maternidade e paternidade estendidas;
- Programa de indicações.
Plus d’offres chez Compass UOL
Databricks Data Engineer | Senior (Remote)
Compass UOL Télétravail · Brésil 🇧🇷
Télétravail Temps plein il y a 2 semaines
Autres offres : Brésil
Senior Mechatronics Systems Engineer
OnTarget Communications Plusieurs lieux🇦🇪 🇦🇹 🇧🇪 +13
Sur site Temps plein il y a 16 heures
Atendente de Loja
RHF Talentos Matriz Belo Horizonte, Minas Gerais, Brésil🇧🇷
Sur site Temps plein R$1 621 mois il y a 16 heures
Atendente de Loja
RHF Talentos Unidade Contagem - MG Belo Horizonte, Minas Gerais, Brésil🇧🇷
Sur site Temps plein R$1 621 mois il y a 16 heures
Vendedor sem experiencia
Ademicon Guarapuava, Paraná, Brésil🇧🇷
Sur site Freelance R$2 000 - R$10 000 mois il y a 17 heures
ATENDENTE LANCHONETE -FS COLOMBO ESTRADA DA RIBEIRA
Burger King Colombo, Paraná, Brésil🇧🇷
Sur site Temps plein R$1 939 mois il y a 18 heures
ATENDENTE LANCHONETE -SHOP COLOMBO
Burger King Colombo, Paraná, Brésil🇧🇷
Sur site Temps plein R$1 939 mois il y a 18 heures
Promotor - Diversas Regiões de SP
Life Recursos Humanos Sorocaba, São Paulo, Brésil🇧🇷
Sur site Temporaire il y a 18 heures
Auxiliar de Laboratório - Fortaleza
Life Recursos Humanos Fortaleza, Céará, Brésil🇧🇷
Sur site Temporaire R$1 000 - R$1 600 mois il y a 18 heures
Técnico de Instalação e Manutenção de Redes
CSI Soluções Tecnologicas Ltda Brésil 🇧🇷
Sur site il y a 2 heures
Suporte ao atendimento ao cliente de T.I.
CSI Soluções Tecnologicas Ltda Brésil 🇧🇷
Sur site il y a 2 heures