Engenheiro de dados sênior
Descrição da Vaga
Descrição: * Pós\-graduação em Engenharia de Dados, Ciência de Dados, Computação ou áreas correlatas; * Experiência sólida em ambiente AWS, incluindo EKS, Glue, Athena, IAM, Lambda, ECR, RDS e DynamoDB; * Conhecimento avançado em CI/CD e práticas DevOps; * Proficiência em Kubernetes; * Experiência consolidada em Spark (PySpark) e Delta Table; * Experiência comprovada em Web Crawling; * Domínio da linguagem Python e suas principais bibliotecas de manipulação de dados; * Vivência com Apache Airflow para orquestração de pipelines; * Conhecimento prático em Kafka; * Experiência com Terraform (IaC); * Experiência com Azure DevOps; * Atuação com Databricks e Snowflake; * Certificação e/ou cursos relevantes em Engenharia de Dados. * Projetar, desenvolver e implementar soluções de engenharia de dados altamente eficientes, escaláveis e seguras; * Atuar de forma estratégica e colaborativa com equipes multifuncionais para definir requisitos e direcionar a arquitetura de dados; * Implementar e otimizar processos de CI/CD para garantir automação, versionamento e entrega contínua; * Gerenciar e otimizar ambientes Kubernetes, com uso avançado das ferramentas AWS (como EKS); * Utilizar de forma aprofundada as ferramentas AWS Developer Tools CodeCommit, CodeBuild, CodeDeploy e CodePipeline; * Desenvolver e otimizar jobs Spark (PySpark) voltados ao processamento de grandes volumes de dados, garantindo performance e qualidade; * Implementar e manter Tabela Delta, assegurando consistência e rastreabilidade dos dados; * Criar e gerenciar Web Crawlers para extração e transformação de dados da web; * Configurar e manter pipelines de dados com Apache Airflow, garantindo a orquestração e o monitoramento de processos; * Implementar e administrar ambientes Kafka para streaming de dados em tempo real; * Gerenciar infraestrutura como código (IaC) utilizando Terraform, promovendo ambientes reprodutíveis e auditáveis; * Atuar com Databricks e Snowflake, otimizando armazenamento, performance e governança dos dados; * Contribuir para a melhoria contínua das práticas de engenharia de dados, propondo inovações e mentorando profissionais da equipe. 2511140202461868021
Vaga originalmente publicada em: indeed
Receba vagas como esta no seu email
Crie um alerta gratuito e seja o primeiro a saber de novas oportunidades
Alertas que entendem o que você quer
Não receba qualquer vaga. Receba apenas as que combinam exatamente com o que você busca.
Filtro:
Você recebe tudo isso:
Filtro:
Você recebe apenas:
Zero ruído. Só vagas relevantes para você.
Outros exemplos de filtros precisos:
Filtros Combinados
Combine linguagem + framework + nível + localização. Seja tão específico quanto quiser.
Email Diário
Receba um resumo diário apenas com vagas que passam nos seus filtros. Sem spam.
Kanban Visual
Organize suas candidaturas em um quadro Kanban. Acompanhe cada processo seletivo.
Planos simples, sem surpresas
Comece grátis e faça upgrade quando quiser
Premium
- Tudo do plano gratuito
- Vagas salvas ilimitadas
- Quadros Kanban ilimitados
- Alertas de vagas por email
- Suporte prioritário
Pronto para encontrar sua vaga ideal?
Junte-se a milhares de desenvolvedores que já usam o Job For Dev
Encontre as melhores oportunidades para desenvolvedores no Job For Dev