Scala Data Engineer |Senior

. **Responsabilidades e atribuições** * Criação de pipeline de dados para obtenção dos dados com airflow/spark; * Implementar controles de acesso e auditoria para proteger dados sensíveis e garantir conformidade com regulamentações; * Migrar e integrar dados existentes na nova plataforma, assegurando a continuidade das operações e a integridade dos dados; * Performance Tuning: Habilidade em otimizar o desempenho de pipelines de dados, ajustando parâmetros e configurando corretamente os recursos; * Monitoramento e Debugging: Capacidade de monitorar e depurar pipelines para identificar e resolver gargalos e problemas de desempenho; * Apache Spark,Apache AirFlow,Apache Iceberg, AWS: EMR; AWS: Glue; AWS: S3 , AWS: Lake Formation, Data Pipelines, Python. Habilidade em criar e gerenciar pipelines de dados, agendando e monitorando tarefas de ETL. **Requisitos e qualificações** * Apache Spark; * Apache AirFlow; * Apache Iceberg; * AWS: EMR, Glue, S3, Lake Formation * Data Pipelines; * Python; * Scala ou Java; * Habilidade em criar e gerenciar pipelines de dados, agendando e monitorando tarefas de ETL; * Governança e Segurança de Dados; * Monitoramento e Debugging. Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies. We equip our team with proprietary and external AI\-driven tools to design and build digital\-native platforms, integrating cutting\-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets. To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies. We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth. **Join us and be part of the AI\-driven revolution.**