Data Engineer - Aws Scala Spark H/F CHARLI GROUP

Contexte

Dans le cadre d'un programme de transformation DATA, l'objectif est de doter l'entreprise d'outils permettant une exploitation avancée des données pour des prises de décisions optimisées. Ce programme impacte à la fois les technologies utilisées, l'organisation et les processus internes.

Les projets en cours sont variés et incluent :

• L'optimisation des algorithmes de recommandation et segmentation ;
• Le développement d'un Feature Store pour la gestion des données ;
• La modernisation des flux financiers et des plateformes de contenu ;
• La mise en place d'architectures Big Data traitant plus de 100 To de données par jour ;
• Le partage d'informations clients avec des partenaires stratégiques.

Missions

Intégré(e) à l'équipe DATA Delivery, vous interviendrez sur l'évolution et la maintenance des socles de données (Usage, VOD, Advertising, CRM...) et leur interconnexion avec divers partenaires. Vous travaillerez sur des architectures de Streaming Data full AWS et des technologies Big Data avancées.

Vos responsabilités incluront notamment :

• La conception et le développement de pipelines de données performants ;
• Administrer, maintenir et optimiser la plateforme Informatica PowerCenter ( serveurs, repository, workflow, sessions...)
• Concevoir, développer et documenter des workflows data pour alimenter le data warehouse et SI applicatifs
• Concevoir, développer et documenter des workflows Lakehouse avec AWS, Airflow, DBT et Python
• L'implémentation d'architectures de Streaming Data scalables et robustes ;
• Le développement de traitements de données en temps réel avec Scala, Spark et Terraform ;
• L'optimisation et la modernisation des flux de données dans un environnement Big Data ;
• Former et assister les utilisateurs internes ( équipes data, développeurs, MOA ...)
• La mise en oeuvre de bonnes pratiques en termes de qualité et de gouvernance des données ;
• La collaboration avec les équipes Data, BI et Infra pour garantir la cohérence et la disponibilité des données.

Environnement technique

• Cloud & Big Data : AWS (Lambda, EMR Serverless, Kinesis Stream, S3, Firehose, DynamoDB)
• Développement : Informatica, Scala, Spark, SQL, Terraform, Python
• CI/CD & Orchestration : GitLab CI/CD, Jenkins
• Méthodologies : Agile (Scrum, Kanban)