Data Engineer - Aws Scala Spark H/F CHARLI GROUP

Contexte

Dans le cadre d'un programme de transformation DATA, l'objectif est de doter l'entreprise d'outils permettant une exploitation avancée des données pour des prises de décisions optimisées. Ce programme impacte à la fois les technologies utilisées, l'organisation et les processus internes.

Les projets en cours sont variés et incluent :

- L'optimisation des algorithmes de recommandation et segmentation ;
- Le développement d'un Feature Store pour la gestion des données ;
- La modernisation des flux financiers et des plateformes de contenu ;
- La mise en place d'architectures Big Data traitant plus de 100 To de données par jour ;
- Le partage d'informations clients avec des partenaires stratégiques.

Missions

Intégré(e) à l'équipe DATA Delivery, vous interviendrez sur l'évolution et la maintenance des socles de données (Usage, VOD, Advertising, CRM...) et leur interconnexion avec divers partenaires. Vous travaillerez sur des architectures de Streaming Data full AWS et des technologies Big Data avancées.

Vos responsabilités incluront notamment :

- La conception et le développement de pipelines de données performants ;
- L'implémentation d'architectures de Streaming Data scalables et robustes ;
- Le développement de traitements de données en temps réel avec Scala, Spark et Terraform ;
- L'optimisation et la modernisation des flux de données dans un environnement Big Data ;
- La contribution aux initiatives FinOps pour optimiser l'infrastructure et les coûts ;
- La mise en oeuvre de bonnes pratiques en termes de qualité et de gouvernance des données ;
- La collaboration avec les équipes métiers pour garantir leur autonomie dans l'exploitation des données et des KPI.

Environnement technique

- Cloud & Big Data : AWS (Lambda, EMR Serverless, Kinesis Stream, S3, Firehose, DynamoDB)
- Développement : Scala, Spark, SQL, Terraform, Python
- CI/CD & Orchestration : GitLab CI/CD, Jenkins
- Méthodologies : Agile (Scrum, Kanban)