Data engineer confirmé : airflow, gcp

Descriptif de la mission :

Contexte et détails de la mission

La Direction Technique du Numérique de cette entreprise mène des projets transverses en étroite collaboration avec les autres directions, notamment la direction Data. La Direction Data, au sein de la Direction du Numérique, a été créée avec la volonté de faire de la Data un levier de croissance des offres numériques.

La Direction Data a 3 grandes missions : maximiser la collecte de données tout en respectant les réglementations en vigueur, développer la connaissance et l’expérience utilisateurs et mettre à disposition auprès des équipes internes des outils de pilotage et d’aide à la décision.

Adossée à la plateforme data, la prestation se déroulera au sein de l’équipe Gold Pilotage. L’équipe constituée d’un Product Owner et de deux Data ingénieurs, est en charge de la mise à disposition des données utiles pour le pilotage des offres numériques et à l’ensemble des dashboards et reporting via son produit “Data4All”.

Notre stack technique est principalement constitué de Python, SQL, dbt , BigQuery, Airflow pour l’orchestration des traitements et Terraform ainsi que Terragrunt pour l’industrialisation. La stack inclut aussi d’autres services de la Google Cloud Platform.

Prestations attendues :
1. Maintenir et faire évoluer Data4all et les différents dispositifs de l’équipe
2. Accompagner les utilisateurs des données de l’équipe dans leurs usages
3. Mettre en place le contrôle qualité sur les données traitées par l’équipe

En interaction avec les membres de l’équipe, la mission consiste à :
• Participer activement aux différentes phases de conception, de planification et de réalisation des tâches avec l’équipe
• Construire et maintenir des modèles de données et des pipelines data robustes et scalables
• Accompagner les membres de l’équipe dans l’exploitation et le requêtage des données
• Organiser et structurer le stockage des données
• Mettre en place et maintenir des infrastructures scalables capable de répondre aux besoins et à l’accroissement rapide du volume de données
• Participer aux initiatives de gouvernance des données en assurant la qualité, la fiabilité et l’intégrité des données
• Construire et maintenir les workflows de la CI/CD
• Partager avec les autres data ingénieurs pour appliquer les bonnes pratiques en vigueur
• Assurer l’évolutivité, la sécurité, la stabilité des environnements
• Participer aux différentes instances des data ingénieurs
• Contribuer et veiller à la mise à jour de la documentation
• Faire de la veille technologique active dans le domaine

Expertises demandées pour la réalisation de la prestation :
• Au moins 3 ans d’expérience en tant que Data Ingénieur dans un environnement data
• Compétences solides en data : structures de données, code, architecture
• Expériences dans la conception et la réalisation de pipelines data
• Expériences dans un environnement du cloud Google (GCP)
• Expériences intégrant BigQuery et Dataplex Universal Catalog
• Expériences intégrant les langages Python et SQL
• Expériences intégrant Spark
• Expériences intégrant dbt
• Expériences intégrant Terraform et Terragrunt
• Expériences intégrant Gitlab et Gitlab CI/CD
• Expériences intégrant les méthodologies Agile : Scrum ou Kanban
• Capacité à vulgariser et à communiquer sur des aspects purement techniques

Niveau d’expertise :
Pour rappel, les niveaux d’expertise attendus pour les prestations sont de 3 niveaux définis ci-dessous :
• Junior : moins de 3 ans d’expérience significative dans le type d’expertise demandé
• Confirmé : 3 à 5 ans d’expérience significative dans le type d’expertise demandé
• Sénior : plus de 5 ans d’expérience significative dans le type d’expertise demandé

Environnement Technique

Python

Scrum

SQL

BigQuery