Nous recherchons un Data Engineer H/F pour intervenir au sein d'un environnement Cloud Data Warehouse sous Microsoft Azure.
Vous rejoindrez une équipe travaillant sur des sujets à forts enjeux autour de la Data, du Cloud et de l'industrialisation, avec un rôle à la fois orienté Data Engineering, supervision et DevOps.
Le profil recherché devra être capable d'intervenir sur l'ensemble de la chaîne de traitement des données, de la conception des pipelines jusqu'au déploiement et la supervision.
Vos principales missions:
Concevoir, développer et orchestrer des notebooks Databricks en PySpark
Alimenter et exploiter une architecture Medallion: Bronze / Silver / Gold
Manipuler et optimiser les formats Parquet, Delta et CSV, en tenant compte des enjeux de performance, robustesse et coûts
Optimiser les notebooks et jobs existants
Mettre en place et maintenir la supervision des flux de données
Monitorer les pipelines Azure Data Factory
Suivre la qualité des données et mettre en place des alertes et tableaux de bord
Participer à la détection et à la résolution des incidents ainsi qu'à la fiabilisation de la plateforme Data
Collaborer avec les équipes métiers et techniques afin de comprendre les besoins et industrialiser les traitements
Faire évoluer les repositories d'infrastructure Terraform et Jenkins
Maintenir et exécuter les pipelines Jenkins dédiés aux déploiements et traitements Data
Participer à la gestion des repositories GitHub: branches, PR/MR, revues de code et workflows Git
Contribuer à l'automatisation et à la diffusion des bonnes pratiques Git / CI/CD
Intervenir sur les sujets d'infrastructure Cloud associés à la plateforme Data
Réaliser des études d'opportunité
Participer à des dossiers d'innovation
Produire des études, recommandations et dossiers d'architecture
Répondre aux expressions de besoins internes
Environnement technique:Cloud & Data
DevOps & CI/CD:
Langages:
Data:
Librairies:
Compétences attendues
Les avantages du modèle JOCAD:
En rejoignant JOCAD IT, vous bénéficiez d'un environnement structuré et attentif au bien-être des collaborateurs:
7 An(s), Adapter les outils de traitement statistique de données, S, Définir et faire évoluer des procédés de traitement de l'information, S, Conduire des travaux d'études et de recherche, S