Dtnum 93 - Data Engineer d'Un Projet Ministériel Sensible Sic H/F - Direction de la transformation numérique

Le Data Engineer conçoit, industrialise et maintient les pipelines de données pour garantir la disponibilité, la qualité et la sécurité des données au service des équipes métiers et Data Science. Le Data Engineer sera en charge de développer les pipelines avec l'outil OTDH au profit des communautés, de maitriser l'outil OTDH et de faire des propositions d'améliorations, il pourra devenir product owner du produit pipeline.Missions principales- Collecte et acheminement des données: Recueillir les besoins métiers, développer des solutions de collecte via API, gérer le stockage des données (Hadoop, Data Lake) et automatiser les traitements batch ou streaming.- Industrialisation et mise à disposition: Nettoyer et transformer les données, gérer les bases de données, assurer la conformité RGPD et mettre en place les marquants de gestion du besoin d'en connaître (modèle ABAC).- Supervision et maintenance: Surveiller les pipelines, gérer les incidents, planifier la capacité et assurer la continuité de service.- Gouvernance et sécurité: Appliquer les politiques d'accès (RBAC/ABAC), documenter les flux, gérer les logs et le lineage des données.-Acculturation et support: Former les équipes aux bonnes pratiques, aux conventions de nommage et aux patterns d'ingestion.- Recetter les versions du produit livrées par l'éditeur. Construire les tests de non régression, de montée en charge automatisés.- Challenger l'éditeur sur son produit.- Participer et animer les communautés avec les clients du projet pour co-developper des pipelines.- Intégrer des composants externes.- Projeter les données sur la ou les ontologies.

Compétences techniquesLangages et outils : Python, SQL, Scala, JavaScript, Spark, Databricks, Hadoop, Kafka, Flink, ou autre.Orchestration et CI/CD : Airflow, Azure Data Factory, Fabric pipelines, GitHub Actions, Azure DevOps, Terraform/Bicep.Stockage et modélisation : Delta, Parquet, Lakehouse, Data Warehouse, tests unitaires et d'intégration, data contracts.Optimisation et monitoring : Performance, coûts (FinOps), dashboards de suivi, KPIs (latence, taux de succès, MTTR/MTBF), data-framework.app.Compétences comportementalesCuriosité et veille technologique pour suivre l'évolution rapide des outils et méthodesCapacité à collaborer avec les équipes projet et clients en transversal.Rigueur, autonomie et sens de l'organisation pour gérer des pipelines complexes et sécurisés

• SGBD
• RGPD
• Test unitaire
• Python
• Javascript
• API
• Veille technologique
• Autonomie
• Batching
• Terraform
• Git
• Dashboard
• Scala
• SQL
• Hadoop
• KAFKA
• Sens de l’organisation