Cette offre n’est plus disponible.

Data Engineer - Intégration de Flux

CDI
Paris
Salaire : Non spécifié
Télétravail fréquent
Expérience : > 1 an
Éducation : Bac +4

APHP DSN
APHP DSN

Cette offre vous tente ?

Questions et réponses sur l'offre

Le poste

Descriptif du poste

La mission de votre équipe

Afin de permettre le développement de projets de recherche innovants, en particulier dans le domaine de l’intelligence artificielle, l’AP–HP a mis en place une plateforme Big Data, infrastructure informatique propre, intégrant des capacités de stockage et de calcul pour l’exploitation sécurisée et performante des données de santé dont elle est dépositaire. Cette plateforme héberge notamment l’entrepôt de données de santé (EDS) de l’AP-HP.

L’Entrepôt de Données de Santé (EDS) de l’AP-HP intègre des données administratives et médicales de plus de 8 millions de patients hospitalisés ou venus en consultation au sein des 39 établissements de l’AP-HP (20 millions de dossiers médicaux, plus de 10 millions de diagnostics, 181 millions de résultats de laboratoires…). Cet entrepôt permet d’améliorer le pilotage de l’activité hospitalière et de faire avancer la recherche scientifique dans le domaine de la santé en favorisant la réalisation d’études sur données, la mise en place d’essais cliniques et le développement d’algorithmes d’aide à la décision.

La Plateforme Big Data de l’AP-HP compte actuellement +20 machines pour le cluster Hadoop (5To RAM, +850 Cores, 1.8Po d’espace disque), de machines GPU (56 Nvidia P40 et V100), de 20 machines dédiées aux environnements Jupyter pour l’analyse de données, et de nombreuses autres machines applicatives.

Votre équipe, le domaine « Plateforme Big Data », a pour mission l’intégration des données de santé massives et complexes (données structurés, textes, imagerie, voix, signaux physiologiques, etc.) et leur utilisation à grande échelle, de manière performante, ergonomique et sécurisée dans le respect des principes et règles de gouvernance des données définis par l’AP-HP.

Vos missions

Au sein de l’équipe en charge de la réalisation et du suivi des pipelines d’intégration de données, vous aurez pour missions de proposer et de développer de nouveaux flux de type ETL, de même que des outils ou composants spécifiques, adaptés à la typologie des sources (données structurées ou non structurées). Ces développements s’inscrivent dans un contexte exceptionnel de très grandes volumétries de données de santé avec des objectifs d’industrialisation des flux d’intégration et de standardisation des données selon le modèle de données commun OMOP et d’interopérabilité sur la base du standard d’échange HL7-FHIR.

En tant que data engineer - intégration de flux, sous la responsabilité du chef d’équipe intégration de flux, vous contribuez aux activités transversales d’exploitation et collaborez avec les acteurs internes de l’infrastructure et de DevOps pour bâtir le socle de nos projets de recherche sur données médicales. Vos missions comportent typiquement des facettes suivantes :

  • Contribuez à la définition des besoins techniques et à l’accompagnement des chercheurs/médecins lors de la réalisation de projets de recherche impliquant de nouvelles sources de données
  • Analyserez les différents sources de données d’un point de vue technique (acquisition, stockage, transformation, exploitation, …)
  • Développerez, industrialiserez et maintiendrez les flux d’intégration de données (extraction, sélection, collecte et intégration) soit avec l’utilisation de l’ETL Talend + connecteurs spécifiques, soit via des développements en Spark/Scala
  • Contribuerez à l’utilisation de ces nouvelles typologies de données (extraction, sélection, collecte et intégration) via des connecteurs spécifiques développés en java, python ou d’autres langages
  • Industrialiserez le code de génération du flux de données et assurer sa performance globale
  • Aiderez à l’implémentation de standards et normes de mise à disposition des données (OMOP/FHIR)
  • Développerez des méthodologies standardisées pour l’intégration de nouvelles données
  • Mettrez en place des outils les processus de tests unitaires, de recette et de qualification des données
  • Travaillerez en collaboration avec des partenaires industriels dans le cadre des différents projets de recherche

Profil recherché

Idéalement, vous..

  • Avez un diplôme d’ingénieur ou équivalent (bac+4/5, master2) en informatique ou sciences avec formation complémentaire en informatique
  • Avez une expérience de développement sous Linux, des langagage Java et/ou Python et des outils EAI (Mirth, …) et ETL (Talend ou autre)
  • Avez une expérience dans la manipulation de données avec le langage SQL
  • Connaissez les standards en informatique de santé (HL7 v2, DICOM, HL7-FHIR, OMOP, …)
  • Avez le goût de l’intégration de systèmes informatiques hétérogènes
  • Avez des connaissances des bonnes pratiques de sécurité informatique et de la réglementation informatique et libertés
  • Adhérez aux valeurs du service public et vous avez un intérêt prononcé pour le domaine de la santé
  • Avez un niveau d’anglais courant

Vous avez un savoir faire dans un de ces domaines :

  • Bonne maitrise du langage Python et de bash
  • Bonnes connaissance des bases de données Oracle, Postgresql ou MySQL et langages associés (sql)
  • Bonne maitrise en méthode de conduite de projet (planification, reporting, analyse de risques, …)
  • Connaissance des outils ETL (Talend, …), d’informatique décisionnelle et des méthodes de data warehouse (OLTP, RDBMS…)
  • Connaissance du traitement des données massives et des technologies Big Data (Hadoop, Kafka, Spark, Elastic Search, NoSQL, etc.)
  • Connaissance en méthodes de développement logiciel (dont cycle en V, méthodes agile), méthodes d’analyse et de modélisation (Merise, UML …)
  • Connaissance en administration d’environnements Linux
  • Connaissance des méthodologies devops et des outils associés (Docker, Kubernetes, Jenkins…)

Et humainement ?

  • Capacité à appréhender des enjeux liés à la recherche, à l’analyse de données et aux technologies de machine learning/deep learning, notamment dans le domaine de la santé (santé publique, imagerie médicale, épidémiologie, …)
  • Esprit d’équipe et la volonté de prendre part à une aventure collective
  • Sens de l’écoute, du résultat et de la qualité
  • Des qualités d’autonomie, de flexibilité et de responsabilité
  • Curieux, dynamique et créatif, avec un réel envie de faire preuve d’innovation

Déroulement des entretiens

2-3 Entretiens Tél/Visio + Présentiel

Envie d’en savoir plus ?

D’autres offres vous correspondent !

Ces entreprises recrutent aussi au poste de “Données/Business Intelligence”.

Voir toutes les offres