Ingénieur MLOps F/H AP-HP - Direction des Services Numériques (DSN)
Direction des services numériques pour l'excellence médicale et scientifique.
Temporary
Paris
A few days home
45K to 55K € a year
> 2 years
5 years of study
Skills we're looking for
Data privacy
Communication skills
Cloud infrastructure management
Assessment and evaluation
CUDA
+6
You'll be part of
617 employees
Artificial Intelligence / Machine Learning
Big Data
Health
Average age: 45
68%
32%
Employee turnover: 11
Premier centre hospitalier et universitaire européen, l’AP-HP accueille chaque année plus de 8 millions de patients et couvre 84 spécialités médicales et chirurgicales. Elle est reconnue pour la qualité et la compétence de ses professionnels qui exercent au sein de 38 sites hospitaliers dans toute l’Ile-de-France et en région.
Travailler à l’AP-HP, c’est servir l’intérêt général au sein d’un grand service public et venir en appui des professionnels de santé pour la meilleure prise en charge possible des patients.
Les équipes de la Direction des services numériques (DSN) de l’AP-HP participent directement à l’effort de consolidation d’un haut niveau d’excellence médicale et scientifique.
C’est la raison pour laquelle chaque collaboratrice et collaborateur de la DSN de l’AP-HP s’engage à :
- s’investir quotidiennement, dans le respect de l’intégrité, de la sécurité et de la protection des données sensibles,
- travailler dans un esprit collaboratif avec toutes les équipes pour atteindre les objectifs fixés,
- fournir le meilleur service aux utilisateurs finaux des systèmes d’information,
- faire preuve de bienveillance et de politesse en toute circonstance,
- respecter sans condition les règles de confidentialité inhérentes à nos activités.
La Direction des services numériques :
- Intègre des logiciels/progiciels,
- Développe des applications,
- Teste et qualifie des produits,
- Développe des méthodes et outils de traitement de données massives,
- Construit des architectures et assure une urbanisation optimale des applications informatiques,
- Pilote des infrastructures complexes : serveurs, stockage, réseaux de haute performance,
- Conduit et met en œuvre des projets innovants et de recherche sur données.
Ce que vous ferez dans notre équipe contribuera directement au bon fonctionnement de l’AP-HP pour assurer notre Priorité N°1 : fournir le meilleur service à nos patients et nos professionnels !
You'll be working on
- Dimensionner et déployer le cluster GPU sur OVHcloud : choix des instances et des cartes, arbitrages coût / mémoire / débit, réseau et stockage adaptés aux poids de modèles, le tout décrit en Terraform comme le reste de notre infrastructure.
- Industrialiser la couche GPU : drivers et pilotes CUDA, runtime conteneur GPU, opérateur GPU sur Kubernetes, partage et ordonnancement des cartes entre charges de travail, mise à l’échelle et extinction des ressources inutilisées.
- Opérer les serveurs d’inférence : déploiement et réglage de moteurs type vLLM ou équivalents, gestion du cycle de vie des modèles et de leurs versions, quantification, batching, mesure et optimisation de la latence et du débit.
- Exposer une passerelle LLM interne : API compatible avec les clients standards, authentification, quotas et suivi de consommation, journalisation - pour les applications comme pour les outils de l’équipe.
- Construire les briques applicatives d’appui : embeddings et recherche vectorielle, chaînes de RAG sur nos référentiels et notre documentation, évaluation de la qualité des réponses.
- Garantir le cadre données de santé : isolation stricte des environnements, aucune donnée sortante, traçabilité des accès et des inférences, en lien avec la sécurité et la conformité.
- Observer et maîtriser les coûts : métriques GPU, saturation, taux d’occupation, coût par requête et par usage - la sobriété fait partie du travail.
- Contribuer au socle commun : l’infrastructure GPU n’est pas une île, vous participez aussi à l’IaC, à la CI et au run de l’équipe.
We're looking for
Idéalement, vous avez …
- Un diplôme d’ingénieur ou équivalent (Mathématique, Informatique, Santé publique, etc.)
- 3 ans d’expérience minimum en infrastructure, DevOps ou MLOps, dont une expérience significative sur des charges GPU. Un profil DevOps qui s’est spécialisé vers le GPU nous intéresse autant qu’un profil MLOps qui a gardé les mains dans l’infrastructure.
Vous maitrisez :
- Une pratique réelle de Terraform et d’Ansible : ce poste est un poste d’infrastructure avant d’être un poste d’IA.
- Une expérience concrète de déploiement de charges GPU : vous avez déjà fait tourner des modèles sur des cartes que vous administriez, et vous connaissez les pièges - mémoire, drivers, conteneurs, files d’attente.
- Une bonne connaissance de l’écosystème LLM open weights : serveurs d’inférence, formats et quantifications, dimensionnement mémoire d’un modèle, compromis qualité / vitesse / coût.
- Kubernetes en conditions réelles : déploiements, ressources et limites, stockage persistant, opérateurs.
- Vous codez pour de vrai : Python solide, shell, API et conteneurs - vous livrez du code lisible, testé et versionné.
- Un esprit d’évaluation : vous mesurez avant d’affirmer, y compris sur la qualité des sorties d’un modèle.
Vous avez une bonne connaissance :
- Recherche vectorielle et RAG, observabilité LLM, fine-tuning léger, sensibilité aux enjeux de confidentialité en santé.
Et humainement ? vous êtes …
- doté(e) de qualités relationnelles et de communication : savoir écouter, dialoguer, argumenter en s’adaptant à l’ensemble des interlocuteurs, faire preuve de maîtrise de soi et de diplomatie
- doté(e) d’une aisance orale et rédactionnelle
- organisé(e), rigoureux(se) et méthodique
- flexible, vous vous adaptez à votre environnement
- motivé(e) et êtes intéressé(e) par le domaine de la santé
- de nature curieuse, vous aimez découvrir et apprendre tous les jours
Benefits
Key figures
In short
Employees
617
Average age
45
Turnover rate
11
Gender
32%
68%
