Services informatiques sécurisés et solutions IA pour divers secteurs.
Portés par le talent et la diversité de nos 51 000 collaborateurs présents dans 54 pays, nous proposons des services informatiques sécurisés et de bout en bout couvrant le cloud, la cybersécurité, la data et l’IA, les applications digitales, les plateformes intelligentes et la digital workplace, ainsi qu’un conseil en stratégie et transformation et des services personnalisés et en proximité, grâce à notre présence mondiale et à notre ancrage local.
Nos solutions numériques, nos technologies, nos innovations et nos expertises intégrées sont conçues pour avoir un impact durable pour nos clients, nos collaborateurs et la société dans son ensemble. Nos clients nous font confiance pour gérer leurs environnements les plus critiques, notamment dans les secteurs réglementés et souverains.
Filiale du Groupe Atos, Eviden propose des technologies basées sur l’IA dans quatre domaines clés : le calcul avancé, les systèmes critiques de mission, les produits de cybersécurité et l’analyse vidéo augmentée par l’IA (vision AI).
Notre objectif ?
Avoir un impact significatif pour nos clients et l’ensemble de la société, en étant guidés par nos trois grandes valeurs : l’ingéniosité, la fiabilité, et la solidarité. C’est ce que nous appelons le « Power of We ».
Rejoindre Atos, c’est découvrir une culture d’entreprise qui favorise la collaboration et l’innovation avec des opportunités d’apprentissage et de développement infinies. Que vous soyez étudiant, jeune diplômé ou plus expérimenté, ce qui compte pour nous c’est votre avenir.
Nous sommes guidés par nos valeurs :
Ingéniosité : Nous sommes une société d’ingénieurs qui allie agilité et compétence. Nous concevons des solutions innovantes et créatives qui aident nos clients à anticiper ce qui compte le plus pour leurs parties prenantes dans le monde d’aujourd’hui.
Fiabilité : Nous sommes solides et résistants ; nos clients savent qu’ils peuvent toujours compter sur nous. Nous offrons constamment l’excellence ; nous donnons le meilleur de nous-mêmes dans tout ce que nous réalisons, du quotidien aux activités critiques.
Solidarité : Nous croyons à la puissance du « Power of We » pour avoir un impact plus fort et plus inclusif sur le monde. Notre écosystème de relations solides - entre nous, avec nos clients, nos partenaires et nos communautés - est la base solide sur laquelle notre entreprise prospère.
Serving et Runtime des modèles : Concevoir et optimiser la plateforme de serving basée sur vLLM, configurer le parallélisme selon l'architecture du modèle et l'interconnexion de l'infrastructure cible, et installer/maintenir llm-d pour l'inférence distribuée et désagrégée (préremplissage/décodage désagrégés, routage conscient du cache KV).
Cycle de vie et pipelines multimodaux : Maîtriser le cycle de vie des modèles en plateforme (versioning, déploiement progressif, rollback) y compris en environnements isolés, et servir des pipelines multimodaux (audio temps réel, STT, TTS, OCR) ainsi que des services d'embedding et de reranking (bases vectorielles comme Milvus).
Fiabilité, Observabilité et Benchmarking : Instrumenter la couche de serving avec Prometheus et Grafana (métriques GPU et par token, logs structurés, traçabilité), mettre en place des déploiements canary/blue-green avec portes d'évaluation automatisées, et mener des campagnes de benchmarking structurées pour suivre et réduire le coût par token et la latence de queue.
Support Avant-Vente et Dimensionnement : Fournir des données de dimensionnement et de performance défendables pour appuyer les activités d'avant-vente, les appels d'offres et la planification de capacité.
Description du profil :
Compétences et qualifications
Expérience : Solide parcours (généralement 7+ ans d’expérience en ingénierie avec un temps significatif dédié au serving de modèles ML/AI) dans la construction et l’exploitation d’inférences LLM en production.
Compétences techniques clés : Expérience pratique démontrée des plateformes de serving de modèles natives Kubernetes et de l’inférence distribuée (idéalement llm-d ou une pile équivalente comme Dynamo).
Architecture des modèles : Compréhension fine des architectures de modèles open-weight courantes (Mistral, Llama, Qwen, Kimi, DeepSeek, GPT-OSS, Gemma) et de leur impact sur les performances de serving (MoE, MTP, Sparse Attention, MLA).
Soft skills : Capacité avérée à communiquer des idées complexes en anglais, à l’écrit comme à l’oral, face à des interlocuteurs techniques et commerciaux.
Compétences techniques et outils principaux :
Langages et développement : Python avancé (profiling, async, FastAPI) et Go.
Moteurs et piles d’inférence : vLLM, llm-d, SGLang, TensorRT-LLM, NVIDIA Dynamo, et gestion des architectures distribuées/désagrégées (préremplissage/décodage séparés, routage KV-cache).
Plateforme et conteneurisation : Kubernetes, Docker, Helm, KServe, opérateurs GPU.
Matériel et infrastructures : Clusters GPU NVIDIA et AMD, NVLink, interconnexions haute vitesse (InfiniBand / RoCE), systèmes type NVL72.
Optimisation de modèles : Techniques de quantification (FP8, NVFP4, AWQ, GPTQ), formats (Safetensors) et maîtrise des architectures de modèles (MoE, MTP, Sparse Attention, MLA).
Observabilité et Benchmarking : Prometheus, Grafana, outils de tracing distribué, et suites de benchmarks (MLPerf Inference, GenAI-Perf, vLLM benchmarks).
Bull recherche un(e) Staff / Principal LLM Inference Engineer au sein de l’équipe produit BSQAI pour piloter la pile d’inférence de BullSequana AI (BSQAI) et son intégration avec la plateforme matérielle BullSequana. La pile fournit un serving de LLM natif Kubernetes (modèles multi-nœuds open-weight, embedding, reranking et multimodaux), standardisé sur llm-d pour l’inférence distribuée et désagrégée, déployé sur des infrastructures d’IA souveraines sur site, sur le cloud souverain ou en hybride.
Ce poste à portée “staff-to-principal” combine une influence architecturale transversale et une direction technique concrète délivrée par de l’ingénierie hands-on, en étroite collaboration avec les équipes Data, Services IA, Agents, Foundation, ainsi que le matériel, l’avant-vente et le delivery. L’impact attendu est direct : réduction mesurable du coût par token et de la latence de queue, et industrialisation de déploiements fiables et sécurisés (environnements connectés et isolés/air-gapped).
En bref
Année de création
1997
Nombre d'employés
51000
Chiffre d'affaires
8 milliards €
Genre
30%
70%