Stage - LLM Engineer sur Universal Code Transformer - F/H/N

Stage
Paris
Salaire : Non spécifié
Expérience : < 6 mois
Postuler

OCTO Technology
OCTO Technology

Cette offre vous tente ?

Postuler
Questions et réponses sur l'offre

Le poste

Descriptif du poste

Company Description

OCTO

Premier cabinet d’architectes IT fondé en 1998, pionnier du delivery agile et véritable concentrateur de talents. Nous incarnons les nouvelles façons de faire du conseil et du Delivery. Digital Doers & Thinkers est notre marque de fabrique. 

Nous privilégions aujourd'hui notre positionnement Agile & DeepTech et sommes engagés quant à notre responsabilité sociale et environnementale.

Job Description

Le sujet du stage : 

Enrichissement d'UCT, outil GenAI de traduction de code SAS au coeur des projets de transformation analytique : développer de nouvelles fonctionnalités dans l'outil pour sécuriser son usage lors de projets de transformation à grande échelle. 

Le Why du stage : 

Les assistants de code se démocratisent et font leurs preuves sur des langages communément utilisés. Comment s'assurer qu'avec UCT (Universal Code Transformer), asset basé sur la GenAI, OCTO Technology garde bien son avance dans la transformation de code propriétaire SAS ?

Les missions du stage :

  • Identifier les leviers à l'état de l'art pour rendre efficace un LLM sur une tâche spécialisée : le LLM doit "comprendre" les subtilités du code SAS afin de le traduire de façon générique. 
  • Implémenter au moins une des méthodes short-listées et en mesurer les performances sur notre jeu de données d'évaluation. 
  • Si performance de la traduction > performance courante d'UCT alors déployer la fonctionnalité dans la prochaine version de l'accélérateur. 
  • Livrer des perspectives sur d'autres expérimentations à mener pour favoriser l'amélioration continue de l'accélérateur. 
  •  Principaux axes d'amélioration d'UCT en FY26 :

    1) industrialisation/automatisation de toute la chaîne de transformation

    2) approche orchestrateur de modèles pour faciliter le passage d’un modèle à l’autre

    3) optimisation de la transformation “SAS-to-Dataiku”, enjeu majeur sur plusieurs projets/opportunités 4) Ajout d’une autre solution lowcode (Azure Factory par exemple)

Le déroulement du stage :

Partie 1: État de l’art des techniques permettant de spécialiser un LLM sur des tâches non génériques.



Partie 2 : Prise en main de l’accélérateur UCT et montée en compétences sur la base de code avec le Lead Dev d’UCT.



Partie 3 : Expérimentation d’une ou plusieurs techniques de spécialisation (fine-tuning, RLHF, few-shot learning, etc.) selon les performances de traduction observées.



Partie 4 : Déploiement des fonctionnalités offrant la capacité jugée la plus performante dans la phase d’expérimentation dans la codebase d’UCT.



Partie 5 : Partage au sein d’OCTO des principaux enseignements tirés du stage.


Profil recherché

OCTO Wanted

  • Formation en Informatique avec une spécialité Data Science (projet d'étude/expérience perso sur la GenAI) 
  • Culture technique sur l'état de l'art des modèles de fondation
  • Compétences solides python (Bonus : compétences en node.js)
  • Connaissance d'un cloud service provider (par priorité AWS, GCP et Azure)
  • Connaissance de git
  • Expérience sur les LLMs d'Anthropic ou Gemini Pro fortement appréciée
  • Bonne capacité de travail en équipe

Additional Information

OCTO Rewards

Et parce que nous savons qu’un stage n’est pas “juste” un stage, on vous partage aussi quelques petits + qui font notre différence :

  • 6 participations, 6 podiums au palmarès « Great Place To Work », le bien-être et la progression des Octos est vraiment au cœur de nos préoccupations et nous venons de renouveler notre certification pour la 7e fois cette année ! 

  • “There is always a better way” : nous encourageons et soutenons l’innovation par la R&D. Au-delà d’une direction Scientifique dédiée, nous valorisons le temps hors mission pour partager ses connaissances : blog OCTO, talks, meet-up, livre blanc, BBL… en bref de l’open source alimenté par tous les Octos ; 

  • Parce que ce ne sont pas que des mots, nous marquons au quotidien notre engagement en matière de numérique responsable : depuis 2021 OCTO est Certifié BCorp. Nous formons les Octos et nos clients à la fresque du climat et œuvrons pour la sobriété numérique en interne et auprès de nos clients ; 

  • Le management est un point central de notre culture. Les Octos tuteurs sont formés pour vous accompagner dans le développement de vos compétences ;

  • Parce qu’on n’a jamais fini d’apprendre, vous pourrez tirer parti de nos formations, apprendre avec des OCTOs plus expérimentés, et faire parti d'un collectif de passionnés ! 

  • Signataire, en 2023, de la charte de la diversité et de l'accord Handicap, et depuis 2022, de la Charte de l’Autre Cercle concernant l’inclusion des personnes LGBTQI+ en entreprise.

Sans oublier les fondamentaux :

  • Matériel au choix : ordinateur (PC ou Mac) ;

  • Télétravail ;

  • Et bien sûr : carte Swile, absences autorisées payées, CSE

OCTO priority 

Collaborer avec des personnes talentueuses issues de différents horizons. Aussi, ce que nous cherchons avant tout, ce sont des personnalités qui enrichiront OCTO. 

En respectant l'égalité des chances, les candidatures sont examinées sans aucun préjugé quant à l'âge, l'ethnie, l'identité de genre, l’expression de genre, le handicap, la nationalité, la religion ou l'orientation sexuelle.

Envie d’en savoir plus ?

Postuler