Cette offre n’est plus disponible.

Stage :Ingénieur sur la Sécurisation de la vérification de Watermark de modèle d'IA (H/F)

Stage
Palaiseau
Salaire : Non spécifié
Télétravail non autorisé

Thales
Thales

Cette offre vous tente ?

Questions et réponses sur l'offre

Le poste

Descriptif du poste

QUI SOMMES-NOUS ?

Thales propose des systèmes d’information et de communication sécurisés et interopérables pour les forces armées, les forces de sécurité et les opérateurs d’importance vitale. Ces activités, qui regroupent radiocommunications, réseaux, systèmes de protection, systèmes d’information critiques et cybersécurité, répondent aux besoins de marchés où l’utilisation des nouvelles technologies numériques est déterminante. Thales intervient tout au long de la chaîne de valeur, des équipements aux systèmes en passant par le soutien logistique et les services associés.Situé sur le campus de l’École polytechnique, au cœur du pôle scientifique et technologique d’envergure mondiale de Paris-Saclay, le site de Palaiseau rassemble les activités de recherche du Groupe en France. Les laboratoires de ThereSIS (THALES European REsearch center for Security & Information Systems) y mettent au point des technologies dans les domaines de la connectivité et des réseaux, de la cyber-sécurité, de l’intelligence artificielle et de la science des données au service des activités mondiales du Groupe. Grâce à un réseau international de partenaires industriels et à une politique proactive de collaboration avec le monde académique et les start-ups, nos collaborateurs peuvent proposer des technologies innovantes de la transformation numérique aux équipes d’ingénierie et de développement de Thales. Ils co-développent avec elles des solutions qui répondent à des besoins opérationnels et concrets.

Dans ce cadre nous recherchons un :

Stage : Ingénieur sur la Sécurisation de la vérification de Watermark de modèle d'IA (H/F)

Stage de 5 à 6 mois

Basé à Palaiseau (91)

QUI ETES-VOUS ?

  • Vous êtes issu d'une formation technique/ingénieur BAC+5 en Sécurité avec de l’appétence pour les Sciences des Données/l’apprentissage machine ?

  • Vous êtes curieux, rigoureux et consciencieux ?

  • Vous recherchez un stage de 5 à 6 mois ?

  • Vous disposez d'une aisance affirmée en programmation en Python ?

  • Vous avez un intérêt particulier pour l’apprentissage automatique et la sécurité?

  • L’idée d’exploiter des données et de participer à un projet de recherche multidisciplinaire vous anime ?

  • L’idée d’être intégré à une équipe technique innovante vous attire ?

Si la réponse est oui, n’hésitez plus et découvrez vos futures missions !

CE QUE NOUS POUVONS ACCOMPLIR ENSEMBLE :

Une nouvelle piste de recherche vise à protéger la propriété intellectuelle des créateurs de modèles d'apprentissage automatique, en mettant l'accent sur la détection du vol ou de l'utilisation abusive d’un modèle. Elle est fortement motivée par le développement des attaques permettant de copier un modèle caché derrière une interface de service.

Le filigrane de modèle est une des techniques de protection de la propriété intellectuelle dans le contexte de l'apprentissage automatique [1]. Elle consiste à modifier (introduire un filigrane) les caractéristiques d’un modèle afin de permettre son identification et sa traçabilité. Plus en détail, ce ‘filigrane’ est défini comme un changement inhabituel dans l'apparence ou le comportement du modèle qui peut être lié à l'identité de son créateur. Lors de la vérification, le réseau est testé pour la présence du filigrane en mode dit ‘boîte blanche’ (nécessitant l'accès aux paramètres du modèle) ou ‘boîte noire’ (seul l'accès à l'API est requis).

La procédure de vérification de la présence d’un filigrane dans un modèle a attiré peu d’attention jusqu’ici. Cependant, plusieurs risques concernant cette étape ont déjà été identifiées, tels qu’un attaquant voulant fuir la vérification d’un modèle volé. Les quelques solutions existantes proposent la vérification par un tiers de confiance ou font appel à la cryptographie pour protéger les informations sensibles [2].

Dans ce contexte, vos missions seront les suivantes :

  • Vous aurez pour objectif d’explorer les pistes autours de la sécurisation de la vérification de l’origine d’un modèle contenant un ou plusieurs filigranes.

  • Dans un premier temps, après avoir étudier l’état de l’art et pris connaissance des travaux déjà réalisés par ThereSIS sur le sujet, le protocole proposé dans [2] sera implémenté à l’aide des librairies connus tels que [3].

  • Dans un deuxième temps, des variantes du protocole seront proposées : elles seront adaptées aux nouvelles techniques de marquage de modèles et/ou elles viseront à contrer les possibles attaques sur les techniques existantes. Par ailleurs, vous pourrez, en plus de l’encadrement par des permanents, échanger avec un doctorant travaillant sur le sujet du tatouage des modèles.

  • Il sera attendu une rédaction régulière et rigoureuse d’un rapport technique, en accord avec les exigences de la formation, et une présentation à réaliser en fin de stage devant les équipes. Par ailleurs, selon l’avancée des travaux, les résultats pourront être communiquées à d’autres équipes de Thales et donner lieu à une publication.

Références :

1) K.Kapusta, V. Thouvenot, and O. Bettan, “Watermarking at the service of intellectual property rights of ML models”, CAID’20

2) K. Kapusta, V. Thouvenot, O. Bettan, H. Senet, and H. Beguinet. “A Protocol for Secure Verification of Watermarks Embedded into Machine Learning Models”, IH&MMSec’22

3)https://github.com/microsoft/APSI

Tous nos stages sont conventionnés et soumis à une gratification dont le montant est déterminé selon votre niveau d’études.

Innovation, passion, ambition : rejoignez Thales et créez le monde de demain, dès aujourd’hui.

Envie d’en savoir plus ?

D’autres offres vous correspondent !

Ces entreprises recrutent aussi au poste de “Développement de logiciels et de sites Web”.

Voir toutes les offres