Vous êtes ici : Accueil » Kiosque » Annonce

Identification

Identifiant: 
Mot de passe : 

Mot de passe oublié ?
Détails d'identification oubliés ?

Annonce

19 novembre 2020

[PhD position] Injection de fautes et Intégrité des réseaux de neurones embarqués : attaques, protections, évaluation


Catégorie : Doctorant


Le CEA LETI propose une thèse dans le cadre du projet ANR PICTURE qui se déroulera au Centre de Microélectronique de Provence (CMP) à Gardanne (13120) dans le cadre de l'équipe de recherche commune entre le CEA LETI et l'Ecole des Mines de Saint-Etienne (MSE-ISMIN).

 

Objectif et contexte

Une des grandes tendances actuelles de l’Intelligence Artificielle est le déploiement massif des systèmes de Machine Learning sur une multitude de plateformes embarquées. Outre les problématiques propres aux contraintes des plateformes matérielles, la sécurité est un des grands freins au déploiement de ces systèmes et de nombreux travaux soulèvent des menaces aux impacts désastreux, comme les « adversarial examples » ou le « membership inference ».

Néanmoins, ces travaux considèrent les algorithmes de ML selon un point de vue purement théorique sans prendre en considérations les particularités de leur implémentation matérielle. De plus, des études plus poussées sont indispensables sur les attaques physiques (side-channel et injection de fautes). En considérant une surface d’attaque regroupant les aspects algorithmiques et matériels, la thèse propose d’analyser des menaces de type Fault Injection Analysis (FIA) ciblant l’intégrité des modèles (tromper une prédiction) des systèmes embarqués de Machine Learning et le développement de protections adaptées.

Présentation détaillée du projet doctoral

Quelques travaux commencent à s’intéresser aux attaques physiques contre des réseaux de neurones embarqués mais avec des architectures très simples ou en pure simulation. Ces travaux ne proposent pas encore des liens entre les modèles de fautes ou les fuites mises en évidence et les failles algorithmiques. La philosophie de la thèse sera de considérer conjointement le monde algorithmique et le monde physique pour mieux appréhender la complexité des menaces et développer des protections appropriées. La thèse s’intéressera aux questions scientifiques suivantes :

Cette thèse s’interfacera avec plusieurs autres thèses portant sur les attaques algorithmiques, les problèmes de confidentialité et de side-channel ou encore la compression de modèles.

Profil: Intelligence Artificielle / Deep Learning; Microélectronique; Systèmes embarquées

Financement: La thèse est financée par le CEA LETI.

Cadre: projet ANR PICTURE

Directeur de thèse: Jean-Max DUTERTRE (Ecole des Mines de Saint-Etienne)

Encadrement: Pierre-Alain MOELLIC (CEA LETI)

Contact: pierre-alain.moellic@cea.fr et dutertre@emse.fr

NB: Des déplacements sur Grenoble sont à prévoir.

 

Dans cette rubrique

(c) GdR 720 ISIS - CNRS - 2011-2020.