Stage - Fonctions d’influence pour l’explicabilité globale des réseaux de neurones H/F

L’Institut de Recherche Technologique (IRT) Saint Exupéry est un accélérateur de science, de recherche technologique et de transfert vers les industries de l’aéronautique et du spatial pour le développement de solutions innovantes sûres, robustes, certifiables et durables.

Nous proposons sur nos sites de Toulouse, Bordeaux, Montpellier, Sophia Antipolis et Montréal un environnement collaboratif intégré composé d’ingénieurs, chercheurs, experts et doctorants issus des milieux industriels et académiques pour des projets de recherche et des prestations de R&T adossés à des plateformes technologiques autour de 4 axes : les technologies de fabrication avancées, les technologies plus vertes, les méthodes & outils pour le développement des systèmes complexes et les technologies intelligentes.

Nos technologies développées répondent aux besoins de l'industrie, en intégrant les résultats de la recherche académique.

La popularisation des réseaux de neurones a suscité beaucoup d’intérêt grâce à leurs performances impressionnantes, mais ces résultats sont obtenus au dépit de l’interprétabilité des modèles. Le domaine de l’explicabilité a donc émergé pour y faire face et aider à la compréhension de ces modèles de boîte noire.

Missions :
 
L’objectif du stage sera de développer des nouvelles techniques d’explicabilité par l’exemple afin d’identifier des groupes que les modèles de réseau de neurones considèrent comme sémantiquement similaires, et qui sont donc traités de façon similaire par ces modèles. Pour ce faire, nous nous intéresserons aux fonctions d’influence [1], un outil qui s’avère utile pour la détection d’exemples importants du jeu de données.
 
La/Le stagiaire intégrera l’équipe DEEL à l’IRT où sont développés les algorithmes de deep learning et les techniques d’explicabilité. Après une première phase d’étude de la bibliographie ([1], [2], [3], [4], [5]), la/le stagiaire réalisera tests pour prouver l’efficacité de ces techniques pour identifier lesdits groupes, d’abord sur des jeux de données jouets, et ensuite sur des cas d’usage de vision par ordinateur.
 
Elle/Il comparera la performance des différentes formulations implémentées et par rapport aux méthodes de l’état de l’art de l’explicabilité globale par l’exemple.
 
Suivant les résultats obtenus, la publication d’un article scientifique pourrait être envisagée.

Références :

• Understanding Black-Box Predictions Via Influence Functions [1]
• On the Accuracy of Influence Functions for Measuring Group Effects [2]
• On Second-Order Group Influence Functions for Black-Box Predictions [3]
• Influence Functions in Deep Learning Are Fragile [4]
• Estimating Training Data Influence by Tracing Gradient Descent [5]

Etudiant(e) en dernière année d’école d’Ingénieur ou Master 2 en mathématique : deep learning, pytorch/tensorflow/jax
 
Ouverture d’esprit / Capacités d’initiative et de proposition / rigueur.

Stage de 6 mois.