Stagiaire - Ingénieur(e) : Explicabilité basée concepts pour des modèles Vision-Langage

A l’IRT Saint Exupéry nous réalisons des projets de Recherche en Technologie collaboratifs, principalement pour les secteurs aéronautique et spatial.

Créé et cofinancé par l’Etat et nos partenaires industriels, notre mission est d’accélérer la recherche technologique française au profit de l’écosystème national, en créant un pont entre le monde académique et l’industrie. 

Ici, tu travailleras dans un environnement collaboratif avec des équipes issues du monde académique, industriel, du personnel détaché par de grands groupes, des chercheurs ou encore des doctorants.

Notre force c’est le niveau d’expertise de nos collaborateurs et nos plateformes technologiques différenciantes : https://storage.net-fs.com/hosting/6834310/4/

Pourquoi nous rejoindre ?

-      Prendre part à des projets de recherche innovants

-      Vivre ta passion pour la technologie 

-      Te Développer dans un environnement collaboratif intégré et multiculturel

Quelques-uns de nos avantages :

Un environnement éthique engagée: Gender Equality Plan , la prise en compte des enjeux environnementaux, sociaux, économiques et éthiques dans leurs activités via un Gender Equality Plan et une politique R.S.E. ambitieuse.

Un CSE dynamique : clubs, activités, offre culturelle

La prise en charge des déplacements éco-responsables (75% de ton abonnement transports en commun) ainsi qu'une prime mobilité douce.

Saches que l’IRT Saint Exupéry s’engage pour la diversité et l’inclusion. Toutes les candidatures à ce poste seront étudiées sans différence de traitement liée au sexe, à l’âge, à la nationalité ou tout autre critère discriminant. Tous nos postes sont ouverts aux personnes en situation de handicap.

L’intelligence artificielle, et en particulier le Deep Learning, ont montrés ces dernières années des performances inégalées dans de nombreux domaines. Cependant la nature aléatoire de leur entraînement induit des difficultés pour leur application à des systèmes critiques qui comportent de forts enjeux en termes de sécurité matérielle et humaine.

Pour pallier ces limitations, le projet DEEL (DEpendable and Explainable Learning www.deel.ai, dans le cadre du Cluster IA ANITI aniti.univ-toulouse.fr/#chaires) s’intéresse à l’explicabilité des modèles d’IA. Ce nouveau domaine vise à comprendre le fonctionnement des modèles dits « boîtes noires », et ainsi valider le raisonnement suivi par ces modèles et analyser ses failles lorsqu’ils prédisent de façon erronée.

Souvent liée à la « mechanistic interpretability », une approche qui commence à gagner en popularité est celle des concepts : si l’on arrive à décomposer l’espace latent des réseaux de neurones en concepts qu’un humain peut comprendre, le problème se réduit à estimer leur importance lors des décisions et à les localiser dans l’entrée. Pour le moment, cette théorie a été appliquée surtout dans le cadre de modèles entraînés avec une seule modalité (vision, texte, etc.), mais cette démarche commence à être transposée aux modèles alignés Vision-Langage. En particulier, la.le stagiaire sera chargé.e d’étudier ces décompositions dans le cadre de modèles de type CLIP / SigLIP et d’évaluer la qualité des concepts sous différentes métriques.

Le stage comprendra :

-          Une prise en main des solutions existantes dans le cadre de modèles avec une seule modalité (vision, texte) à l’aide de la librairie xplique https://github.com/deel-ai/xplique.

-          Adaptation des méthodes basées concepts aux VLMs (Vision-Language Models).

-          Etude des concepts extraits dans les différentes modalités.

-          Evaluation de la qualité des concepts à travers différentes métriques et pour l’interprétation par des humains.

Tu recherches un stage de fin d’études de niveau Bac+5 (Ingénieur, Master) en cursus Mathématiques appliquées ou Informatique scientifique.

Tu sais programmer en Python, et tu as mis en œuvre des librairies de machine learning et de deep learning (PyTorch, Tensorflow).

Tu peux lire, écrire et t’exprimer en anglais.

Rejoins nous !

"Ne prévois pas ton futur, rends-le possible"