Doctorat Etude d'Architectures Innovantes pour l'Intelligence Artificielle Embarquée H/F

CNRS

Dans le domaine de l'intelligence artificielle neuromorphique, les modèles basés sur l'énergie (EBM) connaissent un intérêt croissant, en raison de leur capacité à capturer les relations entre les variables en minimisant une fonction scalaire unique (fonction d'énergie) sans nécessiter de normalisation à l'échelle de l'ensemble des données. Un exemple proéminent d'EBM est certainement le modèle de réseau de Hopfield, binaire ou non, dont l'évolution de l'état de chaque unité (neurone) est dicté par une minimisation de sa contribution à l'énergie totale du système. Une fois l'équilibre atteint (le minimum d'énergie), une lecture du résultat peut être effectuée.

Les EBM présentent des caractéristiques les rendant attractifs pour des implémentations "proche physique" (analogiques / signaux mixtes). En effet tout système dynamique possédant une loi d'évolution dont les paramètres peuvent être ajustés peut être utilisé pour faire un modèle EBM réalisant une tâche arbitraire, comme de la classification d'images par exemple. Un système électrique analogique basé sur des mémoires non volatiles se prête bien à cet exercice, et quelques premières démonstration montrent l'intérêt de cette approche pour la sobriété énergétique.

Adosser ces EBM à des algorithmes d'apprentissage plus biologiquement plausibles et/ou basés sur des lois locales constitue une direction de recherche très prometteuse pour les application d'IA sobres en énergie et à l'Edge: il s'agit ici de rendre ces systèmes capables d'apprentissage à proprement parler, et pas d'inférence uniquement.

Ce sujet de thèse de doctorat prend appui sur des travaux menés au sein du laboratoire, sur une framework logiciel [2], des contributions sur l'algorithmique et l'architecture matérielle [3][4][5] qui s'apprêtent à faire l'objet de la réalisation d'un circuit démonstrateur mais également sur de travaux en cours sur l'apprentissage incréments/continu dans de tels systèmes.
Cette thèse s'attachera à une dimension exploratoire ouverte, pouvant aller au-delà des modèles EBM tout en restant dans le champ des approches « proche physique ». Il s'agira entre autres d'étudier les opportunités d'exploitation de technologies de réalisation différentes au-delà du CMOS (tel l'électronique imprimable / souple), de penser et expérimenter des lois d'apprentissages nouvelles ou émergentes ainsi que de mener des études sur la question des hyperparamètres dans ces réseaux. Ce dernier volet sera voué à étudier la question de la « mise à l'échelle » de ces modèles qui reste à ce jour difficile, avec des difficultés à traiter des problèmes au-delà d'un certain niveau de complexité. Il s'agira d'explorer de nouvelles topologies, organisations de ces réseaux (hiérarchiques), etc.

Ces investigations seront menées dans le cadre du projet "Emergences" [1] du programme cadre national PEPR IA de France 2030. Ces investigations seront menées en collaboration avec d'autres partenaires et doctorants / post-doctorants travaillant sur des sujets connexes.

Les candidats devront posséder des compétences dans au moins deux des domaines suivants :

- Apprentissage automatique et fondements mathématiques associés
- Systèmes embarqués
- Conception analogique/mixte

####
[1] https://emergences.pepr-ia.fr
[2] https://www.frontiersin.org/articles/10.3389/fncom.2023.1114651/full
[3] https://hal.science/lirmm-04959185/
[4] https://hal.science/lirmm-04959178/
[5] https://hal.science/hal-05098393/
Contexte de travail
La thèse se déroulera au LIRMM, unité mixte de recherche CNRS / Université de Montpellier. Cette thèse sera en collaboration étroite avec d'autres partenaires du projet ciblé support du PEPR IA (projet Emergences). Une collaboration internationale avec l'université de Brême est également prévue, université avec laquelle des travaux en collaboration sur les EBM sont menés depuis plusieurs années.

Le poste se situe dans un secteur relevant de la protection du potentiel scientifique et technique (PPST), et nécessite donc, conformément à la réglementation, que votre arrivée soit autorisée par l'autorité compétente du MESR.