Thèse Caractérisation Topologique d'Espaces d'États Atteignables Applications à la Vérification de Réseaux de Neurones H/F

Institut Polytechnique de Paris École polytechnique

Cette thèse vise à développer une approche innovante pour vérifier deux propriétés essentielles d'algorithmes numériques : leur robustesse (résistance à de petites perturbations des entrées) et leur respect des spécifications. L'originalité réside dans la combinaison de méthodes numériques ensemblistes (garantissant des résultats rigoureux) et de l'analyse topologique de données (TDA), qui a été développée à l'origine pour étudier la forme globale d'ensembles de données. Ces méthodes semblent particulièrement prometteuses dans le cas où l'algorithme est un algorithme de classification, le plus souvent implémenté par un réseau de neurones.
L'hypothèse centrale est que les données ne sont pas juste des nuages de points isolés, mais s'organisent en variétés topologiques. L'analyse topologique des données (TDA), via des outils comme l'homologie persistante, permet de caractériser la géométrie des classes de données et de comparer cette structure à celle apprise par le réseau. Si les topologies coïncident, le réseau est bien adapté ; sinon, cela révèle un défaut d'échantillonnage ou une généralisation excessive. Cette comparaison est métrique : elle permet également de déterminer la distance entre les entrées classifiées différemment, donc donne une mesure de robustesse du classifieur.
L'objectif est de formaliser, implémenter et expérimenter ces nouvelles méthodes sur des cas d'étude réalistes tels MNIST, ACAS Xu ou ETCS, pour fournir des mesures précises de robustesse et de généralisation des réseaux de neurones.

L'intelligence artificielle est désormais intégrée à de nombreuses applications de la vie quotidienne. Nous dépendons de plus en plus des
réseaux de neurones, implémentant par exemple des classificateurs, pour aider à la décision financière, ou à la perception de danger divers,
et il est primordial de pouvoir vérifier leur bon comportement.
La vérification par abstraction de la sureté de réseaux de neurones a récemment reçu une attention considérable, avec en particulier
l'analyse d'accessibilité des réseaux de neurones par des abstractions polyédriques, avec une application en particulier
à l'analyse de robustesse locale.

Cette thèse vise à développer une approche innovante pour vérifier deux propriétés essentielles d'algorithmes numériques : leur robustesse (résistance à de petites perturbations des entrées) et leur respect des spécifications.

La thèse s'appuiera sur le développement d'analyses ensemblistes arrières (étudier l'image inverse du réseau) pour calculer des invariants topologiques afin d'estimer la topologie des classes inférées, en utilisant des méthodes de pavage ou des méthodes polyédriques. Ces approximations sous- ou sur-estimées permettent de calculer des invariants topologiques (nombres de Betti, homologie) et de mesurer l'écart entre la topologie des données et celle apprise par le réseau, via des distances comme la distance de Gromov-Hausdorff ou la distance d'entrelacement.
Un autre axe concerne la réduction de dimensionnalité (par t-SNE ou quasi isometric embeddings) pour appliquer ces méthodes à des réseaux de grande taille. Enfin, la thèse explorera le lien entre ces approches topologiques et des méthodes statistiques garanties (théorie de Dempster-Shafer), ainsi que des applications à la vérification de systèmes cyberphysiques ou de réseaux de neurones de graphes (GNNs).