Thèse Détection Explicable des Biais Discriminatoires dans les Processus Décisionnels par Construc-Tion Automatique d'Ontologies et Llm Augmentés par des Connaissances H/F

Doctorat.Gouv.Fr

Établissement : Nantes Université École doctorale : École doctorale Mathématiques et Sciences et Technologies du numérique, de l'Information et de la Communication Laboratoire de recherche : Laboratoire des Sciences du Numérique de Nantes Direction de la thèse : Mounira HARZALLAH Date limite de candidature : 2026-07-11T00:00:00
Le sujet de thèse vise à modéliser et structurer les biais discriminatoires intervenant dans les processus de recrutement, de promotion et d'accès aux postes à haute responsabilité. Elle portera dans un premier temps sur ces contextes professionnels, avant d'envisager une généralisation à d'autres milieux où des discriminations peuvent s'exprimer. Le travail consistera à construire une ontologie formelle des biais (genre, origine, religion, niveau social, etc.) à partir de corpus scientifiques et institutionnels, en mobilisant des méthodes d'extraction automatique de connaissances et des grands modèles de langage (LLMs) contrôlés. Cette structuration servira de socle au développement d'un système d'aide à la détection et à la sensibilisation aux biais dans des documents décisionnels. La thèse se situe à l'intersection de l'étude socio-cognitive des discriminations, de l'extraction automatique de connaissances et de l'IA responsable, avec pour objectif de proposer un cadre computationnel explicable au service d'une prise de décision plus équitable.
De nombreux travaux ont mis en évidence l'existence de biais discriminatoires dans les processus de recrutement, de promotion et d'accès aux postes à responsabilité. Ces biais peuvent être liés au genre, à l'origine, à la couleur de peau, à la religion, au niveau social, à l'affinité ou à d'autres caractéristiques individuelles. L'étude fondatrice de Bertrand & Mullainathan [2004] a montré que des CV strictement identiques recevaient des réponses différentes selon le nom du candidat, révélant une discrimination liée à l'origine perçue. Moss-Racusin et al. [2012] ont montré que des dossiers identiques étaient évalués plus favorablement lorsqu'ils étaient attribués à un homme. Des outils tels que le Test des Associations Implicites [Greenwald & Banaji, 1995] ont été développés pour identifier et mesurer ces biais implicites. Toutefois, leur contribution à l'amélioration des processus décisionnels réels demeure limitée. Malgré la richesse des travaux existants, il n'existe pas aujourd'hui de cadre computationnel structuré permettant de représenter explicitement les biais discriminatoires sous une forme exploitable par des systèmes d'intelligence artificielle, ni de les détecter automatiquement dans des documents tels que des rapports d'évaluation, des comptes rendus ou des échanges oraux. Cette difficulté est renforcée par le caractère souvent implicite et non intentionnel de ces biais. Les travaux en psychologie sociale montrent par ailleurs que les systèmes de croyances et les représentations sociales influencent les décisions et peuvent contribuer à l'apparition ou au renforcement de discriminations [Guziolowski et al. 2025] . Dans cette thèse, ces mécanismes socio-cognitifs constituent le cadre théorique permettant d'identifier et de structurer les biais étudiés. Problématique scientifique La question centrale de la thèse est la suivante : comment modéliser formellement les biais discriminatoires afin de permettre leur détection automatique et explicable dans des documents textuels ou des interactions orales ? Cette problématique soulève plusieurs verrous scientifiques. Le premier concerne la construction des connaissances : peut-on élaborer de manière semi-automatique une ontologie des biais discriminatoires à partir de corpus scientifiques et institutionnels en combinant méthodes d'extraction automatique de connaissances, grands modèles de langage (LLM), ressources expertes et méta-modèles ? Le second concerne l'identification des relations entre biais : peut-on extraire automatiquement des règles ou des relations modélisant leurs interactions au sein de l'ontologie? Enfin, le troisième verrou concerne la détection : comment mettre en correspondance un texte décisionnel avec une représentation ontologique afin d'identifier un biais potentiel tout en fournissant une justification explicable ? La dimension interactionnelle constitue également un enjeu important. Il s'agit de concevoir un système d'aide qui permette à une personne estimant avoir subi un biais de disposer d'éléments d'analyse, tout en sensibilisant les évaluateurs sans produire d'accusations automatiques injustifiées. Le projet se situe à l'intersection de l'extraction automatique de connaissances, de l'étude socio-cognitive des discriminations et de l'IA responsable. Les contributions attendues concernent la formalisation computationnelle des biais discriminatoires, l'étude de l'apport des LLM, RAG et connaissances à priori à leur structuration et à leur détection, ainsi que le développement d'un prototype de démonstration.