Thèse Modèles de Langage Specialisés pour le Raisonnement Industriel H/F doctorat.gouv.fr
- Paris - 75
- CDD
- Bac +5
- Service public d'état
Les missions du poste
Cette thèse CIFRE avec OPLIT, éditeur d'une solution d'ordonnancement industriel, propose un cadre neuro-symbolique articulant graphes de connaissances, LLM et optimisation.
Le premier pilier est le Unified Factory Knowledge Model (UFKM), un graphe de propriétés typé qui organise toutes les données hybrides de l'usine, textuelles et tabulaires. Il relie les concepts et contraintes métier aux tables, séries temporelles et signaux capteurs qu'ils décrivent. Il enrichit ainsi le sens des données brutes et constitue une source de vérité partagée pour les LLM, les vérificateurs et les solveurs. Sa construction automatisée par des méthodes génératives de graphes fait partie des contributions.
Le second pilier est la construction de LLM spécialisés en raisonnement industriel, car les modèles généralistes ne suffisent pas à servir d'interface fiable aux opérateurs. Nous étudierons le post-entraînement de modèles ouverts (fine-tuning supervisé puis apprentissage par renforcement à partir de retours humains) sur des données industrielles réelles et synthétiques, pour cinq besoins : (1) comprendre des règles opérateur en langage naturel et les traduire en contraintes formelles pour nos moteurs de décision ; (2) générer ou adapter un modèle d'optimisation selon le contexte d'une usine, pour faire évoluer le moteur d'ordonnancement ; (3) raisonner sur les ordonnancements produits, au regard des contraintes qui les ont conditionnés, par exemple pour les corriger après une remarque d'opérateur ; (4) raisonner sur les conflits entre contraintes incompatibles ; (5) répondre à des questions industrielles ancrées dans de grandes bases de données d'usine.
Le principe est neuro-symbolique : le LLM formalise, le solveur résout, le vérificateur certifie. Chaque sortie du modèle est validée par un composant symbolique (schéma du graphe, SAT/SMT, exécution par le solveur), qui peut aussi servir de récompense pour l'entraînement. La thèse est complémentaire d'une seconde thèse consacrée à l'apprentissage par renforcement (RL) pour l'ordonnancement, avec laquelle une collaboration est prévue. L'objectif est notamment d'étudier comment un LLM peut assister une politique d'ordonnancement apprise, par exemple en concevant et ajustant ses fonctions de récompense à partir des retours des opérateurs.
Le cadre sera validé sur les données d'OPLIT et sur des benchmarks publics. Les résultats attendus sont des publications en apprentissage automatique et optimisation, et un LLM de raisonnement industriel déployable chez les clients d'OPLIT, capable de réaliser l'ensemble des tâches décrites ci-dessus sans compromettre les garanties formelles. La connaissance nécessaire à l'optimisation industrielle est rarement formalisée. Elle est dispersée entre procédures, tableurs, bases de données et expertise des planificateurs. Le goulot d'étranglement tient donc autant à l'ingénierie des connaissances qu'à l'algorithme d'optimisation lui-même.
Les graphes de propriétés et les graphes de connaissances sont devenus un standard pour intégrer des données hétérogènes. Les LLM servent de plus en plus à les construire (EDC, KGGen, AutoSchemaKG). Ces méthodes restent toutefois centrées sur le texte et traitent peu la multimodalité, la provenance et l'évolution du graphe. En parallèle, les agents LLM capables de parcourir des graphes (Think-on-Graph, Reasoning-on-Graphs, KG-Agent) et les approches GraphRAG ont montré leur efficacité sur les questions multi-sauts. Ils sont cependant conçus pour des graphes textuels et des questions factuelles, et non pour l'aide à la décision sur des données industrielles hybrides.
Côté recherche opérationnelle, une littérature en forte croissance (NL4Opt, OptiMUS, Chain-of-Experts, LLMOPT, ConstraintLLM) montre que les LLM parviennent à formuler des problèmes d'optimisation à destination d'un solveur, mais sont peu fiables pour les résoudre eux-mêmes. Ces travaux s'appuient sur des descriptions textuelles isolées, sans représentation structurée du système et sans garantie de cohérence avec les contraintes existantes.
Les méthodes de post-entraînement ont par ailleurs transformé les LLM généralistes en modèles de raisonnement spécialisés. Le fine-tuning supervisé, l'apprentissage par renforcement à partir de retours humains (InstructGPT, DPO) et, plus récemment, le renforcement à partir de récompenses vérifiables (DeepSeek-R1) permettent d'adapter un modèle ouvert à un domaine où la qualité d'une réponse peut être contrôlée automatiquement. L'optimisation sous contraintes est un domaine idéal pour ces méthodes, car un solveur ou un vérificateur peut juger chaque sortie. Cette voie reste pourtant peu explorée pour le raisonnement industriel.
Enfin, le RL profond s'est imposé pour l'ordonnancement de tâches (Learning-to-Dispatch). Les LLM commencent à y concevoir des récompenses ou des stratégies (Eureka, ReflecSched), mais sans ancrage dans les données propres à chaque usine. Les politiques apprises restent par ailleurs peu explicables. La thèse vise à développer un LLM d'aide au raisonnement industriel. Ses générations sont conditionnées par les données de l'usine stockées dans l'UFKM et vérifiées formellement avant d'être transmises aux moteurs de décision. Elle poursuit cinq objectifs :
1. Automatiser la construction et la mise à jour du Unified Factory Knowledge Model, un graphe de connaissances fiable qui unifie les données textuelles et tabulaires de l'usine à partir de sources hétérogènes.
2. Construire, par post-entraînement de modèles ouverts, un LLM spécialisé en raisonnement industriel, ancré dans ce graphe, capable de traduire des règles opérateur en contraintes formelles, d'adapter les modèles d'optimisation au contexte d'une usine, de raisonner sur les ordonnancements produits et sur les conflits de contraintes, et de répondre à des questions ancrées dans de grandes bases de données industrielles.
3. Garantir la fiabilité de ce LLM selon un principe neuro-symbolique : vérifier formellement chaque sortie (schéma du graphe, SAT/SMT, exécution par le solveur) et exploiter ces vérificateurs comme signal d'entraînement.
4. Constituer des jeux de données et des benchmarks couvrant ces tâches de raisonnement industriel, et en publier une partie en open source afin de permettre à la communauté de comparer ses approches sur des problématiques industrielles réalistes.
5. Définir, en collaboration avec une thèse complémentaire sur l'apprentissage par renforcement, le rôle des LLM auprès des politiques d'ordonnancement apprises : conception des récompenses et guidage de l'apprentissage.
La démarche suit un principe neuro-symbolique : chaque composant neuronal est associé à un mécanisme symbolique qui garantit la fiabilité de ses sorties. Elle se déroule en quatre étapes.
Construction de l'UFKM. Les données textuelles et tabulaires des usines sont intégrées dans un graphe de propriétés typé par des méthodes génératives de graphes pilotées par LLM. Chaque mise à jour est validée par un schéma et enrichie d'informations de provenance.
Constitution des données et des benchmarks. Pour chaque tâche visée (traduction de règles en contraintes, adaptation de modèles d'optimisation, correction d'ordonnancements, détection de conflits, questions ancrées dans les données), nous construisons des jeux de données à partir de trois sources : cas réels anonymisés des clients d'OPLIT, données synthétiques générées à partir de contraintes et d'ordonnancements dont la solution de référence est connue, et corrections apportées par les planificateurs. Une partie de ces ressources sera publiée en open source.
Post-entraînement du LLM. Un modèle ouvert est spécialisé par fine-tuning supervisé sur ces données, puis par apprentissage par renforcement. La récompense est fournie par des vérificateurs symboliques (compilation de la contrainte, faisabilité du modèle, respect de la remarque de l'opérateur) et par les retours humains. Le modèle est ancré dans l'UFKM, qu'il explore à l'aide d'outils simples ; ses sorties sont vérifiées par SAT/SMT avant transmission aux solveurs.
Validation. Les méthodes sont évaluées sur les données d'OPLIT, sur des benchmarks publics d'autoformulation et de raisonnement sur graphes, et sur les benchmarks synthétiques construits en étape 2.
Les calculs s'appuient sur les ressources du CNRS (Jean Zay). Le calendrier prévoit l'UFKM et les premiers benchmarks en première année, l'entraînement du modèle en deuxième année, puis l'intégration chez OPLIT et la rédaction en troisième année
Le profil recherché
Bienvenue chez doctorat.gouv.fr
Publiée le 17/11/2026 - Réf : a3e18219754b134a2058533d2bd6fbdd