Phd Exploitation de la Criticité pour la Fiabilisation des IA Physiques H/F Orange

Les systèmes agentiques, basés sur les LLM, visent à automatiser la prise de décision et?d'action dans le monde?réel?grâce à l'IA. L'émergence de protocoles standardisés accélère l'intégration de ces outils. Toutefois, les IA génératives restent sujettes à l'erreur, ce qui limite leur adoption industrielle [1]. Pour Orange, fiabiliser ces systèmes est stratégique : cela renforce la confiance, différencie l'offre et ouvre de nouveaux marchés.?

La criticité correspond au niveau d'importance d'un risque, d'un incident, d'un équipement ou d'une situation, en fonction de ses conséquences et de sa probabilité d'occurrence.
Elle doit permettre de guider les choix des systèmes agentiques qui interagissent avec le monde réel, afin de limiter les erreurs et d'anticiper les conséquences (sécurité, environnement, coût) et d'adapter dynamiquement le comportement de l'agent au niveau de risque associé à son contexte d'action. La problématique est de réussir à la modéliser et l'exploiter.
?
Les travaux viseront en particulier à :
proposer une définition de la criticité dans le contexte de l'IA agentique
développer des méthodes permettant d'évaluer dynamiquement cette criticité, par exemple à l'aide de simulations, d'apprentissage par renforcement ou de modèles hybrides
intégrer cette mesure dans l'architecture des agents, que ce soit au niveau du guidage de la planification, de la spécialisation de LLM, de la sélection d'outils, ou de la conception de planificateurs dédiés
valider expérimentalement l'approche sur des cas d'usage industriels, tels que l'orchestration ou des environnements de type workspace
produire des résultats valorisables sous forme de publications scientifiques ou de brevets
En s'appuyant sur la bibliographie existante, les travaux s'articuleront en trois étapes : la définition d'un cadre théorique définissant la criticité pour les systèmes agentiques, son évaluation expérimentale sur des données réelles et des cas d'usage représentatifs, puis la généralisation des résultats en recommandations et méthodes réutilisables dans d'autres contextes opérationnels.
[1] F. Lei et al., "MCPVerse: An Expansive, Real-World Benchmark for Agentic Tool Use, 2025.
[2] Y. Wu, et al., "?SELP: Generating Safe and Efficient Task Plans for Robot Agents with Large Language Models?", ICRA 2025.
[3] J. Fan, et al., "?SafeGen-LLM: Enhancing Safety Generalization in Task Planning for Robotic Systems?", 2026.