Thèse Confiance et Sécurité Sensibles à la Criticité Clinique pour des Agents d'IA Autonomes en Iot Médical 6G H/F Doctorat.Gouv.Fr

Établissement : Université de Toulouse École doctorale : EDMITT - Ecole Doctorale Mathématiques, Informatique et Télécommunications de Toulouse Laboratoire de recherche : LAAS - Laboratoire d'Analyse et d'Architecture des Systèmes Direction de la thèse : Samir MEDJIAH ORCID 0000000174687253 Début de la thèse : 2027-09-01 Date limite de candidature : 2026-11-23T23:59:59 Les réseaux 6G autonomes reposent de plus en plus sur des agents d'IA distribués qui perçoivent, planifient, coordonnent et agissent sur le continuum terminal-périphérie-coeur. Cette évolution introduit de nouveaux modes de défaillance et d'attaque : hallucinations non adversariales, injection de prompt et empoisonnement de données visant un agent, et attaques en cascade se propageant entre agents de fournisseurs différents. Les architectures Zero Trust authentifient et autorisent l'accès, mais n'évaluent pas si un agent authentifié reste fiable dans son comportement, ni si ses actions proposées restent appropriées au contexte.

Ces risques sont les plus critiques dans l'Internet des objets médicaux (IoMT), domaine d'application et de validation de cette thèse. L'IoMT combine des exigences qu'aucun autre secteur 6G ne réunit simultanément : latence bornée, disponibilité continue, dispositifs certifiés non patchables, et impossibilité d'isoler un dispositif vital sur simple soupçon. La littérature sur la sécurité agentique 6G valide ses défenses sur du trafic générique, sans modèle de réponse contraint ni comptabilité énergétique ; la littérature sur la sécurité IoMT traite la spécificité médicale mais repose sur une détection centralisée hors ligne, sans réponse graduée sensible à la sécurité du patient.

Cette thèse conçoit un cadre dynamique de gestion de la confiance pour des agents d'IA hétérogènes, organisé autour de quatre objectifs. O1 conçoit des modèles de confiance et un modèle d'information interopérable, projeté sur des couches standardisées (oneM2M, ETSI MEC, 3GPP NRM), pour un échange de preuves en temps réel entre fournisseurs et domaines. O2 définit un modèle de menace spécifique à l'IoMT et des mécanismes de détection sensibles à la confiance pour les défaillances non adversariales, les attaques sur agents et les attaques par agents, y compris sur les flux physiologiques, avec des alertes interprétables par le personnel clinique et biomédical. O3, contribution centrale, conçoit une couche d'application de la politique de sécurité sensible à la sécurité du patient : une fonction de sélection choisit une action de mitigation proportionnée à la criticité clinique du dispositif visé, bornée par une matrice d'actions admissibles garantissant qu'un dispositif vital n'est jamais isolé, et reste valide lorsque l'agent décideur est déconnecté. O4 intègre le cadre dans une architecture distribuée d'agents gardiens et de points d'application de politique, évaluée sur la plateforme 5G du LAAS-CNRS. Une composante transverse ancre le modèle de criticité des dispositifs dans la réglementation existante et examine l'acceptabilité réglementaire et clinique des actions de sécurité autonomes.

Le cadre est évalué face à une architecture Zero Trust de référence sur l'efficacité de détection par classe d'attaque, le coût clinique des actions de mitigation sélectionnées et la latence de décision, ainsi que sur des métriques de frugalité rarement rapportées dans l'état de l'art (énergie par détection, empreinte mémoire, surcoût de communication), sous connectivité nominale, intermittente et en isolement prolongé. Les résultats attendus incluent un modèle d'information de confiance interopérable avec une contribution à la normalisation, un mécanisme d'application sensible à la sécurité du patient doté de propriétés vérifiables, et des scénarios d'évaluation reproductibles publiés en accès ouvert, pour des résultats de frugalité et de résilience à la déconnexion actuellement absents de la littérature. Le passage à une 6G autonome introduit des agents d'IA distribués sur le continuum terminal-périphérie-coeur, capables de percevoir, planifier, coordonner et agir. Cette évolution introduit de nouveaux modes de défaillance et d'attaque : hallucinations non adversariales, injection de prompt, empoisonnement de données visant un agent, et propagation en cascade entre agents de fournisseurs différents. Les architectures Zero Trust authentifient et autorisent l'accès mais n'évaluent pas si un agent authentifié reste fiable dans son comportement, ni si ses actions proposées restent appropriées au contexte.

Ces risques sont les plus critiques dans l'Internet des objets médicaux (IoMT), domaine d'application et de validation de cette thèse. L'IoMT combine des exigences qu'aucun autre secteur 6G ne réunit simultanément : latence bornée, disponibilité continue, dispositifs certifiés non patchables, et impossibilité d'isoler un dispositif vital sur simple soupçon. La littérature sur la sécurité agentique 6G valide ses défenses sur du trafic générique, sans modèle de réponse contraint ni comptabilité énergétique ; la littérature sur la sécurité IoMT traite la spécificité médicale mais repose sur une détection centralisée hors ligne, sans réponse graduée sensible à la sécurité du patient. Trois verrous en résultent : l'absence de mitigation sensible à la criticité clinique, la frugalité énergétique affirmée mais non mesurée, et l'absence d'évaluation en connectivité dégradée.
------------------------------------------------------------------------------------------------------------------------
The shift towards autonomous 6G introduces AI agents distributed across the device-edge-core continuum, able to perceive, plan, coordinate and act. This evolution introduces new modes of failure and attack: non-adversarial hallucinations, prompt injection, data poisoning targeting an agent, and cascading propagation between agents from different vendors. Zero Trust architectures authenticate and authorise access but do not assess whether an authenticated agent remains behaviourally reliable, nor whether its proposed actions remain appropriate to the context.

These risks are most critical in the Internet of Medical Things (IoMT), the application and validation domain of this thesis. IoMT combines requirements that no other 6G sector brings together simultaneously: bounded latency, continuous availability, certified non-patchable devices, and the impossibility of isolating a life-supporting device on mere suspicion. The literature on 6G agentic security validates its defences on generic traffic, without a constrained response model or energy accounting; the literature on IoMT security addresses medical specificity but relies on centralised, offline detection, without a graduated response sensitive to patient safety. Three gaps follow: the absence of mitigation sensitive to clinical criticality, frugality that is claimed but not measured, and the absence of evaluation under degraded connectivity.
O1 - Concevoir des modèles de confiance dynamiques et un modèle d'information interopérable (oneM2M, ETSI MEC, 3GPP NRM) pour évaluer et échanger la confiance en temps réel entre agents hétérogènes.
O2 - Définir un modèle de menace spécifique à l'IoMT et des mécanismes de détection sensibles à la confiance (défaillances non adversariales, attaques sur agents, attaques par agents), avec des alertes interprétables par le personnel clinique.
O3 - Concevoir une couche d'application de la politique de sécurité sensible à la sécurité du patient : sélection d'actions de mitigation proportionnées à la criticité clinique du dispositif visé, bornées par une matrice d'actions admissibles.
O4 - Intégrer et évaluer une architecture distribuée d'agents gardiens et de points d'application de politique sur la plateforme 5G du LAAS, comparée à une architecture Zero Trust.
Composante transverse (T) - Ancrer le modèle de criticité dans la réglementation des dispositifs médicaux et analyser l'acceptabilité clinique et réglementaire des actions de sécurité autonomes.
------------------------------------------------------------------------------------------------------------------------
O1 - Design dynamic trust models and an interoperable trust information model (oneM2M, ETSI MEC, 3GPP NRM) to assess and exchange trust in real time among heterogeneous agents.
O2 - Define a threat model specific to IoMT and trust-based detection mechanisms (non-adversarial failures, attacks on agents, attacks by agents), producing alerts interpretable by clinical staff.
O3 - Design a safety-aware policy enforcement layer: selection of mitigation actions proportionate to the clinical criticality of the targeted device, bounded by an admissible-action matrix.
O4 - Integrate and evaluate a distributed architecture of Guardian Agents and Policy Enforcement Points on the LAAS 5G platform, compared against a Zero Trust architecture.
Transverse component (T) - Ground the device criticality model in medical-device regulation and analyse the clinical and regulatory acceptability of autonomous security actions. Le travail est organisé en quatre lots scientifiques correspondant aux quatre objectifs, complétés par un lot transverse.

WP1 (M2-M15) conçoit le modèle d'information de confiance et les modèles de calcul et de propagation de la confiance.
WP2 (M10-M22) définit le modèle de menace IoMT et les mécanismes de détection sensibles à la confiance, avec exigence d'interprétabilité clinique.
WP3 (M16-M28), contribution centrale, formalise la fonction de sélection d'action sensible à la criticité, le modèle de coût clinique associé, les primitives d'application (politiques SDN, QoS de tranche, mise en quarantaine), et la dégradation contrôlée sous déconnexion.
WP4 (M24-M33) intègre l'architecture d'agents gardiens et de points d'application de politique et l'évalue sur la plateforme 5G du LAAS, selon trois régimes de connectivité (nominal, intermittent, isolement prolongé), contre une architecture Zero Trust de référence.
WPT (M4-M30, transverse) dérive le modèle de criticité des dispositifs de classifications réglementaires existantes et produit la matrice d'actions admissibles, en lien avec un partenaire biomédical.
WP0 (M1-M3) et WP5 (M34-M36) couvrent respectivement l'état de l'art initial et la rédaction du manuscrit.
------------------------------------------------------------------------------------------------------------------------
The work is organised into four scientific work packages corresponding to the four objectives, complemented by a transverse work package.

WP1 (M2-M15) designs the trust information model and the models for computing and propagating trust.
WP2 (M10-M22) defines the IoMT threat model and the trust-based detection mechanisms, with a requirement for clinical interpretability.
WP3 (M16-M28), the central contribution, formalises the criticality-aware action-selection function, the associated clinical cost model, the enforcement primitives (SDN policies, slice-level QoS, quarantine), and controlled degradation under disconnection.
WP4 (M24-M33) integrates the Guardian Agent and Policy Enforcement Point architecture and evaluates it on the LAAS 5G platform, under three connectivity regimes (nominal, intermittent, prolonged isolation), against a Zero Trust baseline.
WPT (M4-M30, transverse) derives the device criticality model from existing regulatory classifications and produces the admissible-action matrix, in connection with a biomedical partner.
WP0 (M1-M3) and WP5 (M34-M36) cover, respectively, the initial state of the art and the writing of the manuscript.