Stage - Model Explainability H/F REEV

Mission

Les modèles de détection d'activité au coeur de DREEVEN sont déjà développés et intégrés par l'équipe IA. Ils fournissent des signaux d'entrée essentiels à la couche d'analyse de contrôle, influençant les décisions de couple, de synchronisation et de sécurité.

Ce stage se concentre sur rendre ces modèles interprétables et explicables, pour améliorer la compréhension clinique, le débogage et la fiabilité du système.

Aussi, tu travailleras sur la conception, l'implémentation et l'évaluation de méthodes d'explicabilité pour les modèles de détection d'activité actuellement utilisés dans DREEVEN.

Cela implique d'explorer à la fois les explications globales (au niveau du modèle) et locales (au niveau de la décision), de développer des outils de visualisation et d'évaluer comment les explications peuvent soutenir les flux de travail cliniques et d'ingénierie.

Activités

- Étudier l'architecture et les sorties des modèles de détection d'activité existants (déjà entraînés et validés par l'équipe IA de REEV).
- Développer des outils d'explicabilité et de visualisation pour interpréter les prédictions de ces modèles dans le temps.
- Appliquer et comparer des techniques d'explicabilité telles que SHAP, LIME, Integrated Gradients, Layer-wise Relevance Propagation (LRP) ou Attention Visualization.
- Évaluer les explications en termes de fidélité, stabilité et performance d'exécution.
- Proposer des méthodes pour rendre les explications compréhensibles aux cliniciens, testeurs et ingénieurs de contrôle.
- Intégrer le flux de travail d'explicabilité le plus performant dans le pipeline d'analyse de contrôle ou un tableau de bord de surveillance.
- Documenter les résultats et fournir des recommandations pour une intégration future dans les systèmes de production.