Stage Rémunéré - Feedback Implicite pour l'Évaluation Automatique d'Agents IA H/F Berger Levrault
- Labège - 31
- Stage
- 6 mois
- Bac +5
- Secteur informatique • ESN
À noter sur ce job
Vous avez ces compétences ? Cliquez dessus pour les ajouter rapidement à votre profil !
Détail du poste
Au sein de la Direction de la Recherche et de l'Innovation Technologique (DRIT), vous contribuerez à l'amélioration d'ATHENA, notre plateforme agentique qui mobilise plusieurs agents IA spécialisés pour répondre aux besoins des utilisateurs.
Aujourd'hui, les utilisateurs peuvent évaluer explicitement les réponses des agents, mais ces retours restent facultatifs et ne couvrent qu'une partie des interactions. Pourtant, leurs comportements au fil d'une conversation fournissent de nombreux indices : reformulation d'une question, demande de précision, correction d'une information, changement d'agent ou encore consultation de sources.
Votre défi ? Exploiter ces signaux pour mieux comprendre si une réponse a été utile, sans tirer de conclusions hâtives sur les utilisateurs ou sur la qualité du service rendu.
- Réaliser un état de l'art sur le feedback implicite, l'analyse des dialogues multi-tours, la satisfaction utilisateur et l'évaluation continue des assistants conversationnels.
- Définir une typologie de signaux comportementaux observables dans ATHENA.
- Concevoir un schéma de données reliant les réponses, les actions observables et le contexte des conversations, en veillant à la minimisation et à la traçabilité des données.
- Constituer un corpus d'étude associant des interactions, des feedbacks explicites lorsqu'ils existent et des annotations de référence.
- Étudier et comparer différentes approches : règles interprétables, modèles de classification, analyse séquentielle et combinaison de plusieurs signaux.
- Développer un protocole d'évaluation permettant de mesurer la précision, la calibration, la stabilité et la capacité de généralisation des indicateurs.
- Concevoir un prototype intégrable à ATHENA pour générer, stocker et visualiser les indicateurs de feedback implicite.
- Rendre les estimations explicables en identifiant les signaux qui ont conduit à chaque résultat et en permettant leur correction ou leur invalidation.
- Prendre en compte les enjeux de confidentialité, de biais et d'incertitude en privilégiant des analyses agrégées.
L'objectif sera notamment de faire émerger des indicateurs probabilistes et explicables : besoin d'approfondissement, réponse potentiellement incomplète, ambiguïté non levée ou encore tâche vraisemblablement aboutie.
NB : Stage à pourvoir à partir de Janvier / Février 2027 pour une durée de 6 mois.
Profil :
🎓Vous préparez un diplôme de niveau Bac +5, en dernière année d'école d'ingénieur ou de Master, avec une spécialisation en intelligence artificielle, traitement automatique des langues (TAL/NLP), recherche d'information, data science ou informatique appliquée.
📈Vous maîtrisez Python et l'analyse de données.
💡 Vous avez des connaissances en NLP/TAL et en modèles de langage.
👩💻Vous avez des notions de classification, d'analyse de séquences et de statistiques.
🚀Vous portez un intérêt à l'évaluation des systèmes conversationnels et l'intelligence artificielle responsable.
🤝 Vous êtes autonome, rigoureux(se), doté(e) d'un bon esprit d'analyse et de synthèse.
Informations :
Votre future dream team: Vous rejoindrez la Direction de la Recherche et de l'Innovation Technologique (DRIT) et serez accompagné(e) par une équipe pluridisciplinaire composée de : Nihed Bendahmani - Ingénieure de recherche ;Vincent Laval - Développeur Full Stack ;Myriam Robbana - Ingénieure de recherche.
Compétence linguistique :
Français
C1 - Autonome
Infos complémentaires
Les étapes de recrutement
Les étapes de recrutement peuvent varier selon l'offre à laquelle vous postulez.
-
Postulez sur notre espace candidat : nous avons hâte de découvrir votre profil !
-
Si votre profil éveille notre curiosité, nous vous appellerons pour un premier échange.
-
Votre parcours retient notre attention, nous vous proposerons un entretien.
-
En fin d'entretien, nous vous ferons un retour personnalisé : forces, pistes et conseils.
-
Bonne nouvelle ou non, nous vous tiendrons informé(e). Chez nous, chaque réponse compte.
-
Berger Levrault en images
La carte
64 Rue Jean Rostand
31670 Labège
Publiée le 19/11/2026 - Réf : 2026-7200