Ingénieur Tests Automaticien en IA H/F

Lectra

Nous sommes à la recherche de notre nouvel(le) Ingénieur(e) senior d'automatisation de tests, spécialisé dans la gestion de la qualité d'assistants s'appuyant sur l'Intelligence Artificielle, tels que des applications RAG (Retrieval-Augmented Generation), des chatbots basés sur des LLMs (Large Language Models), et d'autres solutions conversationnelles avancées.

Nos équipes de R&D sont engagées dans la création d'assistants IA capables de traiter une variété de contenus, allant des données métiers aux documents d'entreprise pour simplifier l'utilisation de nos solutions à nos clients. Nos applications doivent évoluer avec les besoins de nos utilisateurs, ce qui nous amène à adopter une architecture flexible pour changer facilement de modèles de langage (LLM) sous-jacents. Dans cet environnement dynamique, nous valorisons l'exploration, la créativité et l'innovation.

Vous serez amené à travailler au sein d'une équipe agile, où votre capacité à innover et à faire de la veille technologique sera essentielle. Dans ce rôle, vous serez responsable de la mise en oeuvre de méthodes de testing adaptées, tout en garantissant que nos solutions répondent aux standards de qualité.

Pour réussir dans ce poste, vous devrez faire preuve de curiosité et d'une volonté d'explorer de nouveaux outils et pratiques. Votre capacité à structurer l'analyse des résultats et à prendre des décisions sera essentielle pour mener à bien vos missions. Vous devrez également apprécier le travail collaboratif et être disposé à partager vos connaissances et à apprendre de vos collègues.

Missions
Concevoir et mettre en oeuvre des stratégies de test innovantes pour nos assistants IA, intégrant des pratiques innovantes et des outils adaptés.
Définir et appliquer des méthodes d'évaluation spécifiques aux modèles LLM : détection d'hallucinations, robustesse des prompts, évaluation de la cohérence et de la fidélité des réponses.
Effectuer une veille technologique active pour identifier les nouveaux outils et méthodes qui pourraient optimiser nos processus.
Développer des scénarios de tests automatisés et manuels, en tenant compte des divers cas d'utilisation et des caractéristiques des utilisateurs.
Analyser les résultats des tests de manière structurée et claire, et formuler des recommandations basées sur des données probantes.
Diffuser les pratiques et connaissances.

Compétences requises
Formation : Diplôme en informatique, en ingénierie, en science des données ou dans un domaine connexe.
Expérience : Minimum 5 ans d'expérience dans le monde du développement logiciel, dont une expérience significative dans la définition et mise en oeuvre d'une stratégie de tests sur un projet de développement faisant intervenir les technologies IA LLM, Machine Learning ou données.

Compétences techniques :
Maîtrise des langages de programmation (tels que Python, Java ou Kotlin)
Connaissance des frameworks d'IA (MLFlow, Langchain, Langgraph, TensorFlow)
Connaissance des outils d'évaluation de LLM (par exemple : TruLens, PromptLayer, DeepEval, LLM-as-a-Judge)
Expérience avec des outils d'analyse de données et de visualisation (Pandas, SQL, PowerBI)
Compétences analytiques : Capacité à analyser des ensembles de données complexes et à interpréter les résultats de manière critique.
Compétences en communication : Excellentes compétences en communication écrite et orale, avec la capacité de présenter des résultats techniques à des publics non techniques.
Sensibilité à l'éthique de l'IA : Compréhension des enjeux éthiques liés à l'IA, y compris la gestion des biais et la transparence des modèles.

Atouts :
Expérience dans la validation de modèles d'IA ou de machine learning.
Familiarité avec les indicateurs de performance (précision, rappel, fidélité) appliqués à l'IA.
Expertise dans la collecte et l'analyse de golden datasets.