Infrastructure Engineer - Inference Serving Training & Data de Production - N H/F OVHCloud

Au sein de votre équipe #OneTeam

- Intégrer l'équipe AI Infrastructure & Data au sein de la BU AI. Votre mission sera de concevoir, déployer, superviser et maintenir en conditions opérationnelles l'infrastructure dédiée à l'entraînement (training) et à l'inférence des modèles d'intelligence artificielle pour nos besoins internes.
- Fournir aux équipes Data Science, ML Engineering et produits internes une plateforme IA performante, disponible, sécurisée et efficiente en coûts et en énergie, en s'appuyant sur nos datacenters et notre savoir-faire industriel. Ces utilisateurs, vos futurs collègues, exploiteront notre infrastructure GPU, de stockage et réseau afin d'utiliser une plateforme hautement automatisée en self-service, du dataset au modèle en production.

Vos principales responsabilités

- Concevoir, déployer et opérer notre plateforme d'inférence interne (vLLM, Triton, autoscaling, batching, multi-tenancy, haute disponibilité)
- Optimiser la latence, le débit et le coût de l'inférence (quantization, placement des modèles, dimensionnement des ressources GPU)
- Assurer l'exploitation des workloads de training et de fine-tuning sur le socle de calcul opéré par l'équipe
- Porter la continuité de la chaîne training vers inférence en industrialisant le passage du checkpoint au modèle servi en production
- Être responsable des données du cycle de vie des modèles (registre, versioning, traçabilité dataset-entraînement-modèle-déploiement)
- Être responsable des données de production de l'inférence (logging, anonymisation, rétention) Mettre à disposition les données de feedback pour le réentraînement et le fine-tuning des modèles
- Définir avec les équipes clientes les standards de mise en production des modèles
- Participer à l'astreinte, rédiger les runbooks, contribuer aux post-mortems et automatiser la remédiation
- Remettre constamment en question ce qui existe et explorer ce qui doit évoluer pour répondre aux besoins internes Appliquer les aspects de sécurité matériel, logiciel et data sur toute la chaîne de valeur
- Travailler en étroite collaboration avec les équipes OVHcloud France et à l'International

Votre futur impact

Dans 6 mois

- Vous aurez pris vos marques au sein de l'équipe AI Infrastructure & Data et de la BU AI.
- Vous comprendrez l'infrastructure existante, les défis d'optimisation du serving de modèles et les besoins des équipes internes.
- Vous aurez participé au déploiement et à l'optimisation de la stack d'inférence (vLLM, Triton), apportant votre expertise pour réduire la latence et maximiser le débit des modèles en production.
- Vous aurez établi des relations avec les équipes Data Science et ML Engineering, recueillant leurs retours sur l'ordonnancement des jobs de training et le cycle de vie des checkpoints.
- Vous aurez exploré l'industrialisation du passage du training à l'inférence afin de fluidifier la mise en production des modèles.

Et dans 1 an

- Vous aurez joué un rôle clé dans la construction de la boucle de feedback complète, permettant la réinjection des données d'inférence vers le réentraînement et le fine-tuning.
- Vous aurez fiabilisé et sécurisé l'ensemble du registre de modèles et la traçabilité des données de production de l'inférence.
- Vous aurez partagé vos bonnes pratiques et vos standards de mise en production avec les équipes clientes, renforçant l'autonomie des utilisateurs sur la plateforme self-service.

C