Tech Lead Llm Web - Freelance H/F Meetshake

Contexte

Vous rejoignez une entreprise leader dans son domaine, en charge de l'une des briques technologiques les plus stratégiques du groupe. Aux côtés d'une équipe d'experts passionnés, vous relèverez les plus hauts défis techniques de la société et travaillerez sur les sujets les plus innovants. Dans un contexte international, votre mission consiste à mettre en place et fournir des capacités d'IA aux produits du groupe utilisés au quotidien par des professionnels spécialisés.

En tant que Tech Lead, vous serez au coeur de nos services IA : la brique technique qui connecte nos modèles de langage, nos moteurs de recherche et nos produits stratégiques. Votre terrain de jeu : transformer la manière dont tout un secteur travaille au quotidien.

Votre mission n'est pas d'écrire un simple script, mais de concevoir des APIs robustes capables d'orchestrer des appels LLM, des pipelines RAG et des traitements massifs au service de plusieurs équipes à travers l'Europe. Vous garantirez des temps de réponse maîtrisés (streaming, faible latence) tout en gérant une complexité technique de haut vol (concurrence, parallélisme, montée en charge, fiabilité des intégrations IA). Il est également question de mettre en place une solution multi-tenant (plusieurs pays impliqués) et pouvant être proposée aux clients en mode souverain.

Missions

Conception & Développement des services de consommation d'indexation et de restitution de données :

• Conception des services : définir l'architecture des APIs et des workers, la stratégie de cache et les mécanismes de résilience (retries, circuit breakers, fallback modèles).
• Intégration LLM : concevoir les chaînes d'inférence (prompting, function calling, RAG, embeddings, agents) et industrialiser leur mise en production, en challengeant les choix via des POCs et des Benchmarks.
• Performance & Scalabilité : définir comment concilier débit, latence et coût (synchrone et asynchrone) pour servir nos charges de production.

APIs Web & Performance (synchrone / asynchrone) :

• Définition des APIs : créer des APIs (FastAPI) robustes et documentées (contrats clairs, validation Pydantic, authentification unifiée et propagation du contexte pays).
• Performance & Asynchrone : maîtriser asyncio, la concurrence et le parallélisme pour optimiser le débit, en arbitrant entre traitements synchrones et asynchrones selon les contraintes.
• Streaming & Temps réel : implémenter le streaming des réponses LLM et la gestion fine des timeouts, du backpressure et de l'annulation des requêtes.
• Observabilité & Sécurité : intégrer nativement la télémétrie (logs, métriques, traces) et les guardrails de sécurité (gestion des secrets, Zero Trust, isolation des tokens) au coeur des services.

Leadership Technique & Gouvernance :

• Gouvernance Inner Source : être un membre influent de la communauté technique pour assurer la cohérence et la réutilisabilité des composants partagés.
• Accompagnement des Value Stream Teams : aider les squads (IA assistant, Search, Édition...) à intégrer les capacités fournies par l'équipe avec un minimum de friction.
• Culture Craftsmanship : promouvoir les pratiques de Clean Code, SOLID, et tests automatisés.
• Rayonnement : assurer une veille constante et contribuer au rayonnement technique du groupe (articles, meetups, open-source).

Stack technologique

• Langages : Python 3.11+ (maîtrise requise), Go, Java / Spring Boot.
• Web / APIs : FastAPI, Starlette, Pydantic, Uvicorn (ASGI).
• Asynchrone : asyncio, httpx, concurrence et parallélisme (threads, process, workers).
• LLM & IA : OpenAI / Azure OpenAI, LangChain, Mistral, Bedrock, etc.
• Cloud & Infra : AWS, Azure, Docker, CI/CD, OpenSearch, Weaviate, PostgreSQL, Redis, Celery, Kafka.
• Tests : Pytest, pytest-asyncio.

Conditions de travail

• Secteur : Édition & Services Technologiques Spécialisés Contexte International
• Type de contrat / Durée : Freelance
• Localisation / Portée : France (Périmètre Européen)
• Domaine : Intelligence Artificielle & Ingénierie Web Backend