Ingénieur IA Llm H/F BK Consulting

Au sein d'une équipe dédiée aux plateformes technologiques et à la data, les équipes IA développent et opèrent des solutions d'intelligence artificielle et de machine learning à grande échelle, pour des usages internes et externes.

La mission s'inscrit au sein d'une équipe en charge de développer une plateforme centralisée et sécurisée permettant aux différentes équipes d'accéder à des modèles d'intelligence artificielle : fournisseurs de LLM publics, modèles européens souverains et modèles hébergés en privé.

Cette plateforme constitue un point d'entrée unique pour intégrer des modèles et développer des fonctionnalités et agents IA.

Ses principaux enjeux sont :

• Accès unifié : API unique, routage entre modèles et fournisseurs, mécanismes de fallback et répartition de charge.

• Gouvernance et sécurité : authentification, quotas, limitation de débit, protection des données et traçabilité.

• Maîtrise des coûts : suivi des consommations, gestion des budgets et analyse des usages.

• Écosystème agentique : intégration du tool calling, des serveurs MCP et des flux liés aux agents IA.

L'équipe adopte une approche de développement orientée IA, avec une utilisation quotidienne des agents de programmation pour accélérer les développements.

MISSIONS

Développement et exploitation de la plateforme IA

• Concevoir, développer et maintenir les fonctionnalités de la plateforme : API unifiée compatible OpenAI, routage multi-fournisseurs, fallback, streaming et caching.

• Mettre en oeuvre les mécanismes de contrôle d'accès, gestion des clés API, quotas, rate limiting et suivi des coûts par équipe et cas d'usage.

• Évaluer et comparer les modèles selon leur qualité, latence et coût.

• Intégrer de nouveaux modèles et fournisseurs.

• Développer l'observabilité : logs, traces, métriques, dashboards et alerting.

• Garantir la sécurité et la conformité : guardrails, filtrage des données personnelles, protection contre les prompt injections et traçabilité.

• Assurer la performance et la fiabilité de la plateforme : SLO, tests de charge, capacity planning et gestion des incidents.

Évolution vers les architectures agentiques

• Étendre la plateforme aux usages agentiques : tool calling, exposition et gouvernance des serveurs MCP.

• Exposer les services IA via des API et MCP.

• Mettre à disposition des SDK, templates, plugins et documentations facilitant l'adoption de la plateforme.

Développement augmenté par l'IA

• Utiliser quotidiennement des agents de développement IA (Claude Code, Codex, Cursor, GitHub Copilot).

• Définir les spécifications et découper les développements en tâches exploitables par les agents.

• Piloter plusieurs agents en parallèle et contrôler la qualité de leurs livrables.

• Contribuer à l'amélioration des pratiques de développement, des tests automatisés et des pipelines CI/CD.

• Participer aux revues de code et à la documentation technique