Consultant Data Analytic H/F SAFARI TECHNOLOGIES

Consultant FinOps Cloud / FinOps IA & LLM - Data Analytic

Description de la mission

L'entreprise souhaite accompagner le développement des usages des LLM et de l'IA générative tout en maîtrisant les coûts associés. La prestation consiste à mettre en place un pilotage FinOps IA permettant de suivre la consommation de tokens, détecter les usages anormaux, analyser les écarts par rapport aux budgets et identifier des leviers d'optimisation. Elle vise également à définir des profils d'usage et des recommandations de choix/routage des modèles LLM, afin d'optimiser le rapport entre performance, usage et coût.

Objectifs de la prestation
La prestation est orientée pilotage et optimisation des coûts liés aux LLM, avec une dimension Data/Reporting importante.

Tâches principales :

• Mettre en place le suivi des consommations LLM / tokens, notamment via LightLLM et AI Gateway, avec une vision par utilisateur, projet et entité.
• Construire les dashboards FinOps IA nécessaires au suivi opérationnel des consommations.
• Analyser les coûts et consommations, les comparer aux budgets et identifier les écarts ou usages anormaux.
• Identifier des leviers d'optimisation : réduction de la taille des contextes, prétraitement des documents, recours à des modèles moins coûteux selon les usages.
• Définir des profils d'utilisation des LLM par rôle et par type de tâche, puis recommander le modèle le plus adapté en termes de qualité/coût.
• Définir et diffuser les bonnes pratiques FinOps IA, sensibiliser les équipes et fournir des recommandations aux instances de pilotage.
• Collaborer avec les équipes internes et les projets pilotes afin d'analyser et optimiser les usages IA en situation réelle.

Livrables attendus

• Rapport FinOps IA mensuel avec consommations, écarts budgétaires, alertes et recommandations d'optimisation.
• Dashboards de suivi des consommations, maintenus à jour.
• Guide des bonnes pratiques FinOps IA.
• Fiches de recommandations d'optimisation FinOps, avec au moins 2 attendues sur la durée de la mission.
• Cartographie des profils d'utilisation et recommandations de routing des LLM, avec au moins 2 livrables attendus.
• Support de sensibilisation FinOps IA destiné aux instances internes

Environnement technique

• Cloud : AWS et GCP
• AWS CloudWatch, Cost Explorer, Billing
• GCP BigQuery Billing Export
• FinOps / Monitoring IA : LightLLM, AI Gateway
• Data & analyse : Python, SQL
• DataViz / Reporting : outils de dashboarding disponibles au sein de l'entreprise, à définir lors de la phase d'initialisation
• LLM / IA générative : environnement multi-modèles incluant notamment Claude, Gemini, GPT et Mistral
• Collaboration / pilotage : Jira Cloud, Confluence, Teams, Outlook

Compétences clés demandées par le client

• FinOps Cloud : 3 ans minimum. Analyse des coûts Cloud, dashboards, détection d'anomalies et recommandations d'optimisation. - Niveau 4 : Expertise / Initie, influence
• Data Analytics & DataViz : 3 ans minimum. Power BI, Grafana, Looker ou équivalent, avec capacité à construire des dashboards exploitables. - Niveau 4 : Expertise / Initie, influence
• Scripting & analyse de données, Python / SQL : 2 ans minimum. Extraction, transformation et analyse des données de consommation. - Niveau 3 : Maitrise / Garantit, conseille
• FinOps IA / LLM : 1 an minimum. Tarification des LLM, consommation de tokens, optimisation et monitoring IA / AI Gateway. - Niveau 3 : Maitrise / Garantit, conseille
• LLM & IA générative : 1 an ou pratique avérée. Connaissance des différents modèles du marché et compréhension de leurs usages, performances et coûts. - Niveau 3 : Maitrise / Garantit, conseille

Savoir-être

• Communication & pédagogie : savoir vulgariser les sujets FinOps/IA auprès d'interlocuteurs non techniques et présenter en instance.
• Esprit d'analyse, critique et de synthèse : analyser les données, prendre du recul et être force de proposition.
• Autonomie relationnelle : être à l'aise avec une grande variété d'interlocuteurs.
• Capacité d'exécution rapide : priorisation, pragmatisme et orientation résultats.
• Organisation, adaptation et anticipation : savoir évoluer dans un environnement innovant et changeant.
• Esprit d'équipe.
• Pratiques Agiles : capacité à travailler avec les rituels et artefacts Agile.

Déplacements
- Des déplacements sont à prévoir à hauteur de 2 fois par an sur Toulouse