
Industrialisation IA d'un produit santé grand public
D'un prototype LLM exploratoire à une architecture IA robuste, sécurisée et exploitable en production
CTO externalisé & architecte IA
Carte d'identité du projet
- Architecture IA
- Sécurisation
- Pilotage des coûts
- Observabilité
- Montée en compétence
- Node.js
- LLM
- RAG
- Monitoring des coûts d'API
En résumé
Une startup du secteur santé développait un produit numérique destiné au grand public. L’IA représentait un levier différenciant majeur et un premier prototype JavaScript, basé sur des appels directs à un modèle LLM, avait démontré la faisabilité.
La démonstration était convaincante, mais l’architecture n’était pas exploitable en production : appels non sécurisés depuis le navigateur, aucune traçabilité, coûts imprévisibles, risques techniques et réputationnels élevés. Levanna a transformé cette expérimentation en composant produit structurant, prêt pour la production et la montée en charge.
Contexte
Le produit s’adresse à des particuliers, sur des sujets de santé : l’exigence de fiabilité des réponses et de protection des données est maximale. L’équipe interne, compétente sur son produit, n’avait pas encore de pratique de l’intégration de modèles de langage en production.
Le prototype avait rempli son rôle : prouver l’intérêt de la fonctionnalité. Il fallait désormais décider comment en faire une brique durable du produit.
Le problème : un prototype non exploitable
- Appels LLM directs côté frontend, avec exposition des clés d’API
- Aucune séparation entre la logique métier et le moteur IA
- Aucune protection contre les injections de prompt
- Pas de traçabilité des interactions : impossible de comprendre ou de reproduire une réponse
- Aucune visibilité sur les coûts d’exploitation, donc un risque budgétaire réel
- Architecture non évolutive : changer de fournisseur de modèle aurait imposé une refonte complète
Contraintes
- Public grand public et domaine santé : les réponses doivent être encadrées et les données personnelles protégées
- Produit existant : l’intégration devait s’insérer dans l’application en place sans la réécrire
- Équipe à faire monter en compétence : la solution devait être comprise et exploitée en interne, pas seulement livrée
- Viabilité économique : les coûts d’API devaient devenir prévisibles avant tout déploiement large
Le rôle de Levanna
Intervention en CTO externalisé et architecte IA : diagnostic du prototype, conception de l’architecture cible, mise en œuvre du backend d’orchestration, sécurisation, puis transfert à l’équipe.
L’objectif n’était pas de produire une nouvelle démonstration, mais de livrer un composant que l’équipe puisse exploiter, surveiller et faire évoluer.
Décisions structurantes
- Refonte architecturale complète plutôt que des correctifs : le produit ne pouvait pas passer en production dans son état initial
- Traiter l’IA comme un composant différenciant, avec le même niveau d’exigence que le reste du produit, pas comme un gadget
- Sécuriser avant de déployer : aucune ouverture au grand public sans protection des clés, des prompts et des données
- Maîtriser les coûts dès la conception pour garantir la viabilité économique de la fonctionnalité
- Préparer l’évolutivité : montée en charge et changement de modèle possibles sans refonte
Réalisation
- Backend dédié à l’orchestration des appels LLM, centralisant les interactions IA
- Gestion du contexte conversationnel côté serveur, avec persistance
- Architecture RAG appuyée sur une base documentaire vérifiée pour limiter les hallucinations
- Protection contre les injections de prompt : validation des entrées et encadrement des prompts système
- Journalisation complète des requêtes et réponses, métriques et suivi des tokens
- Sessions de transfert avec l’équipe interne sur les bonnes pratiques d’intégration IA
Architecture cible
Principes
Détails techniques
- Centralisation des interactions IA derrière une API backend
- Base documentaire contextualisée (RAG) pour améliorer la pertinence
- Validation stricte des entrées et watermarking des prompts système
- Logs structurés, métriques et traçabilité de bout en bout
- Projection budgétaire mensuelle des coûts d’API
Trajectoire technique et arbitrages
Architecture IA
Sécurité, traçabilité, séparation des responsabilités
Contexte conversationnel
Fiabilité, cohérence entre sessions, débogage possible
Hallucinations
Améliorer la pertinence et limiter les erreurs critiques
Sécurité
Se protéger des usages malveillants
Coûts d'exploitation
Piloter les coûts et éviter les dérapages
| Sujet | Point de départ | Décision | Pourquoi |
|---|---|---|---|
| Architecture IA | Prototype JavaScript frontend, appels directs au fournisseur | Backend Node.js orchestrant LLM et RAG | Sécurité, traçabilité, séparation des responsabilités |
| Contexte conversationnel | Géré côté client, état volatile et non sécurisé | Géré côté serveur avec persistance | Fiabilité, cohérence entre sessions, débogage possible |
| Hallucinations | Modèle seul, risque de réponses incorrectes | Architecture RAG ancrée sur une base documentaire | Améliorer la pertinence et limiter les erreurs critiques |
| Sécurité | Aucune protection, injection de prompt possible | Validation stricte des entrées et watermarking des prompts système | Se protéger des usages malveillants |
| Coûts d'exploitation | Aucune visibilité, facture d'API imprévisible | Monitoring des tokens et projection budgétaire | Piloter les coûts et éviter les dérapages |
Résultats
100 %
des appels LLM sécurisés
backend dédié, clés d'API protégées
RAG
réponses ancrées sur une base vérifiée
hallucinations limitées
Coûts pilotés
projection budgétaire mensuelle
suivi des tokens en temps réel
Prêt
pour la production
architecture évolutive et maintenable
- Passage d’un prototype fragile à une architecture exploitable en production
- Risques techniques et réputationnels réduits : clés protégées, entrées validées, réponses traçables
- Coûts d’exploitation maîtrisés et pilotables, avec une projection budgétaire claire
- Équipe interne montée en compétence sur les bonnes pratiques d’intégration IA
Aucun volume d’usage n’est publié : la fonctionnalité a été industrialisée avant son ouverture au grand public.
Enseignements
- Intégrer l’IA ne se limite pas à connecter une API : sécurité, gouvernance, exploitabilité et coûts font partie de l’architecture
- Un prototype convaincant est un point de départ, pas un socle : il faut décider explicitement ce qui doit être reconstruit
- Le RAG est d’abord une réponse à un problème de fiabilité, pas une mode technique
- La montée en compétence de l’équipe conditionne la durabilité du composant autant que son code
Offres associées
Vous avez un prototype IA à industrialiser ?
Besoin d'un CTO IA pour transformer votre POC en architecture robuste et exploitable ?
D'autres études de cas

Client confidentiel · Éditeur d'un produit numérique existant · 2025
POC IA stratégique en 2 semaines
Prototype IA structuré en 2 semaines pour un dirigeant : cas d'usage cadré, architecture cible définie, coûts d'exploitation estimés et trajectoire d'industrialisation claire.
Un prototype exploitable et une décision go/no-go argumentée en 2 semaines
Lire l'étude de cas
Docs-dispatcher · Éditeur SaaS B2B — automatisation documentaire
Docs-dispatcher, un SaaS conçu et exploité par Levanna
Docs-dispatcher est un SaaS B2B conçu, développé et exploité par Levanna pour orchestrer des workflows documentaires critiques : architecture, arbitrages et exploitation.
100 % de disponibilité sur l’année 2025, sans équipe SRE dédiée
Lire l'étude de cas
Client confidentiel · EdTech — santé · 2025
Refonte d'une plateforme EdTech et renfort technique
Refonte d'une plateforme EdTech médicale issue d'un MVP : vision produit, architecture cible, pilotage d'un prestataire, renfort technique, CI/CD et infrastructure soutenable.
Plateforme unifiée livrée avec une chaîne CI/CD opérationnelle et une infrastructure adaptée à la maturité de l’équipe
Lire l'étude de cas