IA en production

Le prototype IA fonctionne en démo et n’arrive pas en production

Un prototype IA qui reste à la démo est un symptôme, et ses causes naissent sur le chemin de la production. Un cas d’usage choisi parce qu’il était facile à montrer, un agent qui lit des fichiers préparés à la main, des réponses jamais mesurées, l’absence de plan pour le jour où il se trompe. Chaque étape sautée laisse la suivante sans préparation, et pendant ce temps tout le travail reste concentré sur le modèle, qui est pourtant la partie qui fonctionne déjà.

Réservez un appel

Vous vous reconnaissez ?

  • La démo a plu à tout le monde, et depuis le prototype ne tourne que sur l’ordinateur de son auteur.
  • Pour faire tourner le prototype, quelqu’un prépare chaque fois un fichier de données à la main.
  • La dernière modification du prompt a-t-elle amélioré les réponses ou les a-t-elle dégradées ? On en discute au ressenti.
  • Avant de l’ouvrir aux clients, quelqu’un demande ce qui se passe quand il se trompe, et la question reste sans réponse.
  • La confidentialité et la conformité bloquent la décision, faute de savoir quelles données partiraient chez le fournisseur du modèle.

Pourquoi le prototype IA n’arrive-t-il pas en production ?

Un prototype démontre que le modèle sait accomplir la tâche sur les cas choisis pour la démo ; la production demande qu’il l’accomplisse chaque jour sur de vraies données, dans des systèmes qui ne sont pas préparés à l’accueillir. Les causes ci-dessous sont les étapes de ce passage, dans l’ordre où elles se présentent.

  1. Le cas d’usage a été choisi pour la démo

    Souvent, le premier prototype naît dans le service qui l’a voulu, sur la tâche la plus facile à montrer, sans se demander si les systèmes et les personnes qui devront l’utiliser sont prêts. Quand vient le moment de le mettre en production, on découvre que la valeur est ailleurs ou que les données pour la soutenir manquent.

  2. L’agent n’est pas connecté aux vrais systèmes

    Connecter le prototype à la base de données, aux API et aux workflows existants revient à intervenir sur le logiciel qui les porte. Tant que ce travail est repoussé, l’agent reste en dehors du flux dans lequel il devrait travailler.

  3. Il manque un banc d’essai pour les réponses

    Le prototype a été jugé à l’œil, sur les réponses qui plaisaient en réunion, et il manque un recueil de vraies demandes avec la réponse attendue pour le mesurer. Sans ces cas, chaque modification du prompt ou du modèle se fait à tâtons, et valider la mise en production devient un pari.

  4. Le comportement de l’agent quand il se trompe reste à décider

    Un agent se trompera, et la production demande de savoir d’avance quels cas passent à une personne, quelles actions attendent une confirmation et quelles données peuvent parvenir au fournisseur du modèle. Si ces choix manquent, la première question de la personne chargée de la conformité suffit à tout arrêter.

Ce qui change quand l’agent IA entre en production

L’agent devient une partie du logiciel comme les autres. Prompt, configuration et version du modèle sont dans le dépôt, chaque modification passe par les cas de test et arrive en production avec la pipeline. Quand il se trompe, l’erreur reste dans les logs avec la version qui l’a produite et devient un cas de test de plus.

Ouvrir l’agent à un nouveau service, ou aux clients, s’appuie sur les cas de test et les logs, et ceux qui répondent des données et de la conformité signent sur ces preuves. La prochaine idée part de la même pipeline et des mêmes contrôles.

Montrez-nous le prototype et l’endroit où il s’est arrêté

Nous suivons le chemin du prototype vers la production et voyons si le premier pas est de le connecter aux systèmes ou de passer par un AI Adoption Assessment pour choisir le bon cas d’usage.

Nous utilisons vos données pour répondre à votre demande. Consultez notre Politique de confidentialité.