Prestation
IA générative et agents qui tiennent face à de vrais utilisateurs
Tout le monde veut un agent IA. Une démo se fait en un week-end. Un produit qui sert des milliers d'utilisateurs sans explosion des coûts, sans dérive des réponses et sans avalanche de tickets de support, c'est un autre projet.
Une démo n’est pas un produit
Faire bien répondre un modèle de langage à une question, c’est facile. Le faire répondre à des milliers de questions différentes, posées par des personnes imprévues, à un coût raisonnable, avec des réponses défendables : c’est ça, le travail. La plupart des projets GenAI bloquent entre ces deux points.
Nous traitons la GenAI comme n’importe quel système en production : une définition claire du succès, des données prêtes, une évaluation avant le lancement et un monitoring après.
Ce que nous avons mis en production
- Chez MODO, nous avons construit des fonctionnalités d’IA générative pour une app de plus de 19 millions d’utilisateurs. La recherche contextuelle est sortie un an avant la concurrence et n’a connu aucun incident en production depuis son lancement.
- Chez Techint, nous avons déployé en 2023 un assistant RAG sur plus de 20 000 articles corporate multilingues, quand ce n’était pas encore une pratique établie. 80 communicants l’utilisent dans le monde, et il a réduit de 15 % le temps de recherche par requête.
- Chez SIDOM, le support technique assisté par IA a fait passer les réponses de 26,5 heures de traitement manuel à 1,1 minute en moyenne, et rendu 215 heures à l’équipe sur la période mesurée.
Quand les agents ont du sens
Les agents sont utiles quand une tâche comporte plusieurs étapes, des outils clairs et un moyen peu coûteux de vérifier le résultat. Ils sont une mauvaise idée quand une erreur coûte cher et se détecte mal. Nous vous dirons dans quel cas vous êtes avant que vous n’investissiez.
Coûts et contrôle
Les coûts en tokens augmentent avec l’usage, et un design bon marché en pilote peut coûter cher à l’échelle. Nous mesurons le coût par interaction dès la première version, mettons en cache ce qui peut l’être et orientons les requêtes simples vers des modèles plus petits. Vous saurez ce que coûte chaque réponse avant de la voir sur la facture.
Ce que vous obtenez
Un cas d'usage qui en vaut la peine
Nous vérifions si la GenAI est le bon outil. Parfois, un moteur de recherche ou un modèle classique fait mieux et moins cher.
Des réponses ancrées dans vos données
Recherche sur vos documents, tickets ou base de connaissances, pour que le système réponde à partir de vos sources et non de ce que le modèle a retenu.
Une évaluation avant le lancement
Des jeux de test construits à partir de vraies questions, pour mesurer la qualité et repérer les régressions avant les utilisateurs.
Une production aux coûts maîtrisés
Déploiement, suivi de l'usage et des coûts, et garde-fous pour ce que le système ne doit jamais faire.
Notre façon de travailler
Diagnostic
Le vrai problème n'est pas toujours celui qu'on croit voir. On voit la situation sans le biais d'être à l'intérieur de l'organisation.
Solution juste
On propose la solution la plus simple et la plus adaptée pour votre problème concret. Jamais un bazooka pour tuer un moustique.
Capacité installée
Quand on a fini, votre équipe a la pleine maîtrise de la solution. Si on continue à travailler ensemble, c'est parce que vous le voulez et qu'on peut vous aider, pas parce qu'on vous a enfermés dans une boîte noire.
Cas associés
Fintech
MODO
Traitement de big data, plateforme d'expérimentation et fonctionnalités GenAI pour les 4+ millions d'utilisateurs du portefeuille numérique leader en Argentine.
Commerce extérieur
SIDOM
Support technique assisté par IA pour la plateforme leader du commerce extérieur en Argentine : des réponses passées de 26 heures à moins de 2 minutes.
Industrial
Techint
Assistant RAG sur la mémoire institutionnelle de l'un des plus grands groupes industriels d'Amérique latine, déployé en production en 2023, quand presque personne ne savait encore comment faire.
Pour aller plus loin
Combien coûte un projet data avec un cabinet de conseil ? Variables, fourchettes et ce qu'on ne vous dit jamais
Guide complet pour comprendre le coût d'un projet data en environnement de production, et les variables à prendre en compte pour savoir d'où vient le coût de l'investissement.
La différence entre une PoC et un MVP (et pourquoi les confondre coûte cher)
La plupart des projets IA échouent parce qu'il n'y a pas de conversation claire sur la nécessité de prouver que quelque chose peut être fait ou qu'il fonctionne réellement en production. Voici comment éviter cette erreur.
Pourquoi la majorité des projets d'IA n'aboutissent à rien
La plupart des projets d'IA n'échouent pas techniquement. Ils n'arrivent jamais en production. Voici quatre erreurs qu'on voit revenir sans cesse, et ce que les projets qui réussissent ont en commun.
Questions fréquentes
Un chatbot est-il la bonne réponse pour nous ?
Souvent non. Beaucoup de problèmes qui ressemblent à un chatbot relèvent de la recherche, de la classification ou de l'automatisation d'un flux. Nous partons de la tâche et de l'utilisateur, puis choisissons l'interface.
Comment gérez-vous les hallucinations ?
En ancrant les réponses dans vos propres sources, en mesurant la qualité sur de vraies questions avant le lancement et en prévoyant ce qui se passe quand le système ne sait pas. On ne rend pas un modèle de langage infaillible, mais on peut rendre ses erreurs visibles et peu coûteuses.
Peut-il fonctionner sans envoyer nos données à l'extérieur ?
Cela dépend de vos contraintes. Nous avons construit avec des API hébergées et avec des modèles locaux ; notre guide pour intégrer un LLM local à Grafana illustre la seconde approche.
Combien de temps avant une mise en production ?
L'assistant de support de SIDOM a pris 5 mois ; celui de Techint, 9 mois, en 2023. Le périmètre, la qualité des données et les intégrations pèsent plus sur le calendrier que le modèle.
Envie de parler de votre problème ?
Dites-nous ce que vous devez résoudre.
Planifier une conversation