L'enjeu n'est plus d'intégrer l'IA à tout prix, mais de déployer une gouvernance rigoureuse. Je vous partage quelques tips qui me semblent utiles à mettre en œuvre.
Le Rework : 40 % du temps gagné par l'IA est réinvesti par les humains pour corriger les approximations et les hallucinations. Le rework est l'ennemi de la marge, il faut l'optimiser.
L'arbitrage "Modèles" : les géants de la Tech réagissent en interdisant les modèles tiers surdimensionnés (comme Claude 3.5 Sonnet / Opus pour des tâches simples) et basculent vers des modèles locaux, open-source ou spécialisés (Small Language Models comme Llama 3 ou Phi-3), dont le coût marginal par requête est beaucoup plus faible.
La mise en œuvre de gardes fous : lors du cadrage de vos modèles de données et de vos processus P&L ("ROIste"), l'autonomie des agents IA devrait être bridée ou supervisée. Si vous automatisez des workflows e-commerce de bout en bout sans garde-fous de boucles de traitement, les appels API récurrents détruiront instantanément votre marge opérationnelle.
L'agnosticisme technologique : garantir que vos architectures fonctionnent indépendamment du fournisseur de services utilisé me semble être une sage décision pour ne pas se retrouver pieds et poings liés face à une augmentation brutale des tarifs.
La mesure P&L : et oui, pas de performance sans mesure et on ne peut plus se permettre de ne pas compter ! Ne pas tenir compte des coûts sous-jacents (calcul, requêtes, maintenance, ...) est devenu un risque financier majeur.
Le cadre méthodologique : modélisation des process, identification et contrôle des gains, priorisation des roadmaps, calcul P&L des initiatives, … Les méthodes existent et doivent être appliquées.
L'actualité de ces dernières semaines nous le confirme, on arrête de jouer et on passe à la caisse ! Chaque workflow IA doit avoir un coût de token capé par transaction, comparé directement au coût de la minute humaine équivalente. Si le coût du token outrepasse le gain de productivité (en incluant le temps de relecture), le processus doit repasser en méthode traditionnelle ou être optimisé via des modèles plus légers.
Vous souhaitez avancer sur la mise en œuvre de cette démarche de sobriété IA ? Je peux vous accompagner sur ce sujet. On en parle avec plaisir 😉
