Arbitrer coût et performance entre modèles IA : quand basculer vers un modèle moins cher

Il y a une ligne dans la facture API de presque toutes les entreprises que j'audite, et personne ne la regarde. C'est le coût par requête du gros modèle, multiplié par le nombre de requêtes qui n'avaient pas besoin du gros modèle. Tu paies le tarif premium pour classer un email en "facture ou pas facture". Tu paies le tarif premium pour reformuler une phrase. Tu paies le tarif premium pour extraire une date dans un PDF. Aucune de ces tâches ne demande le meilleur cerveau du marché, et pourtant elles tournent toutes dessus, parce que c'est le modèle qui était branché le jour de la mise en prod et que personne n'y est revenu.

L'écart de prix entre un gros modèle de raisonnement et un modèle léger est rarement de 20 %. Il est souvent d'un facteur 5 à 10 sur le même volume de tokens. Sur une charge qui tourne tous les jours, ça change la couleur de ta marge. Le réflexe naïf, c'est de tout basculer sur le moins cher. Le réflexe paresseux, c'est de tout laisser sur le plus gros "pour être sûr". Les deux te coûtent de l'argent. Ce tuto te donne la méthode pour trancher tâche par tâche, avec des critères clairs et un protocole de test, sans deviner.