Institut Bernard Magrez : plaidoyer pour les petits modèles
UNITEC a invité Hugo à une masterclass sur l'IA et l'automatisation pour les startups. En juillet 2024, la réponse courante était de prendre le plus gros modèle disponible. Il a défendu l'inverse.
Jul 21, 2024
En juillet 2024, UNITEC a invité Hugo à intervenir dans une masterclass sur l'IA et l'automatisation à l'Institut Culturel Bernard Magrez, à Bordeaux, aux côtés d'autres fondateurs et opérationnels de l'écosystème French Tech Bordeaux.
L'argument : des modèles plus petits
Mi-2024, le conseil par défaut consistait à prendre le plus gros modèle que l'on pouvait se payer et à traiter tout le reste comme du prompt engineering. L'intervention défendait la position inverse.
« Les petits modèles de langage sont la prochaine frontière de l'IA », a expliqué Hugo. « Ils nous permettent de créer du contenu sur mesure qui répond directement aux besoins et aux intérêts des clients potentiels. »
Le raisonnement était commercial avant d'être technique. Un modèle assez peu coûteux pour tenir à l'intérieur d'un produit que vous facturez vaut mieux qu'un modèle mieux classé sur un benchmark que vous ne vendrez jamais. Une fois la barre de qualité franchie pour une tâche précise, l'argent dépensé au-dessus de cette barre n'achète rien que le client puisse voir.
D'où vient cette conviction
Hugo a cofondé Side, la plateforme française de travail temporaire, et l'a menée des premières levées de fonds jusqu'à sa vente. Le métier de Side consistait à transformer la paperasse de l'intérim en logiciel qui tourne tout seul : le même type de problème, sans le modèle de langage. La version longue de cette histoire est sur notre page à propos.
Ce qui s'est transmis n'a rien de spectaculaire : la difficulté n'est presque jamais l'algorithme. Ce sont les cas particuliers que l'entreprise connaît déjà et qu'elle n'a jamais écrits nulle part. Aucune taille de modèle ne règle ça.
Ce qui a tenu, deux ans après
Ajouté en septembre 2026.
L'économie a tenu. Nous avons depuis livré des projets où le modèle est délibérément le composant le moins intéressant, et nous avons traité la question de la compression à part, dans jusqu'où réduire un modèle avant que la qualité casse.
Le cadrage, lui, n'a pas tenu. En 2024, le discours portait sur la génération de contenu sur mesure. Presque rien de ce que nous avons construit depuis n'est un générateur de contenu. Ce sont des configurateurs de devis, de la prise de commande à partir de messages vocaux, des systèmes de prix, du traitement de documents : du logiciel métier ordinaire, avec un modèle qui fait une tâche bornée quelque part à l'intérieur.
L'intuition sur la taille des modèles était donc juste, et le pari sur le produit était faux. Le travail intéressant s'est révélé être le logiciel autour du modèle, pas le modèle.