Les attentes sont folles dans le monde de l'IA.

Comme souligné dans l'article de Sequoia, l'enthousiasme initial a conduit à une tempête d'innovation et de confusion. De nombreuses entreprises novices manquent leur cible, et il y a un déplacement vers la concentration sur les applications verticales où l'IA générative (genAI) est une fonctionnalité plutôt qu'un produit autonome. La pratique évolue également rapidement : l'année dernière, il s'agissait d'affiner les modèles, et cette année, il s'agit de RAG, sans parler des nouveaux modèles linguistiques qui apparaissent toutes les deux semaines.

Sans surprise, il y a une confusion généralisée sur ce que l'IA peut et ne peut pas faire.

Ce désenchantement général n'est pas seulement un malentendu. Bien que quelque chose puisse fonctionner parfaitement lors des tests, la mise en production révèle souvent des défis : l'ingénierie des invites est liée à leurs modèles linguistiques, l'assurance qualité est difficile et les chaînes complexes augmentent les chances d'erreurs, invalidant l'ensemble de la sortie.

Même les fondamentaux sont encore naissants, RAG devient un art et les architectures comme Mixture of Experts ont encore beaucoup de développement à faire.

Nous n'y sommes pas encore.

Cependant, il y a déjà tant de potentiel fantastique dans genAI qui est souvent négligé. Il ne s'agit pas seulement d'écrire comme un (bizarre) humain !

Il y a déjà un vrai pouvoir dans :

• La connexion de sujets ou de concepts qui sont faiblement liés.
• L'extraction d'informations précieuses à partir de grandes entrées brutes.
• La catégorisation efficace des données.

Et peut-être mon préféré :

• Les machines ne sont pas limitées par la puissance cérébrale ou le temps ; elles peuvent explorer des centaines d'hypothèses et les consolider, tandis qu'un analyste pourrait en explorer quelques-unes, en espérant que son intuition soit bonne.

Références

1. Huang, S., Grady, P., & GPT-4. (2023, September 20). Generative AI’s Act Two. Sequoia.
2. Wang, X., Wang, Z., Gao, X., Zhang, F., Wu, Y., Xu, Z., Shi, T., Wang, Z., Li, S., Qian, Q., Yin, R., Lv, C., Zheng, X., & Huang, X. (n.d.). Searching for Best Practices in Retrieval-Augmented Generation.
3. Wang, Z. (Andy). (n.d.). Mixture of Experts: How an Ensemble of AI Models Decide As One. Deepgram.