En mars 2023, des chercheurs de Stanford ont marqué un tournant dans l'histoire de l'IA en créant un Chatbot capable de rivaliser avec GPT-3, avec un nom de code inattendu : Alpaca. Les chercheurs avaient utilisé une approche économique en partant d'un modèle de langage bien plus modeste que GPT-3, baptisé LLaMA 7B. Ils l'avaient ensuite alimenté de données générées par GPT-3, puis utilisé un serveur cloud pour le post-entraînement. Le résultat avait surpris tout le monde : Alpaca remportait 90 victoires contre 89 pour GPT-3 lors de la phase de tests.
Le plus frappant, c'est que l'ensemble du processus avait coûté 600 $ seulement, tandis qu'OpenAI avait dépensé des millions pour créer GPT-3. Les chercheurs eux-mêmes ne s'attendaient pas à ce qu'un modèle aussi modeste puisse rivaliser avec le géant de la discipline. Trois ans plus tard, cette expérience pionnière a pris une dimension prophétique : elle annonçait la vague de modèles open-source qui allait redéfinir l'industrie.
Car la promesse d'Alpaca s'est bel et bien réalisée. La démocratisation des modèles de langage n'est plus une hypothèse, c'est un fait. Avec l'arrivée de Llama 3 (Meta), Mistral, Qwen (Alibaba) et des dizaines d'autres modèles open-source, n'importe quelle entreprise peut aujourd'hui déployer un LLM performant sur ses propres serveurs, avec des coûts d'exploitation maîtrisés. Le fine-tuning d'un modèle sur un cas d'usage métier se fait désormais en quelques heures pour quelques dizaines d'euros.
Les limites identifiées à l'époque restent néanmoins pertinentes. La qualité des données d'entraînement demeure un enjeu central : les biais, les hallucinations et les erreurs de compréhension n'ont pas disparu, même si les garde-fous se sont considérablement améliorés. Les modèles propriétaires comme GPT-4o ou Claude conservent une avance sur certaines tâches complexes de raisonnement, mais l'écart avec l'open-source se réduit à chaque nouvelle génération.
Concrètement, ce qui relevait de la science-fiction en 2023 est devenu la norme. N'importe quel développeur avec des compétences techniques peut créer son propre modèle de langage personnalisé, sans budget colossal ni infrastructure hors de portée. Des milliers d'entreprises, des PME aux grands groupes, ont déjà intégré des LLMs open-source dans leurs processus métier.
Évidemment, cette accessibilité a aussi son revers. Les craintes de 2023 se sont en partie confirmées : les modèles de langage sont utilisés pour du phishing plus sophistiqué, de la désinformation automatisée et d'autres usages malveillants. La réglementation (AI Act européen, cadres nationaux) a dû s'adapter en conséquence, et la question de l'IA responsable est devenue incontournable pour toute entreprise sérieuse.
Au final, Alpaca restera dans l'histoire comme le signal d'alarme qui a prouvé que les modèles de langage propriétaires n'avaient pas de monopole durable. Les modèles comme GPT servent aujourd'hui de référence, mais la vraie révolution est venue de l'écosystème open-source qui permet à chacun de construire ses propres IA sur mesure. L'image des "Legos de l'IA" qu'on utilisait en 2023 est devenue la réalité quotidienne du secteur.