Les entreprises du secteur de l’IA déplacent l’intensité de la concurrence du format des modèles vers des systèmes d’acheminement (routing) plus rentables, alors que les clients passent de phases de test à leur déploiement en production. Le PDG de Perplexity, Aravind Srinivas, a déclaré à CNBC que le modèle, à lui seul, n’est plus le produit, en soulignant des systèmes d’orchestration qui associent des modèles à des outils pour des tâches spécifiques. Ce changement reflète le resserrement des dépenses en IA aux États-Unis, les entreprises cherchant des modèles adaptés aux tâches plutôt que de recourir systématiquement aux options les plus coûteuses.
Perplexity prépare un système utilisant le modèle open chinois
Cette semaine, Perplexity a présenté en avant-première un nouveau système pour son produit d’utilisation de l’ordinateur, construit autour de GLM 5.2, un modèle open issu de Z.ai, en Chine. Le système est conçu pour permettre à un modèle moins cher d’effectuer une plus grande partie du travail, tout en faisant appel à un modèle plus puissant uniquement lorsque c’est nécessaire.
« Le modèle, à lui seul, n’est plus le produit », a déclaré Srinivas à CNBC. « C’est l’ensemble, le système d’orchestration qui place le modèle dans un environnement très performant et associe le modèle à de nombreux outils. »
Les produits d’IA deviennent des systèmes capables de décider quel modèle utiliser, quand l’utiliser et quels outils externes ou sources de données de l’entreprise sont nécessaires. Une tâche de service client n’a peut-être pas besoin du modèle le plus coûteux, tandis qu’un problème de codage complexe, si. Un processus interne de routine pourrait s’exécuter sur un modèle open moins cher, avec remontée des étapes les plus difficiles vers des modèles plus puissants.
Le partenaire de Benchmark prévoit la domination des tokens en open-weight
Les modèles open-weight, qui peuvent être téléchargés, ajustés (tuned) et exécutés par les entreprises elles-mêmes, deviennent plus performants et moins coûteux à faire tourner que les modèles propriétaires premium des plus grands laboratoires d’IA.
Le partenaire de Benchmark, Peter Fenton, a confié à CNBC sa conviction que 90 % ou plus des tokens créés proviendront de modèles open-weight au cours des 18 à 24 prochains mois, possiblement même d’ici la fin de l’année. Les tokens sont les unités de données que les modèles d’IA traitent et produisent.
« Les marges d’inférence générées par les entreprises du “frontier model”, je pense, vont subir une pression quand vous pourrez les exécuter sans la majoration qu’elles appliquent, lorsque vous aurez des modèles suffisamment bons issus de poids open », a déclaré Fenton.
Fenton a indiqué que le passage aux modèles open n’est pas uniquement une question d’économies. Dans certains cas, des modèles plus petits, adaptés à une tâche précise, peuvent être plus rapides et mieux performer que des modèles généraux plus larges.
Ollama indique un taux d’adoption Fortune 500
Benchmark a investi dans Ollama, une entreprise qui facilite le téléchargement, l’exécution et la gestion de modèles open par les développeurs et les entreprises.
Le PDG d’Ollama, Jeff Morgan, a déclaré que l’entreprise a été adoptée par plus de 85 % des entreprises du Fortune 500, y compris des sociétés dans des secteurs réglementés comme l’aviation, l’assurance et la santé.
« Une chose, c’est d’où vient le modèle, et où il a été créé et entraîné », a déclaré Morgan. « Mais ce qui compte le plus pour les entreprises à qui nous nous adressons, c’est où il s’exécute et comment il s’exécute. »
Morgan a déclaré que de nombreuses entreprises commencent avec des modèles plus petits fonctionnant à proximité de leurs propres données, puis étendent leur usage à des modèles open plus grands lorsqu’elles gagnent en confiance.
Des laboratoires chinois créent une concurrence stratégique dans les modèles open
L’essor des modèles open crée un défi stratégique pour les États-Unis. Les modèles open-weight les plus compétitifs viennent souvent de laboratoires chinois, dont Z.ai et DeepSeek. Cela a fait de l’IA open-source un enjeu business, un enjeu politique et un enjeu de compétitivité nationale.
Srinivas a déclaré que les États-Unis devraient soutenir les modèles open parce qu’ils rendent l’IA plus abordable et plus accessible.
« Si vous voulez que les bénéfices de l’IA soient largement distribués aux petites entreprises en Amérique et dans les pays alliés américains, alors il faut vraiment que l’IA soit beaucoup plus abordable », a déclaré Srinivas. « Et l’open source est la seule façon de le faire. »
Le changement pourrait aussi avoir un impact sur le gigantesque déploiement de data centers en cours dans l’industrie technologique. La vague actuelle d’IA suppose que la demande continuera d’affluer vers de grands data centers cloud remplis de puces haut de gamme. Srinivas indique qu’une partie du travail en IA pourrait, à terme, s’exécuter localement, sur des appareils détenus par des consommateurs ou des entreprises.
Cela n’éliminerait pas la nécessité de data centers, mais pourrait créer un système d’IA plus hybride, avec des tâches courantes exécutées localement et les travaux les plus difficiles envoyés à un modèle plus puissant dans le cloud.
FAQ
Que s’est-il passé avec les modèles d’IA que Perplexity a présentés cette semaine ?
Cette semaine, Perplexity a présenté en avant-première un nouveau système pour son produit d’utilisation de l’ordinateur, construit autour de GLM 5.2, un modèle open issu de Z.ai, en Chine. Le système est conçu pour permettre à un modèle moins cher d’effectuer une plus grande partie du travail, tout en faisant appel à un modèle plus puissant uniquement lorsque c’est nécessaire.
Pourquoi les entreprises passent-elles des plus grands modèles d’IA à des systèmes d’acheminement (routing) ?
Alors que les entreprises passent des phases de test de l’IA à son utilisation dans de vrais produits et workflows, elles doivent pouvoir accéder à des modèles qui sont les mieux adaptés à des missions spécifiques au bon coût, plutôt que d’utiliser systématiquement les modèles les plus coûteux. En parallèle, l’Amérique des entreprises resserre également ses dépenses en IA, faisant de l’efficacité des coûts une priorité.
Combien d’entreprises du Fortune 500 ont adopté Ollama ?
Le PDG d’Ollama, Jeff Morgan, a déclaré que l’entreprise a été adoptée par plus de 85 % des entreprises du Fortune 500, y compris des sociétés dans des secteurs réglementés comme l’aviation, l’assurance et la santé.
