Le président d'OpenAI, Greg Brockman, a prédit que les contraintes de capacité informatique persisteraient dans l'industrie de l'IA lors d'un forum tenu à New York le 23. Brockman a déclaré que les entreprises doivent prendre des décisions difficiles sur ce qu'elles entraînent pour leurs modèles et sur le niveau de montée en échelle de leurs produits, en raison de pénuries informatiques en cours. Les sociétés d'IA, dont OpenAI et Anthropic, ainsi que les grands groupes de la tech comme Microsoft, Amazon et Meta, ont du mal à répondre à la demande croissante en IA tout en entraînant simultanément de nouveaux modèles et en servant leurs clients, ce qui nécessite un équipement informatique massif, comme des GPU NVIDIA, et des dépenses continues et importantes dans les centres de données.
D'après Yahoo Finance le 25 (heure locale), Brockman a déclaré au forum du 23 : « Ma forte prédiction est que, quoi qu'il arrive, nous continuerons à rester dans cette situation de pénurie de capacité informatique. Pour l'instant, nous devons prendre des décisions difficiles sur ce dont nous entraînons réellement les modèles et sur à quel point nous devons adapter nos produits à l'échelle. »
Les grands groupes de la tech ont du mal à faire face à la demande informatique liée à l'IA
Les entreprises d'IA comme OpenAI et Anthropic, ainsi que des acteurs majeurs de la tech, dont Microsoft, Amazon et Meta, rencontrent des difficultés pour répondre à une demande explosante en IA tout en équilibrant l'entraînement de nouveaux modèles d'IA et la fourniture d'un service aux clients. Cela exige un équipement informatique à grande échelle, comme des GPU NVIDIA. Malgré des dépenses massives continues dans les datacenters, les entreprises ont du mal à répondre à la demande.
Brockman a expliqué : « Parfois, en voyant la capacité d'OpenAI croître rapidement, les gens pensent qu'il y aura un excédent de capacité informatique, mais à mesure que l'entreprise développe de nouveaux modèles et de nouvelles méthodes d'utilisation, la demande augmente encore. » Il a ajouté : « Je pense que cette situation va continuer à l'avenir parce que nous passons à une économie alimentée par le calcul. »
Alphabet annonce des contrats de capacité avec des tiers et un accord Google-SpaceX
Lors de la publication de ses résultats du T2 le 22, le directeur financier d'Alphabet a annoncé que, malgré des dépenses à grande échelle en datacenters dans l'ensemble de l'industrie, la société conclura des contrats avec des fournisseurs tiers pour répondre à ses besoins de capacité informatique au T3.
En juin, Google a signé un contrat de location de capacité d'IA d'une valeur de 920 millions de dollars par mois avec SpaceX.
Brockman rejette l'idée de « token maxing »
Brockman a rejeté le concept de « token maxing » — utiliser la capacité de calcul liée à l'IA à sa capacité maximale uniquement à des fins d'exhibition — en notant que les clients commencent à voir un retour sur investissement lorsqu'ils utilisent des logiciels pour améliorer leur productivité.
Il a souligné : « Si les clients utilisent bien l'IA, ils commenceront à voir un retour sur investissement. Si vous ne faites que maximiser l'utilisation des tokens, vous n'obtenez que la consommation maximale de tokens, mais si vous maximisez la valeur, vous pouvez appliquer ces technologies pour résoudre des problèmes et obtenir des bénéfices réels. »
FAQ
Que prévoit Greg Brockman d'OpenAI concernant la capacité informatique de l'IA ?
Greg Brockman a prédit lors d'un forum à New York le 23 que les contraintes de capacité informatique persisteraient dans l'industrie de l'IA. Il a indiqué que les entreprises continueront de faire face à des décisions difficiles concernant l'entraînement des modèles et la montée en échelle des produits en raison de pénuries informatiques en cours.
Pourquoi Google a-t-il signé un contrat avec SpaceX pour de la capacité d'IA ?
Google a signé un contrat de location de capacité d'IA de 920 millions de dollars par mois avec SpaceX en juin. Cela a fait suite à l'annonce du directeur financier d'Alphabet le 22 selon laquelle la société contracterait avec des fournisseurs tiers pour répondre à ses besoins de capacité informatique au T3, malgré des dépenses massives de datacenters à l'échelle de l'industrie.
Qu'est-ce que le token maxing et pourquoi Brockman l'a-t-il rejeté ?
Le token maxing désigne l'utilisation de la capacité de calcul liée à l'IA à capacité maximale uniquement à des fins d'exhibition. Brockman a rejeté ce concept, affirmant que les clients devraient se concentrer sur la maximisation de la valeur plutôt que sur l'utilisation des tokens. Il a insisté sur le fait que l'application des technologies d'IA pour résoudre des problèmes et obtenir des bénéfices concrets procure un véritable retour sur investissement, et pas seulement une consommation maximale de tokens.