Coinbase réduit ses dépenses en IA de près de moitié en utilisant les modèles ouverts GLM et Kimi par défaut

Selon le PDG Brian Armstrong, le 29 juin, Coinbase a réduit ses dépenses liées à l'IA de près de la moitié grâce à des optimisations de paramètres par défaut, de routage et de mise en cache, plutôt qu'à des plafonds d'utilisation. L'entreprise a défini des modèles à poids ouverts, dont GLM de Zhipu et Kimi de Moonshot, comme options par défaut via sa passerelle LLM, tandis que 91 % des employés n'ont jamais atteint les limites d'utilisation. Le taux de réussite du cache est passé de 5 % à 60 %, démontrant l'efficacité de l'optimisation au niveau de l'infrastructure.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire