Coinbase reduce costos en un 50% con IA de código abierto china, el uso de tokens crece exponencialmente en el mismo período.

El CEO de Coinbase, Brian Armstrong, declaró el 26 de junio que Coinbase ha establecido el GLM 5.2, lanzado recientemente por Zhipu AI, y el Kimi 2.7 de Beijing Moonshot AI, como los modelos de lenguaje grandes predeterminados para los ingenieros internos de la empresa; el gasto en IA de Coinbase se redujo casi a la mitad, mientras que el uso de tokens continúa creciendo exponencialmente en el mismo período.

Asignación de tareas y escenarios de uso de GLM 5.2 y Kimi 2.7 en Coinbase

Armstrong explicó que GLM 5.2 y Kimi 2.7 se implementan principalmente en escenarios de tareas rutinarias, como asistencia de código estándar en flujos de trabajo generales de ingeniería; para tareas que requieren planificación compleja, los ingenieros aún pueden optar por modelos de frontera. En los procesos de revisión de código, Coinbase adopta una estrategia de modelos múltiples en paralelo, permitiendo que diferentes modelos verifiquen los resultados entre sí para mantener los estándares de calidad.

Estrategia de reestructuración de infraestructura de IA en tres niveles anunciada por Armstrong

Armstrong atribuyó la reducción de casi la mitad del gasto en IA de Coinbase a la siguiente reestructuración de infraestructura en tres niveles:

Enrutamiento inteligente: el sistema preprocesa las indicaciones, combinando la tasa de aciertos de caché y los precios de los modelos, y distribuye automáticamente las tareas al modelo más adecuado y económico.

Caché agresivo: se requiere que todas las solicitudes tengan conciencia de caché; la tasa de aciertos de caché de LibreChat saltó del 5% al 60%.

Contexto optimizado: se recomienda a los ingenieros iniciar nuevas sesiones y reducir el alcance de los archivos al cambiar de tarea para minimizar los tokens desperdiciados.

Objetivo de expansión de IA sostenible de Armstrong y posición de esta estrategia

Armstrong enfatizó que el objetivo de esta optimización de costos no es suprimir el uso, sino ampliar la adopción de IA. Indicó que la meta es permitir que los ingenieros utilicen libremente cualquier cantidad de tokens y modelos sin un límite máximo de costos, al mismo tiempo que vinculan el uso con el impacto en el negocio. Armstrong considera que este modelo puede ser adoptado por cualquier empresa; las afirmaciones anteriores son declaraciones públicas personales.

Preguntas frecuentes

¿GLM 5.2 y Kimi 2.7 son productos de qué empresas respectivamente?

GLM 5.2 es el modelo más reciente lanzado por la empresa china de IA Zhipu AI; Kimi 2.7 es el modelo de lenguaje grande de Beijing Moonshot AI Technology Co., Ltd. Ambos modelos se publicaron en código abierto. Armstrong explicó que Coinbase los despliega en escenarios de tareas de ingeniería rutinarias, mientras que para tareas complejas aún se utilizan modelos de frontera.

¿Cuál es la razón principal de la reducción de casi la mitad del gasto en IA de Coinbase?

Según Armstrong, el núcleo de la reducción de costos es la reestructuración de infraestructura en tres niveles: enrutamiento inteligente (asignación automática de tareas al modelo más económico), caché agresivo (la tasa de aciertos de caché de LibreChat aumentó del 5% al 60%) y contexto optimizado (reducción de tokens desperdiciados). Sobre esta base, el uso de modelos de código abierto chinos de menor costo para reemplazar parte del uso de tareas rutinarias de modelos de frontera estadounidenses comprime aún más el gasto total.

¿Armstrong mencionó en su declaración pública los arreglos de revisión de seguridad de datos para el uso de modelos de código abierto chinos?

Según la declaración pública de Armstrong del 26 de junio de 2026, no mencionó los detalles de revisión de seguridad de datos ni los arreglos de cumplimiento relacionados con la adopción de GLM 5.2 y Kimi 2.7. Coinbase es un intercambio de criptoactivos regulado por Estados Unidos; el contenido específico de los marcos de cumplimiento relevantes no fue divulgado en esta declaración.