Coinbase 使用开放权重模型 GLM 和 Kimi 作为默认选项,将 AI 支出削减近一半

据 Coinbase CEO Brian Armstrong 在 6 月 29 日的说法,该公司通过优化默认设置、路由和缓存策略(而非使用限制),将 AI 支出削减了近一半。公司通过其 LLM 网关将智谱 GLM 和月之暗面 Kimi 等开放权重模型设为默认选项,而 91% 的员工从未触及使用上限。缓存命中率从 5% 提升至 60%,展示了基础设施层面优化的有效性。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明
评论
0/400
暂无评论