OpenAI 總裁 Greg Brockman 預測,23 日在紐約市舉行的一場論壇上提到,AI 產業的算力供給瓶頸將會持續。Brockman 表示,由於持續的算力短缺,企業在「用什麼來訓練模型」以及「產品需要擴張到多大規模」上,都必須做出艱難的取捨。包括 OpenAI、Anthropic 在內的 AI 公司,以及像是 Microsoft、Amazon、Meta 這樣的大型科技公司,正難以在同時訓練新模型與提供客戶服務的情況下,滿足暴增的 AI 需求,因此需要大量的運算設備,例如輝達(NVIDIA)GPU,並持續在數據中心投入重金。
根據 Yahoo Finance 在 25 日(當地時間)的報導,Brockman 在 23 日的論壇上表示:「我強烈預測,不管發生什麼事,我們都將持續處在這種算力短缺的現象之中。現在,我們必須就『實際要用什麼來訓練模型』以及『要把產品擴張到多大規模』做出艱難決策。」
大型科技公司在 AI 算力需求上承受壓力
像 OpenAI 與 Anthropic 這樣的 AI 公司,以及包含 Microsoft、Amazon 和 Meta 在內的大型科技企業,正面臨在平衡新 AI 模型訓練與客戶服務提供的同時,難以滿足迅速爆發的 AI 需求。這需要大規模的運算設備,例如輝達(NVIDIA)GPU。儘管公司仍持續在數據中心投入巨額資金,卻依然難以跟上需求。
Brockman 解釋道:「偶爾,人們在看到 OpenAI 的產能快速成長後,會以為將出現算力供給過剩,但當公司持續開發新模型和新的使用方式時,需求也會進一步增加。」他補充:「我認為這種情況將會持續下去,因為我們正在轉向一個由算力驅動的經濟體。」
Alphabet 宣布第三方產能合約及 Google-SpaceX 合作
在 Alphabet 於 22 日公布的 Q2 財報說明中,公司財務長宣布,儘管整個產業都在數據中心進行大規模支出,公司仍將在 Q3 與第三方供應商簽約,以滿足其算力需求。
Google 於 6 月與 SpaceX 簽署一份價值每月 9.2 億美元的 AI 產能租賃合約。
Brockman 拒絕「token maxing」概念
Brockman 對「token maxing」這一概念嗤之以鼻——也就是把 AI 運算純粹用於展示、用到最大容量——並指出,當客戶開始使用軟體提升生產力時,他們也逐漸看到了投資報酬。
他強調:「如果客戶把 AI 用得好,他們就會開始看到投資報酬。如果你只是把 token 使用量最大化,你得到的只有 token 使用量最大化;但如果你把價值最大化,你就能把這些技術用來解決問題,並取得真正的效益。」
常見問題
OpenAI 的 Greg Brockman 對 AI 算力的預測是什麼?
Greg Brockman 在 23 日的紐約市論壇上預測,AI 產業的算力供給瓶頸將會持續。他表示,由於持續的算力短缺,企業將會在模型訓練與產品擴張上持續面臨困難決策。
為什麼 Google 在 AI 產能上與 SpaceX 簽了合約?
Google 在 6 月與 SpaceX 簽署一份每月 9.2 億美元的 AI 產能租賃合約。此舉源於 Alphabet 在 22 日公布的財務長聲明:即使面對全產業的大規模數據中心支出,該公司仍將與第三方供應商簽約,以滿足其 Q3 的算力需求。
什麼是 token maxing,為什麼 Brockman 會否定它?
Token maxing 指的是把 AI 運算純粹用於展示、用到最大容量。Brockman 拒絕這一概念,表示客戶應著重於最大化價值,而非最大化 token 使用量。他強調,將 AI 技術用於解決問題並取得實際效益,能帶來真正的投資報酬,而不只是追求最大化 token 消耗。