Akash Network 推出 AkashML，首個在去中心化 GPU 上的全託管 AI 推理服務

重點摘要

Akash Network 推出 AkashML，提供與 OpenAI 相容的 API、全球低延遲存取，以及多達 85% 的 LLM 部署成本節省。

Akash Network 是一個雲端運算市集，現已推出首個在去中心化 GPU 上全託管的 AI 推理服務。這項新服務消除了開發者過去在 Akash 上管理生產等級推理時所面臨的運維挑戰，讓用戶能享受去中心化雲端運算的優勢，無需親自管理基礎設施。

AkashML 上線時即提供對 Llama 3.3-70B、DeepSeek V3 及 Qwen3-30B-A3B 等模型的託管推理，可立即部署，並可橫跨全球 65 個以上的資料中心擴展。這項設計可實現全球即時推理、可預測的按 Token 計價，並提升開發者生產力。

自 OpenAI 發表首波 AI 重大突破以來，Akash 一直支持早期 AI 開發者與新創公司。過去幾年，Akash 核心團隊曾與 brev.dev (被 Nvidia 收購)、VeniceAI、Prime Intellect 等客戶合作，推出服務數萬用戶的產品。儘管這些早期用戶技術能力強，可自行管理基礎設施，但回饋顯示他們更偏好 API 駆動的存取方式，無需處理底層系統。這些意見促成了 AkashML 非公開版本的開發，並誕生了 AkashChat 與 AkashChat API，為 AkashML 的公開發佈鋪路。

AkashML 部署 LLM 成本最多可省 85%

這項新解決方案針對開發者與企業在部署大型語言模型時面臨的多項關鍵挑戰。傳統雲端方案成本高昂，像 70B 模型的預約執行個體每百萬 Token 輸入超過 $0.13，每百萬 Token 輸出超過 $0.40；而 AkashML 利用市集競爭，將成本降低 70-85%。運維負擔也是一大障礙，如打包模型、配置 vLLM 或 TGI 伺服器、管理分片與故障轉移，常需數週工程時間；AkashML 則以與 OpenAI 相容的 API，讓遷移可於數分鐘內完成，無需更動程式碼。

集中式平台還有延遲問題，因請求需跨國傳遞。AkashML 會將流量導向超過 80 個全球資料中心中最近的一個，實現 200ms 以內的回應，適合即時應用。供應商綁定則限制了對模型與資料的彈性與控制權；AkashML 僅使用開源模型如 Llama、DeepSeek 與 Qwen，讓用戶完全掌控版本、升級與治理。擴展性挑戰則透過去中心化 GPU 自動擴展解決，維持 99% 上線率，消除容量限制，也避免價格突然暴漲。

AkashML 設計強調快速上手與即時投資回報。新用戶可獲得 $100 AI 代幣點數，於 Playground 或 API 上試用所有支援模型。單一 API 端點支援所有模型，並可整合 LangChain、Haystack 或自訂代理等框架。定價透明，並依模型差異化，避免意外費用。高影響力部署可透過 Akash Star 獲得曝光，且即將上線的網路升級（包括 BME、虛擬機與機密運算）預期將進一步降低成本。早期用戶回報支出降幅三到五倍，全球延遲穩定在 200ms 內，形成成本降低、用量增加、供應商參與擴大的正向循環。

開始使用非常簡單：用戶可於兩分鐘內在 playground.akashml.com 免費註冊帳號，探索 Llama 3.3-70B、DeepSeek V3、Qwen3-30B-A3B 等模型庫，並即時看到價格。其他模型可於平台直接申請。用戶可即時於 Playground 或 API 測試模型，並在儀表板監控用量、延遲與支出，還能透過地區固定與自動擴展進入生產規模部署。

集中式推理依舊昂貴、緩慢且受限，AkashML 則以 API 為先的全託管去中心化服務，提供頂尖開源模型、市場化價格。開發者與企業若希望將推理成本降低高達 80%，可立即開始使用此平台。