Akash Network, Merkeziyetsiz GPU’larda İlk Tam Yönetilen Yapay Zekâ Çıkarım Servisi Olan AkashML’yi Kullanıma Sundu

Kısa Bilgi

Akash Network, OpenAI ile uyumlu API’ler, küresel düşük gecikmeli erişim ve LLM dağıtımı için %85’e varan maliyet tasarrufu sunan AkashML’yi başlattı.

Bir bulut bilişim pazaryeri olan Akash Network, tamamen merkezi olmayan GPU’lar üzerinde çalışan ilk tam yönetilen AI çıkarım hizmetini tanıttı. Bu yeni hizmet, geliştiricilerin Akash üzerinde üretim düzeyinde çıkarım yönetirken karşılaştığı operasyonel zorlukları ortadan kaldırarak, altyapı yönetimiyle uğraşmadan merkezi olmayan bulut bilişimin avantajlarını sunuyor.

Başlangıçta AkashML, Llama 3.3-70B, DeepSeek V3 ve Qwen3-30B-A3B gibi modeller için yönetilen çıkarım hizmeti sunuyor ve bu modeller, 65’ten fazla veri merkezinde hemen dağıtılabilir ve ölçeklenebilir durumda. Bu yapı, anında küresel çıkarım, öngörülebilir token başına ödeme fiyatlandırması sağlar ve geliştirici verimliliğini artırır.

Akash, OpenAI’nin ilk atılımlarının ardından AI uygulamalarının yükselişiyle birlikte erken AI geliştiricilerini ve girişimleri destekledi. Son birkaç yılda Akash Core ekibi, brev.dev ((Nvidia tarafından satın alındı)), VeniceAI ve Prime Intellect gibi müşterilerle iş birliği yaparak on binlerce kullanıcıya hizmet veren ürünler piyasaya sürdü. Bu erken benimseyenlerin teknik açıdan yetkin olması ve altyapıyı kendileri yönetebilmelerine rağmen, geri bildirimler altyapı ile uğraşmadan API tabanlı erişim tercih edildiğini gösterdi. Bu görüşler, seçili kullanıcılar için halka açık olmayan bir AkashML versiyonunun geliştirilmesine ve AkashChat ile AkashChat API’nin oluşturulmasına yol açtı ve AkashML’nin halka açık lansmanının önünü açtı.

AkashML, LLM Dağıtım Maliyetini %85’e Kadar Azaltacak

Yeni çözüm, geliştiricilerin ve işletmelerin büyük dil modelleri dağıtırken karşılaştığı birkaç temel zorluğu ele alıyor. Geleneksel bulut çözümleri genellikle yüksek maliyetlidir; 70B’lik bir model için rezerve edilmiş örneklerin maliyeti milyon token başına girdi için $0.13, çıktı için ise $0.40’ı aşabilirken, AkashML pazar yeri rekabetinden faydalanarak bu maliyetleri %70-85 oranında azaltıyor. Operasyonel yük de bir diğer engeldir; modellerin paketlenmesi, vLLM veya TGI sunucularının yapılandırılması, shard yönetimi ve yedekleme işlemleri haftalarca mühendislik süresi gerektirebilir. AkashML, kod değişikliği gerektirmeden dakikalar içinde geçiş yapılabilen OpenAI ile uyumlu API’lerle bu süreci basitleştiriyor.

Gecikme, isteklerin uzun mesafeler kat etmesi gereken merkezi platformlarda bir diğer sorundur. AkashML, trafiği 80’den fazla küresel veri merkezinden en yakınına yönlendirerek gerçek zamanlı uygulamalar için uygun olan 200ms altı yanıt süreleri sunar. Satıcıya bağımlılık esnekliği ve model ile veriler üzerinde kontrolü sınırlar; AkashML yalnızca Llama, DeepSeek ve Qwen gibi açık modelleri kullanır ve kullanıcılara versiyonlama, yükseltme ve yönetişim üzerinde tam kontrol sağlar. Ölçeklenebilirlik sorunları, merkezi olmayan GPU kaynakları arasında otomatik ölçeklendirme ile hafifletilir; %99 çalışma süresi sağlanır, kapasite sınırları kaldırılır ve ani fiyat artışlarından kaçınılır.

AkashML, hızlı başlangıç ve anında yatırım getirisi için tasarlanmıştır. Yeni kullanıcılara $100 değerinde AI token kredisi verilir ve desteklenen tüm modeller Playground veya API üzerinden denemeye açıktır. Tek bir API uç noktası tüm modelleri destekler ve LangChain, Haystack veya özel ajanlar gibi frameworklerle entegre olur. Fiyatlandırma şeffaf ve modele özgüdür, beklenmedik maliyetlerin önüne geçer. Etkili dağıtımlar Akash Star aracılığıyla öne çıkarılabilir ve yaklaşan ağ yükseltmeleri (BME, sanal makineler ve gizli bilişim dahil) maliyetleri daha da azaltacaktır. Erken kullanıcılar, harcamalarda üç ila beş kat azalma ve küresel olarak tutarlı 200ms altı gecikme bildiriyor; bu da daha düşük maliyet, artan kullanım ve daha fazla sağlayıcı katılımı döngüsü yaratıyor.

Başlamak çok basit: kullanıcılar playground.akashml.com adresinden iki dakikadan kısa sürede ücretsiz hesap oluşturabilir, Llama 3.3-70B, DeepSeek V3 ve Qwen3-30B-A3B dahil model kütüphanesini keşfedebilir ve fiyatlandırmayı önceden görebilirler. Ek modeller doğrudan platformdan talep edilebilir. Kullanıcılar, modelleri Playground veya API üzerinden anında test edebilir, kullanım, gecikme ve harcamaları gösterge panelinden izleyebilir ve bölge sabitleme ile otomatik ölçeklendirme sayesinde üretime geçebilirler.

Merkezi çıkarım, yüksek maliyetli, yavaş ve kısıtlayıcı olmaya devam ederken, AkashML, en iyi açık modellere pazaryeri odaklı fiyatlarla tam yönetilen, API-öncelikli, merkezi olmayan erişim sunar. Çıkarım maliyetlerini %80’e kadar azaltmak isteyen geliştiriciler ve işletmeler hemen platformu kullanmaya başlayabilirler.