Trajectory Meluncurkan Platform SkyRL Open-Source, Mencapai Peningkatan Throughput 2,81x

Menurut OneMillion_AI, Trajectory berkolaborasi dengan Sky Computing Lab milik UC Berkeley dan Anyscale baru-baru ini mengumumkan platform open-source SkyRL serta arsitektur Multi-LoRA Training untuk penyetelan (fine-tuning) model bahasa besar. Sistem ini mengatasi inefisiensi pada optimasi model tradisional dengan mempertahankan basis model bersama di memori GPU sambil memperlakukan beragam eksperimen fine-tuning sebagai modul adapter yang ringan. Pengujian menunjukkan throughput eksperimen end-to-end meningkat 2,81 kali, dengan throughput absolute waktu pada single-node mencapai peningkatan 3,25 kali, sehingga memungkinkan model besar melakukan evolusi mandiri pada level per jam melalui data produksi real-time. Kode pelatihan kini tersedia di repositori SkyRL.
Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar