Kimi.ai Mở nguồn 3 thành phần hạ tầng để đào tạo các tác nhân quy mô lớn

Theo PANews, Kimi.ai hôm nay đã phát hành các phiên bản mã nguồn mở cho ba thành phần hạ tầng cốt lõi: MoonEP, một thư viện truyền thông hiệu năng cao cho huấn luyện phân tán MoE; AgentENV, một hệ thống môi trường phân tán cho các tác nhân quy mô lớn (được phát triển cùng kvcache-ai); và FlashKDA, một kernel hiệu năng cao dựa trên CUTLASS. Nhóm cho biết các thành phần này được thiết kế nhằm giảm chi phí truyền thông và suy luận trong huấn luyện MoE cũng như học tăng cường quy mô lớn, đồng thời có thể đóng vai trò như một backend plug-and-play cho flash-linear-attention.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ các nguồn bên thứ ba và chỉ mang tính chất tham khảo. Thông tin này không phản ánh quan điểm hoặc ý kiến của Gate và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Giao dịch tài sản ảo tiềm ẩn rủi ro cao. Vui lòng không chỉ dựa vào thông tin trên trang này khi đưa ra quyết định. Để biết thêm chi tiết, vui lòng xem Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận