Moonshot AI mã nguồn mở Kimi K3, mô hình 2,8 nghìn tỷ tham số, hiệu suất được cải thiện 2,5 lần

Theo Qbitai, vào ngày 28 tháng 7, Moonshot AI đã công bố việc phát hành mã nguồn mở hoàn toàn cho Kimi K3, mô hình tham số 2,8 nghìn tỷ tham số của hãng — mô hình mã nguồn mở lớn nhất thế giới tính theo số lượng tham số. Việc phát hành được thực hiện sau lần ra mắt K3 ban đầu vào ngày 16 tháng 7, khi các yêu cầu của người dùng đạt gần công suất tối đa của cụm chỉ trong 48 giờ.

Kimi K3 đạt mức tăng hiệu suất 2,5 lần về đầu ra tính toán nhờ các cải tiến kỹ thuật, bao gồm Delta Attention và MoonEP. Theo CEO của Osmantic AI, Ahmad, chi phí vận hành của K3 vào khoảng bằng một nửa đến một phần ba so với các mô hình cạnh tranh như Claude của Anthropic và dòng GPT của OpenAI; đồng thời có thể giảm xuống còn một phần mười khi xử lý các truy vấn đã được lưu trong bộ nhớ đệm.