Rebellon успішно запустив ШІ-модель SK Telecom із параметрами понад 500 млрд на власних серверах NPU

За даними Yonhap News, Rebellon — вітчизняна компанія з AI-чипів — сьогодні (23 липня) успішно запустила модель A.X K1 від SK Telecom (500B+ параметрів) на своєму Rebel Server із використанням вітчизняних процесорів NPU. Демонстрація показала, що модель у реальному часі обробляє кілька одночасних запитів користувачів за допомогою сервісу AI agent, який опрацьовував запити на кшталт пошуку аптек, що працюють у вихідні. Rebellon застосувала архітектуру mixture-of-experts (MoE), щоб оптимізувати обчислювальну ефективність і розподіляти навантаження між ядрами NPU для паралельної обробки, забезпечивши продуктивність інфраструктури на одному сервері, зіставну з висококласними GPU-серверами, і водночас зменшивши операційний тягар для дата-центрів.
Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.
Прокоментувати
0/400
Немає коментарів