NVIDIA відкриває вихідний код архітектури TwoTower, досягаючи прискорення генерації тексту в 2,42 рази

2026-07-02 08:57:32

За даними Beating, NVIDIA відкрила вихідний код Nemotron-Labs-TwoTower — дискретної архітектури дифузії тексту, призначеної для прискорення генерації тексту великими мовними моделями. Двобаштова конструкція розділяє заморожену авторегресійну модель, яка зберігає здатність до міркувань, і навчальну вежу знешумлення, що генерує текст паралельно. Використовуючи лише 1/12 базових даних попереднього навчання на моделі Mamba-Transformer mixture-of-experts із 30 мільярдами параметрів, TwoTower зберіг 98,7% базової якості, збільшивши швидкість генерації в 2,42 раза без додаткових витрат пам'яті.

Переглянути джерело

Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.

Пов’язані новини

2год тому

Nvidia запускає модель співпраці в інфраструктурі ШІ 2 липня

2год тому

SoftBank запускає хмарний сервіс ШІ в США, плануючи досягти потужності 10 гігават до 2030 року.

5год тому

Nvidia запускає модель співпраці в галузі AI-інфраструктури з розподілом доходів, 1 липня

5год тому

Nvidia запускає партнерство з обчислень ШІ, щоб гарантувати викуп надлишкової потужності графічних процесорів для стартап-провайдерів хмарних послуг.

06-30 02:39

Meituan випускає трильйон-параметрову модель LongCat-2.0 з 30 трильйонами токенів 30 червня.

Поглиблений аналіз