хтось запустив модель мовлення на Apple Watch.

не іграшкова демонстрація. Granite 4.0 1B мовлення просто посів ПЕРШЕ місце в лідерборді OpenASR.
ось що дивовижно в цьому:
• 1B параметрів - у два рази менше за Granite 3.3 2B
• вища точність транскрипції англійською, ніж у більших моделей
• спекулятивне декодування для швидшого виведення на мініатюрному обладнанні
• 6 мов - англійська, французька, німецька, іспанська, португальська, японська
• зсув списку ключових слів, щоб він правильно розпізнавав імена та акроніми
частина, про яку ніхто не говорить:
ти платиш за виклики Whisper API щомісяця, тоді як модель у два рази менша за попередню перевершує її на пристрої, прикріпленому до зап’ястя.
це не просто оптимізація. це повний крах всієї структури витрат на edge speech додатки.
менша модель. краща точність. НУЛЬ залежності від хмари.