Juste une pensée : peut-être que "bitstream" saisit mieux l'essence que "token" quand nous parlons d'architecture IA. Et voilà la chose - pourquoi continuons-nous à nous obséder sur le nombre de paramètres ? Les véritables goulets d'étranglement sont juste devant nous : la capacité mémoire, les limites de bande passante et les opérations de calcul. La taille des fichiers vous en dit beaucoup plus sur ce qui est réellement réalisable. Nous devrions mesurer les modèles d'IA par ce qui les contraint physiquement, pas par un chiffre abstrait qui a l'air impressionnant sur le papier.