D’après AI Technology Review, Zhipu AI a récemment finalisé l’acquisition de ZhongKeJiaHe, une entreprise d’infrastructure logicielle de calcul hétérogène pour l’IA, pour plus de 100 millions de RMB. L’opération vise à renforcer les capacités de Zhipu en ingénierie de grands modèles de langage et en optimisation de compilateur afin de traiter les goulets d’étranglement de l’inférence face à l’explosion de la demande des utilisateurs.
La technologie de base de ZhongKeJiaHe est issue du laboratoire de compilateurs de l’Académie chinoise des sciences. Son architecture d’ensemble unifie des puces nationales fragmentées au sein d’un cluster de calcul cohérent grâce à un ensemble d’instructions virtuelles ; et son moteur d’inférence SigInfer réduirait, selon les informations, la latence des modèles jusqu’à 74x. L’acquisition améliorera les coûts d’inférence par token de Zhipu et soutiendra son développement planifié de puces IA sur mesure, dans la foulée des pressions récentes liées à l’adoption du modèle GLM-5.2 et aux sanctions américaines.