A Tencent lança o modelo Hy3 quantizado com 295 mil milhões de parâmetros, com possibilidade de ser executado numa única GPU

TENCENT-0,30%
Recentemente, a Tencent Hunyuan lançou versões quantizadas do seu modelo Hy3 em resposta a pedidos da comunidade, permitindo que o modelo de 295 mil milhões de parâmetros seja executado numa única GPU de inferência ou até em máquinas locais com memória suficiente. A equipa quantizou os pesos do Hy3 para precisão de 1-bit e 4-bit, embalou-os no formato GGUF e integrou-os no ecossistema do llama.cpp, tornando o que antes exigia clusters multi-GPU agora acessível para cenários de implementação mais abrangentes.
Aviso legal: As informações contidas nesta página podem provir de fontes externas e têm caráter meramente informativo. Não refletem os pontos de vista nem as opiniões da Gate e não constituem qualquer tipo de aconselhamento financeiro, de investimento ou jurídico. A negociação de ativos virtuais envolve um risco elevado. Não se baseie exclusivamente nas informações contidas nesta página ao tomar decisões. Para mais detalhes, consulte o Aviso legal.
Comentar
0/400
Nenhum comentário