A Rebellions executa o modelo de IA A.X K1 da SK Telecom em servidores NPU domésticos

A Rebellions, empresa sul-coreana de semicondutores de IA, operou com sucesso o modelo de IA ultragrande da SK Telecom, A.X K1, em servidores de unidades de processamento neural (NPU) nacionais, anunciou a empresa a 23. Utilizando o seu servidor de IA proprietário, “Rebel Server”, a Rebellions executou de forma estável o modelo com mais de 500 mil milhões de parâmetros e demonstrou um serviço de agentes de IA capaz de lidar com várias solicitações de utilizadores em simultâneo. A conquista demonstra a viabilidade de operar serviços de IA em grande escala recorrendo apenas a modelos de IA nacionais e infraestrutura de NPU, posicionando-se como um exemplo prático das capacidades de IA soberana. A Rebellions é uma entidade consorciada ao abrigo da SK Telecom no projeto independente de modelos de base de IA do Ministério da Ciência e das Tecnologias da Informação e Comunicação, sendo responsável por demonstrar a infraestrutura de IA baseada em NPU nacionais.

Rebellions otimiza software para arquitetura MoE e processamento paralelo

A.X K1 aplica uma arquitetura de Mistura de Especialistas (Mixture of Experts, MoE) que seleciona apenas os modelos especializados necessários para melhorar a eficiência computacional de modelos em grande escala. A Rebellions otimizou software dedicado para o modelo MoE e aplicou tecnologia para distribuir várias operações pelas NPU para processamento paralelo. Isto permitiu que um único servidor processasse múltiplas solicitações de utilizadores em tempo real. A empresa afirmou que um único Rebel Server garante um desempenho de infraestrutura comparável ao de servidores globais de unidades de processamento gráfico (GPU) de elevado desempenho, reduzindo a construção de centros de dados e a carga operacional.

Rebel Server demonstra um serviço de agentes de IA multiutilizador em tempo real

Na demonstração, a Rebellions mostrou um serviço de agentes em que os utilizadores podiam fazer perguntas como “farmácias disponíveis ao fim de semana” e receber resultados apresentados num mapa. O sistema processou respostas em tempo real mesmo em ambientes em que vários utilizadores introduziam simultaneamente perguntas diferentes. A demonstração validou a capacidade do servidor para lidar com cargas de trabalho multiutilizador concorrentes com desempenho estável.

Rebellions participa no projeto governamental de modelos de base de IA

Park Sung-hyun, CEO da Rebellions, afirmou: “Este é um caso prático de IA soberana que mostra que serviços de IA em grande escala podem ser operados usando apenas modelos ultragrandes e NPU nacionais.” A Rebellions participa como entidade consorciada ao abrigo da SK Telecom no projeto independente de modelos de base de IA do Ministério da Ciência e das Tecnologias da Informação e Comunicação, em que é responsável por demonstrar a infraestrutura de IA baseada em NPU nacionais.

FAQ

O que conseguiu a Rebellions com o modelo A.X K1 da SK Telecom?

A Rebellions operou com sucesso o modelo de IA A.X K1 da SK Telecom, com mais de 500 mil milhões de parâmetros, no seu Rebel Server nacional baseado em NPU. A empresa demonstrou um serviço de agente de IA que lidou com várias solicitações de utilizadores em simultâneo, em tempo real.

Como é que o Rebel Server da Rebellions lida eficientemente com modelos grandes de IA?

O Rebel Server otimiza o software para a arquitetura Mixture of Experts (MoE) usada em A.X K1, distribuindo várias operações pelas NPU para processamento paralelo. Isto permite que um único servidor atinja um desempenho de infraestrutura comparável ao de servidores globais de GPU de elevado desempenho, ao mesmo tempo que processa várias solicitações de utilizadores em tempo real.