Marvell Technology atrai a atenção dos investidores enquanto a crise energética da IA impulsiona a corrida pela eficiência dos chips

A Marvell Technology está a atrair a atenção dos investidores de Wall Street, à medida que o mercado de semicondutores se orienta para a eficiência energética no meio de uma crise de consumo de energia impulsionada pela IA. De acordo com a Bloomberg, os custos de eletricidade perto dos centros de dados dos EUA aumentaram 267% nos últimos cinco anos, afetando 13 dos 50 estados dos EUA, à medida que as cargas de trabalho de IA consomem enormes quantidades de energia. As grandes empresas tecnológicas que compram eletricidade por grosso recebem descontos, enquanto os consumidores residenciais suportam custos mais elevados, levando a indústria a priorizar arquiteturas de chips de baixo consumo. O Professor Kim Hak-joo do Departamento de Convergência de IA da Universidade Global Handong explica que a aquisição da Inphi pela Marvell em 2021 — líder em conectividade de sinal chip-para-chip — posiciona a empresa para resolver o principal gargalo da IA: a transferência de dados entre memória e unidades de processamento, que representa 40% do consumo de energia da IA.

Consumo de Energia da IA Impulsiona Aumento de 267% nos Custos de Eletricidade nas Regiões de Centros de Dados nos EUA

A Bloomberg relata que os custos de eletricidade em áreas próximas de centros de dados dos EUA aumentaram 267% em comparação com cinco anos atrás, com 13 dos 50 estados dos EUA atualmente afetados e o âmbito geográfico a continuar a expandir-se. As grandes empresas tecnológicas que operam centros de dados compram eletricidade por grosso, recebendo descontos que transferem os encargos de custos para os consumidores residenciais. O consumo de energia da IA divide-se em quatro categorias: transferência de dados (40%), dissipação de calor e arrefecimento (35%), computação (15%) e manutenção de armazenamento de dados (10%). O Cientista Chefe da NVIDIA, Bill Dally, afirmou que a IA consome muito mais energia a transferir dados de semicondutores de memória externa (HBM) para unidades de processamento (GPU) do que a realizar os cálculos propriamente ditos.

Indústria de Semicondutores Adota Arquiteturas SRAM e CIM para Eficiência Energética

A indústria está a avançar para uma maior utilização de SRAM — memória localizada dentro das unidades de processamento GPU — em vez de memória HBM externa para reduzir as distâncias de transferência de dados. Quando o consumo de energia de computação é igual a 1, a recuperação de dados da memória SRAM interna requer 5-10 unidades de energia, enquanto a obtenção de dados da memória HBM externa consome 100-1000 unidades devido à resistência do sinal em distâncias maiores de fios de cobre e à necessidade de amplificação do sinal. Empresas como a Groq e a Cerebras conceberam chips densamente preenchidos com SRAM, eliminando as ligações HBM externas, apesar das limitações da SRAM em capacidade, tamanho físico e custo. A indústria está também a desenvolver arquiteturas Chip-in-Memory (CIM) que integram unidades de processamento diretamente na memória para minimizar ainda mais as distâncias de transferência.

Marvell Technology Ganha Vantagem Competitiva Através da Aquisição da Inphi

A Marvell Technology adquiriu a Inphi em 2021, obtendo acesso a uma experiência de nível mundial em conectividade de sinal entre semicondutores. A Inphi detinha posições dominantes tanto nas ligações de sinal à microescala dentro de espaços apertados de chips como nas soluções de redes de comunicação ótica. Grandes empresas tecnológicas, incluindo a Google, a Microsoft e a Amazon, necessitam da propriedade intelectual da Inphi para projetar redes chip-para-chip (ASIC), dando à Inphi uma influência negocial significativa mesmo junto de grandes empresas de tecnologia. A indústria está a transitar os meios de transferência de dados de fios de cobre para comunicação ótica baseada em laser para reduzir o consumo de energia e a geração de calor ao recuperar grandes volumes de dados da memória HBM externa, uma área onde a Inphi mantém soluções de topo.

FAQ

O que causou o aumento de 267% nos custos de eletricidade perto dos centros de dados dos EUA?
De acordo com a Bloomberg, os custos de eletricidade nas regiões de centros de dados dos EUA aumentaram 267% em cinco anos devido ao enorme consumo de energia da IA, afetando atualmente 13 dos 50 estados dos EUA com um impacto geográfico em expansão.

Porque é que a Marvell Technology adquiriu a Inphi em 2021?
A Marvell adquiriu a Inphi em 2021 para obter acesso a tecnologia de nível mundial em conectividade de sinal chip-para-chip e redes de comunicação ótica, capacidades essenciais para arquiteturas de chips de IA de baixo consumo, uma vez que a transferência de dados representa 40% do consumo de energia da IA.

Como é que a SRAM reduz o consumo de energia da IA em comparação com a memória HBM?
A SRAM localizada dentro das unidades de processamento GPU requer 5-10 unidades de energia para recuperação de dados quando a computação utiliza 1 unidade, enquanto a memória HBM externa consome 100-1000 unidades devido a distâncias de transferência de dados mais longas e requisitos de amplificação de sinal sobre fios de cobre.