Marvell Technology gewinnt die Aufmerksamkeit von Wall-Street-Investoren, da sich der Halbleitermarkt angesichts einer KI-getriebenen Stromverbrauchskrise in Richtung Energieeffizienz bewegt. Laut Bloomberg stiegen die Stromkosten in der Nähe von US-Rechenzentren in den letzten fünf Jahren um 267 %, was 13 von 50 US-Bundesstaaten betrifft, da KI-Workloads massive Mengen an Strom verbrauchen. Große Technologieunternehmen, die Strom im Großhandel kaufen, erhalten Rabatte, während private Verbraucher höhere Kosten tragen, was die Branche dazu veranlasst, stromsparende Chip-Architekturen zu priorisieren. Professor Kim Hak-joo von der Abteilung für KI-Konvergenz der Handong Global University erklärt, dass die Übernahme von Inphi durch Marvell im Jahr 2021 – einem führenden Anbieter von Signalverbindungen zwischen Chips – das Unternehmen in die Lage versetzt, den zentralen Engpass der KI zu adressieren: die Datenübertragung zwischen Speicher und Verarbeitungseinheiten, die 40 % des KI-Stromverbrauchs ausmacht.
KI-Stromverbrauch treibt 267% Anstieg der Stromkosten in US-Rechenzentrumsregionen
Bloomberg berichtet, dass die Stromkosten in Gebieten in der Nähe von US-Rechenzentren im Vergleich zu vor fünf Jahren um 267 % gestiegen sind, wobei derzeit 13 von 50 US-Bundesstaaten betroffen sind und die geografische Reichweite weiter zunimmt. Große Technologieunternehmen, die Rechenzentren betreiben, kaufen Strom im Großhandel und erhalten Rabatte, wodurch die Kostenlast auf private Verbraucher verlagert wird. Der KI-Stromverbrauch gliedert sich in vier Kategorien: Datenübertragung (40 %), Wärmeabfuhr und Kühlung (35 %), Berechnung (15 %) und Speicherwartung (10 %). NVIDIA-Chefwissenschaftler Bill Dally erklärte, dass KI weitaus mehr Strom für die Übertragung von Daten von externen Speicherhalbleitern (HBM) zu Verarbeitungseinheiten (GPU) verbraucht als für die Berechnungen selbst.
Halbleiterindustrie verlagert sich auf SRAM- und CIM-Architekturen für Energieeffizienz
Die Branche bewegt sich in Richtung einer stärkeren Nutzung von SRAM – Speicher, der sich in den GPU-Verarbeitungseinheiten befindet – anstelle von externem HBM-Speicher, um die Datenübertragungsentfernungen zu reduzieren. Wenn der Stromverbrauch der Berechnung 1 beträgt, erfordert das Abrufen von Daten aus internem SRAM-Speicher 5-10 Einheiten Strom, während das Abrufen von Daten aus externem HBM-Speicher 100-1000 Einheiten verbraucht, aufgrund des Signalwiderstands über längere Kupferdrahtstrecken und der Notwendigkeit der Signalverstärkung. Unternehmen wie Groq und Cerebras haben Chips entwickelt, die dicht mit SRAM bestückt sind, und externe HBM-Verbindungen eliminiert, trotz der Einschränkungen von SRAM in Bezug auf Kapazität, physische Größe und Kosten. Die Branche entwickelt auch Chip-in-Memory (CIM)-Architekturen, die Verarbeitungseinheiten direkt in den Speicher integrieren, um die Übertragungsentfernungen weiter zu minimieren.
Marvell Technology erlangt Wettbewerbsvorteil durch Inphi-Übernahme
Marvell Technology übernahm Inphi im Jahr 2021 und erhielt damit Zugang zu weltweit führendem Know-how in der Signalverbindung zwischen Halbleitern. Inphi hatte sowohl bei Mikro-Signalverbindungen in engen Chip-Bereichen als auch bei optischen Kommunikationsnetzwerklösungen dominante Positionen. Große Technologieunternehmen wie Google, Microsoft und Amazon benötigen das geistige Eigentum von Inphi, um Chip-zu-Chip (ASIC)-Netzwerke zu entwerfen, was Inphi selbst gegenüber großen Technologiefirmen eine erhebliche Verhandlungsmacht verschafft. Die Branche stellt die Datenübertragungsmedien von Kupferdraht auf laserbasierte optische Kommunikation um, um den Stromverbrauch und die Wärmeentwicklung beim Abrufen großer Datenmengen aus externem HBM-Speicher zu reduzieren – ein Bereich, in dem Inphi erstklassige Lösungen anbietet.
FAQ
Was hat dazu geführt, dass die Stromkosten in der Nähe von US-Rechenzentren um 267 % gestiegen sind?
Laut Bloomberg sind die Stromkosten in US-Rechenzentrumsregionen aufgrund des massiven KI-Stromverbrauchs in fünf Jahren um 267 % gestiegen, wobei derzeit 13 von 50 US-Bundesstaaten betroffen sind und die geografischen Auswirkungen zunehmen.
Warum hat Marvell Technology Inphi im Jahr 2021 übernommen?
Marvell übernahm Inphi im Jahr 2021, um Zugang zu weltweit führender Technologie in der Signalverbindung zwischen Chips und optischer Kommunikationsnetzwerke zu erhalten – Fähigkeiten, die für stromsparende KI-Chip-Architekturen unerlässlich sind, da die Datenübertragung 40 % des KI-Stromverbrauchs ausmacht.
Wie reduziert SRAM den KI-Stromverbrauch im Vergleich zu HBM-Speicher?
SRAM, das sich in den GPU-Verarbeitungseinheiten befindet, benötigt 5-10 Einheiten Strom für den Datenabruf, wenn die Berechnung 1 Einheit verbraucht, während externer HBM-Speicher 100-1000 Einheiten verbraucht, aufgrund längerer Datenübertragungsentfernungen und Signalverstärkungsanforderungen über Kupferdrähte.
