Durchbrechen des zyklischen Irrtums! Eine Formel zerlegt die Struktur der HBM-Nachfrage: Warum steigt der Speicher weiter an?

Die KI-Welle treibt den Speicherbedarf voran, und die Preise steigen weiter, doch außerhalb des Sektors bleibt die Sorge, ob HBM erneut sein „zyklisches“ Schicksal einholen könnte – wie einst der DRAM: nach einem Hoch der Nachfrage rasch wieder zu kippen. Ein Analyst für Halbleiterarchitekturen, fin, stellt dazu fest, dass die Logik hinter der HBM-Nachfrage längst von den Gesetzmäßigkeiten der traditionellen Speicherindustrie abgekoppelt ist und sich gerade durch token neu bepreist.

(Stockt der Speicheranstieg? Einschätzungen von Institutionen: Q2-Anstieg auf 30% verengt, Abkühlung im zweiten Halbjahr)

Der Speicher im CPU-Zeitalter: bloß entbehrliches Beiwerk

fin weist darauf hin, dass DDR-Speicher im Zeitalter, in dem CPUs die Rechenarbeit dominierten, stets nur eine unterstützende Rolle spielte. CPU-Ingenieure entwickelten eine ganze Reihe von Techniken, um die Speicherlatenz zu überdecken – darunter superskalare Designs, mehrstufige Caches sowie Registerumbenennung –, sodass Prozessoren auch ohne Abhängigkeit von Hochgeschwindigkeitsspeicher eine hohe Leistung aufrechterhalten können:

Die Branchenregel lautet: Selbst wenn die DDR-Bandbreite sich direkt verdoppelt, liegt die Gesamtleistungssteigerung der CPU insgesamt oft bei nicht mehr als 20%.

Diese Architektur prägt unmittelbar das Wachstumstempo, das die DRAM-Industrie über die vergangenen Jahrzehnte hinweg geprägt hat. Von DDR3 bis DDR5 vergingen ganze 15 Jahre; in den vergangenen zehn Jahren stieg die DDR-Kapazität in einem typischen PC von 7 bis 8 GB auf etwa 23 GB – innerhalb von zehn Jahren lediglich das Dreifache. Die wichtigsten Gewinnquellen der DRAM-Anbieter stammen aus der Kapazitätsgröße, während Bandbreiten-Upgrade im Wesentlichen nur ein Mittel ist, den Einheitspreis nach oben zu drücken.

Im CPU-Zeitalter ist Speicher der Bereich mit dem geringsten Grenznutzen in der Chipindustrie; zyklische Auf und Abs sind Normalität – und gewissermaßen Schicksal.

Mit dem KI-Inferenzzeitalter kommt eine Neudefinition des Speicherwerts

Doch wenn sich der Rechenfokus auf KI-Inferenz-Engines verlagert, ändern sich auch die Bewertungsmaßstäbe. Chiphersteller vergleichen heute nicht mehr, wie viele Fließkommaoperationen pro Sekunde ausgeführt werden können, sondern im KI-Zeitalter gibt es im Kern nur ein KPI: Wie viele Token können bei den Kosten pro Einheit und dem Stromverbrauch pro Einheit produziert werden?

Das von Nvidia-CEO Jensen Huang vorgestellte Konzept der „KI-Fabrik“ beschreibt diese neue Logik präzise: Der Sinn einer KI-Fabrik besteht darin, mit den niedrigsten Kosten die meisten Token zu produzieren und gleichzeitig die Ausgabegeschwindigkeit der Token an das Maximum zu treiben. Das Optimierungsziel weitet sich von einer einzigen Dimension aus: Es gilt zugleich, den Gesamt-Token-Durchsatz maximal zu machen, und man strebt außerdem nach der Token-Ausgabe-Geschwindigkeit pro Anfrage.

Diese KPI-Änderung ist der Ausgangspunkt für die Kehrtwende im Schicksal von HBM.

Token-Durchsatzformel: Die ersten Prinzipien der HBM-Nachfrage

fin zerlegt den Token-Durchsatz der KI-Inferenz in das Produkt zweier Parameter: „Anzahl der Anfragen, die gleichzeitig in einem Batch verarbeitet werden × durchschnittliche Token-Generierungsrate pro Anfrage“. Ausgehend von den jeweiligen Engpässen dieser beiden Parameter zeigt die Antwort auf ein und dasselbe Bauteil.

Der Engpass bei der Batch-Anzahl liegt in der Speicherkapazität von HBM. Jede Inferenzanfrage bringt ihren eigenen KV-Cache mit – also ein Mechanismus, der während des Modellinferenzprozesses die Zwischenzustände speichert. Diese Daten müssen sofort in HBM abgelegt werden, damit das Modell bei jeder Generierung eines Tokens wiederholt mit hoher Geschwindigkeit darauf zugreifen kann. Je größer das Batch-Volumen, desto mehr Speicherkapazität wird von HBM benötigt; beide stehen in linearer Beziehung zueinander.

Der Engpass bei der Token-Geschwindigkeit liegt in der Bandbreite von HBM. In der Decoding-Phase muss für jedes erzeugte Token immer wieder auf umfangreiche Startup-Gewichte und den KV-Cache zugegriffen werden; die Lesegeschwindigkeit bestimmt direkt die Effizienz der Token-Generierung, und die obere Grenze der Lesegeschwindigkeit ist die Bandbreite von HBM.

Er sagt, diese Beziehung lasse sich mit Shuttle-Bussen ausdrücken: Die HBM-Kapazität entspricht der Größe des Fahrgastraums eines Shuttles und bestimmt, wie viele Passagiere auf einmal mitgenommen werden können; die HBM-Bandbreite entspricht der Breite der Türen und bestimmt, wie schnell die Passagiere ein- und aussteigen. Der gesamte Transportdurchsatz der Passagiere entspricht dem Produkt aus Fahrgastraumgröße und Geschwindigkeit des Zu- und Abtransportes. Daraus ergibt sich das erste Grundprinzip für den Bedarf an KI-Inferenz-Hardware:

Token-Durchsatz = HBM-Kapazität × HBM-Bandbreite

Damit der Token-Durchsatz jeder GPU-Generation den zweifachen Wachstumspfad im Generationstempo hält, muss das Produkt aus HBM-Kapazität und HBM-Bandbreite pro Generation jeweils verdoppelt werden.

Software-Optimierung löst die Aufgabe nicht, HBM-Nachfrage folgt einer exponentiellen Bahn

Angesichts dieser Schlussfolgerung lautet der häufigste Einwand des Marktes: Könnte Software-Optimierung nicht die Abhängigkeit von HBM senken? Seine Antwort ist, dass Softwareeffizienz und Fortschritte bei Hardware-Spezifikationen zwei völlig unabhängige Dimensionen sind und sich nicht gegenseitig ersetzen. Das sei ähnlich wie bei CPU-Softwareoptimierungen: Selbst wenn sie noch so gründlich sind, kann man nicht verhindern, dass Intel oder AMD in jeder Generation in standardisierten Tests höhere Benchmarks liefern muss, sonst lässt sich das Produkt nicht verkaufen.

Die GPU-Logik ist identisch: Solange die globale Nachfrage nach Token weiter wächst, wird der Drang nach höherem Token-Durchsatz nicht aufhören, und ebenso wird der Bedarf an Fortschritten in beiden Aspekten von HBM nicht stoppen.

Noch entscheidender ist, dass dieser Druck nicht von externer Konjunkturbelebung kommt, sondern eine Nachfrage aus dem Supply-Ende selbst erzeugt. Solange Nvidia die nächste GPU-Generation verkaufen will, muss es SK Hynix, Samsung und Micron unter Druck setzen, damit jede Generation von HBM bei Kapazität und Bandbreite parallel einen Sprung macht – denn die Obergrenze von HBM ist die Obergrenze der GPU-Leistung.

Wenn man den Token-Durchsatz der GPU-Generationen von A100 bis Rubin Ultra bei Nvidia sowie die jeweils zugehörigen Werte für „HBM-Kapazität × HBM-Bandbreite“ in ein gemeinsames Logarithmus-Koordinatensystem einträgt, wird das Ausmaß der Übereinstimmung der beiden Kurven überraschen. Das ist kein historischer Zufall, sondern die zwingende Folge einer systematischen Optimierung.

HBM verabschiedet sich vom zyklischen Schicksal, die Logik der Marktpreisbildung muss neu bewertet werden

Aus der obigen Herleitung auf Architekturebene wird der grundlegende Unterschied zwischen HBM und traditionellem DRAM klar. Traditioneller Speicher ist ein Beiwerk der Chipindustrie, die Nachfrage treibt zu wenig an; sobald der Kapazitätsausbau das Wiederanlaufen der Nachfrage überholt, kommt der zyklische Preisverfall wie erwartet.

Doch die HBM-Nachfrage ist durch die physikalische Logik der KI-Inferenzarchitektur auf einen exponentiellen Wachstumspfad festgelegt. Das steht in keinem direkten Ursache-Wirkungs-Verhältnis zur allgemeinen Wärme/Kälte des KI-Gesamtmarkts oder zu konjunkturellen Zyklen der Makroökonomie.

Natürlich liegt das eigentliche Problem nicht auf der Nachfrageseite, sondern auf der Angebotsseite: Können SK Hynix, Samsung und Micron – die drei großen Akteure – ihren früher über Jahrzehnte wiederholt gezeigten Impuls zum blinden Überbau zügeln, wenn die Nachfrage stark ist, und vermeiden, erneut das zyklische Unheil einer Überversorgung auszulösen? Die Antwort auf diese Frage wird der Schlüsselfaktor dafür sein, ob diese Speicher-Zyklusphase langfristig anhalten kann.

(Wenn Speicheraktien kollabieren: Kann man dann noch kaufen? Analyst von Samsung Securities: Korrektur im Zyklus, nicht das Ende eines Konjunkturhochs)

Dieser Artikel räumt mit dem zyklischen Mythos auf! Eine Formel zerlegt die HBM-Nachfragestruktur: Warum der Speicher weiter steigen wird? Erstmals erschienen auf Chain News ABMedia.