Samsung börjar leverera HBM4E, snabbare AI-minne nu

Samsung tog ett tyst men avgörande försprång: företaget har börjat leverera provexemplar av sitt sjunde generations högbandbreddsminne, HBM4E, till stora kunder, månader efter att det började leverera HBM4 till ledande AI-hårdvarutillverkare.

Prestandavinster är konkreta. Den nya HBM4E använder en 12-lagersstack som ger ungefär 20 % högre prestanda och cirka 16 % bättre energieffektivitet jämfört med HBM4. Per-pin-signalering är klassad till 14 Gbps med utrymme att närma sig 16 Gbps, vilket motsvarar en total bandbredd i storleksordningen 3,6 TB/s.

Dessa siffror bygger på ingenjörskonst. Samsung har kombinerat sin sjätte generations 10 nm-klass DRAM-process (1c) med en 4 nm logikbas från Samsung Foundry. Resultatet: högre avkastning och bättre termiskt beteende. Samsung uppger att termiskt motstånd förbättrats med mer än 14 %, en liten siffra som verkligen betyder något när minnet sitter intill extremt snabba acceleratorer.

Kapacitetsalternativen börjar med ett 48 GB, 12-lagerspaket, ungefär 30 % tätare än en typisk HBM4-stack. Framtida planer inkluderar en 8-lagers 32 GB-variant och senare en 16-lagers 64 GB-modul, vilket ger systemdesigners fler valmöjligheter vad gäller effekt, densitet och kostnadsavvägningar.

Varför bör ingenjörer bry sig? För att varje procent förbättring i hastighet eller effektförbrukning multipliceras över stora modeller och kluster. Snabbare per-pin-hastigheter och förbättrad termisk tolerans underlättar integrationsproblem för GPU- och acceleratorleverantörer som försöker pressa in mer träningskapacitet i begränsade rack och budgetar.

Samsungs minnesavdelning beskriver HBM4E som en uppföljare till HBM4:s framfart och en korrigering av tidigare problem i HBM3E-utrullningen. Företaget säger att kundresponsen på HBM4 varit stark och att förhandsinvesteringar i fabrikerna börjar ge resultat när man skalat upp leveranserna till AI-marknaden.

Provexemplar betyder en sak: valideringscyklerna har börjat. Marknaden kommer att följa vilka acceleratorer som tar upp HBM4E och hur snabbt de högre hastigheterna och större stackarna dyker upp i verkliga tränings- och inferensarbetsbelastningar. Adoptionen blir det verkliga måttet på om HBM4E omformar minnesförväntningarna för nästa våg av AI-hårdvara.