Samsungs nya staplade minnen: zHBM, BV-NAND och PIM

I en livlig sal i Santa Clara drog Samsung tyst gardinen åt sidan för hårdvara som känns mindre som små förbättringar och mer som en liten revolution. Ingenjörer samlades runt glasmontrar. Kort byttes. Slutsatsen var tydlig: minnet ändrar form.

Rubriken: BV-NAND V10. Detta är bondad V-NAND pressad till ett nytt ytterläge, med mer än 400 staplade lager byggda med Samsungs avancerade bondningsteknik. Resultatet är inte bara en högre siliconhög. Det ger ungefär 58% högre densitet jämfört med föregående generation, och den extra vertikala ytan översätts direkt till snabbare läsningar, snabbare skrivningar, förbättrad I/O och mätbara energibesparingar. Kort sagt: tätare minne som använder mindre energi samtidigt som det flyttar data snabbare.

Stapla och minska avståndet

Föreställ dig nu minne som bokstavligen sitter ovanpå processorn. Konstigt? Kraftfullt. Samsung kallar det zHBM. Det lånar tekniken för wafer-bonding och tillämpar den på högbandbreddsminne, och omdesigner den fysiska relationen mellan DRAM och acceleratorn. Istället för att vara granne över kretskortet är zHBM staplat ovanför AI-acceleratorer, vilket kortar det avstånd som data måste färdas. Latensen sjunker. Hastigheten ökar. Energiförbrukningen minskar.

Samsung uppger att zHBM kan leverera ungefär åtta gånger prestandan hos den kommande HBM5-standarden samtidigt som den erbjuder omkring tio gånger större minnesdensitet och cirka tre gånger bättre energieffektivitet. Det är stora påståenden. De hänger på två saker: extremt tät vertikal integration och företagets expertis inom wafer-bonding. Om system i verkliga miljöer når de siffrorna kan zHBM förändra hur datacenter och serverstativ för AI arkitektureras.

Samsung visade också sina framsteg för industristandarden HBM: HBM4E-provexemplar har redan skickats till kunder, och företaget presenterade HBM5 som nästa baslinje för högbandbreddsminne. Men zHBM positioneras som det snabbare, mer kompakta och mer energieffektiva alternativet för arbetsbelastningar som kräver stor skala.

Inte alla framsteg riktar sig mot molnet. Här introduceras zNAND-O, en nästa generations flash härledd från V-NAND-metoder men anpassad för kant-AI. Samsung utvecklar 4- och 8-lagersversioner som lovar bättre yteffektivitet, bättre I/O-prestanda och lägre latens än konventionell NAND. Tänk på zNAND-O som en slank, lokal cache för AI-inferens nära användaren, medan zHBM är reserverat för tungt arbete vid träning och storskalig inferens i molnet.

Det fanns en annan intressant nyhet: LPDDR5X-PIM. Detta är branschens första LPDDR som integrerar Processing-In-Memory-funktioner och utför viss beräkning inne i minnet innan data lämnar det. Effekten är enkel: mindre data som transporteras fram och tillbaka, högre effektiv bandbredd och bättre energisiffror. I arbetsbelastningar där enkla omvandlingar eller reduktioner dominerar kan PIM minska flaskhalsar utan att ändra hela programvarustacken.

Morgonens huvudtal satte strategin i ett sammanhang. Jin-Yub Lee, verkställande vice vd och chef för flashprodukt och teknik, tillsammans med Kyungryun Kim, vice vd och projektledare för DRAM-designteamet, skissade Samsungs syn på minne som ett aktivt systemelement, inte bara passiv lagring. De hävdade att stapling och bondning kommer att vara hävstängerna för att pressa fram mer prestanda och effektivitet från AI-system.

Så var lämnar det oss? Samsung visade upp en verktygslåda: tätare flash för lagring, staplade HBM-varianter för bandbreddsintensiv beräkning, kompakt NAND för kant-AI och RAM som kan utföra arbete. Varje del är viktig. Tillsammans antyder de en framtid där minnedesign spelar huvudrollen i att tygla AI:s resursbegär.