„Micron“ paleidžia naują duomenų centrą SSD, o „Mass“ sukuria devintos kartos „Nand Flash“ technologijos produktus
Neseniai „Micron Technology Co., Ltd.“ paskelbė, kad „Micron 9550 NVME SSD“ ir 9 -osios kartos „NAND Flash“ technologijos produktai duomenų centruose buvo pradėta.Liepos 31 d. Vykusiame žiniasklaidos mainų susitikime „Micron“ produktų vadovas pristatė dviejų produktų techninius parametrus ir pareiškė, kad 9550 SSD yra pagrįstas „NVIDIA H100 GPU“ platforma ir optimizuotas AI darbo krūviams, ypač atsižvelgiant į didelio greitintuvo naudojimą.Grafiko neuroninio tinklo (GNN) mokymo atminties (BAM).
Dideliems kalbų modeliams (LLMS) reikia aukštų nuoseklių skaitymo normų, o grafikos nervų tinklams (GNN) reikia aukšto atsitiktinio skaitymo našumo.Reporteris žiniasklaidos mainuose sužinojo, kad „Micron 9550 NVME SSD“ nuoseklus skaitymo dažnis yra 14,0 GB/s, o nuoseklus rašymo dažnis yra 10,0 GB/s, o tai padidina 67% našumo, palyginti su panašiais SSDS pramonėje.Palyginti su panašiais NAND sprendimais rinkoje, „Micron“ 9 -osios kartos „NAND Flash“ technologijos produktai turi rašymo pralaidumą ir skaito pralaidumą, kuris yra atitinkamai 99% ir 88% didesnis.
„Micron“ pademonstravo 9550 SSD veikimą tvarkant skirtingus AI darbo krūvius: Kai naudojamas BAM GNN treniruotėms, vidutinis SSD energijos suvartojimas sumažėjo 43%, o bendras sistemos energijos suvartojimas sumažėjo 29%;Kai SSD energijos suvartojimas yra naudojamas „NVIDIA Magnum IO GPUDIRECT“ saugyklai, SSD energijos suvartojimas sumažėja 81% už kiekvieną 1 TB perduodamų duomenų;Taikant MLPERF mokymus, SSD energijos suvartojimas sumažėja 35%, o sistemos energijos suvartojimas sumažėja 13%;Kai tiksliai suderina „Llama LLM“ treniruotes su „Microsoft Deepspeed“, SSD energijos suvartojimas buvo sumažintas 21%.
Teoriškai kuo daugiau sluoksnių sukrauta „Nand“ lustas, tuo didesnis jo įvesties ir išvesties efektyvumas, greitesnis skaitymo ir rašymo greitis, mažesnis energijos suvartojimas ir mažesnis fizinės erdvės užimtumas tokiu pačiu pajėgumu.Mikrono „Micron“ mainų susitikime Danielis Loughmilleris, „Nand Product“ gyvavimo ciklo valdymo ir programų inžinerijos direktorius Micron Storage skyriuje, atsakė į žurnalistų susirūpinimą dėl krūvos sluoksnių: „Septintosios kartos„ Micron “kartos NAND turi 176 sluoksnius, aštuntosios kartos NAND padidėjo iki232 sluoksniai, o „Devint Generation Nand“ išleido šį kartą 276 sluoksnius.Jis sakė, kad „Micron“ tiria daugybę pažangiausių technologijų ir tikisi, kad NAND sluoksniai ir toliau didės, tačiau kaip sumažinti energijos suvartojimą, pagerinti našumą ir lustų tankį yra svarbiau, nei tiesiog reikalauti sluoksnių.
Dideliems kalbų modeliams (LLMS) reikia aukštų nuoseklių skaitymo normų, o grafikos nervų tinklams (GNN) reikia aukšto atsitiktinio skaitymo našumo.Reporteris žiniasklaidos mainuose sužinojo, kad „Micron 9550 NVME SSD“ nuoseklus skaitymo dažnis yra 14,0 GB/s, o nuoseklus rašymo dažnis yra 10,0 GB/s, o tai padidina 67% našumo, palyginti su panašiais SSDS pramonėje.Palyginti su panašiais NAND sprendimais rinkoje, „Micron“ 9 -osios kartos „NAND Flash“ technologijos produktai turi rašymo pralaidumą ir skaito pralaidumą, kuris yra atitinkamai 99% ir 88% didesnis.
„Micron“ pademonstravo 9550 SSD veikimą tvarkant skirtingus AI darbo krūvius: Kai naudojamas BAM GNN treniruotėms, vidutinis SSD energijos suvartojimas sumažėjo 43%, o bendras sistemos energijos suvartojimas sumažėjo 29%;Kai SSD energijos suvartojimas yra naudojamas „NVIDIA Magnum IO GPUDIRECT“ saugyklai, SSD energijos suvartojimas sumažėja 81% už kiekvieną 1 TB perduodamų duomenų;Taikant MLPERF mokymus, SSD energijos suvartojimas sumažėja 35%, o sistemos energijos suvartojimas sumažėja 13%;Kai tiksliai suderina „Llama LLM“ treniruotes su „Microsoft Deepspeed“, SSD energijos suvartojimas buvo sumažintas 21%.
Teoriškai kuo daugiau sluoksnių sukrauta „Nand“ lustas, tuo didesnis jo įvesties ir išvesties efektyvumas, greitesnis skaitymo ir rašymo greitis, mažesnis energijos suvartojimas ir mažesnis fizinės erdvės užimtumas tokiu pačiu pajėgumu.Mikrono „Micron“ mainų susitikime Danielis Loughmilleris, „Nand Product“ gyvavimo ciklo valdymo ir programų inžinerijos direktorius Micron Storage skyriuje, atsakė į žurnalistų susirūpinimą dėl krūvos sluoksnių: „Septintosios kartos„ Micron “kartos NAND turi 176 sluoksnius, aštuntosios kartos NAND padidėjo iki232 sluoksniai, o „Devint Generation Nand“ išleido šį kartą 276 sluoksnius.Jis sakė, kad „Micron“ tiria daugybę pažangiausių technologijų ir tikisi, kad NAND sluoksniai ir toliau didės, tačiau kaip sumažinti energijos suvartojimą, pagerinti našumą ir lustų tankį yra svarbiau, nei tiesiog reikalauti sluoksnių.