Koncom augusta 2026 sa na konferencii Hot Chips 2026 objavila technológia, ktorá by mohla zmeniť spôsob, akým AI akcelerátory pracujú s dátami. Volá sa High Bandwidth Flash (HBF) a v teórii sľubuje až 14-násobne väčšiu kapacitu ako súčasná High Bandwidth Memory (HBM), pričom cena má zostať podobná. Realita je však zložitejšia: HBF nie je náhrada HBM, ale skôr špecializovaný doplnok pre konkrétne typy úloh.trendforce+3

Čo je HBF a ako funguje?

HBF je pamäťová technológia založená na 3D NAND flash, ktorá sa skladá z vertikálne stohovaných vrstiev NAND čipov pripojených cez rozhranie UCIe (Universal Chiplet Interconnect Express). Špecifikácia definuje tri výkonnostné triedy:tomshardware+1

• Grade 1: 256 GB kapacita, 384 GB/s priepustnosť (8 GT/s UCIe)
• Grade 2: 512 GB kapacita, 1,536 TB/s priepustnosť (16 GT/s UCIe)
• Grade 3: 512 GB kapacita, 3,072 TB/s priepustnosť (32 GT/s UCIe 2.0)tomshardware+1

Hlavná výhoda HBF spočíva v kapacite: oproti HBM ponúka 8–16-násobne viac pamäte pri podobnej cene. To znamená, že namiesto 288 GB HBM na GPU môžete mať až 4 TB HBF – čo je zásadný rozdiel pre modely s miliardami parametrov.trendforce+3

Kde HBF dáva zmysel (a kde nie)

Spoločnosť OXMIQ Labs na Hot Chips 2026 prezentovala detailnú analýzu, ktorá ukázala, že HBF nie je univerzálne riešenie. V simulácii 72-GPU racku bežiaceho 1-bilión-parametrový model Kimi-K2 pri FP4 presnosti vyšlo najavo:trendforce+1

Konfigurácia	Celková kapacita	Celková priepustnosť	Počet inštancií modelu
Iba HBM	20,7 TB	1 584 TB/s	9
Iba HBF	294,9 TB	922 TB/s	72
Hybrid HBM + HBF	89,3 TB	279–1 418 TB/s	závisí od úlohy

Záver: HBF umožňuje spustiť 8-násobne viac modelových inštancií vďaka kapacite, ale pri vysokom počte používateľov a požiadavke na tokeny za sekundu sa stáva úzkym hrdlom priepustnosť. HBM v takýchto scenároch stále vyhráva v pomere cena/výkon.trendforce+1

Ideálne prípady použitia HBF

OXMIQ identifikoval tri scenáre, kde HBF má zmysel:

1. Obrovské modely, ktoré sa inak nezmestia – HBF umožní uložiť celý model na jedno GPU namiesto rozdeľovania na 8 GPU s HBM.tomshardware+1
2. Mixture-of-Experts (MoE) modely – 93% váh tvoria experti, ktorí sa aktivujú zriedka. Títo „studení“ experti môžu bývať v HBF, zatiaľ čo často používané váhy ostanú v HBM.tomshardware+1
3. Dlhý kontext (long-context inference) – KV cache pre tisícky tokenov môže byť uložená v HBF, pričom sa načítavajú len potrebné časti do HBM.tomshardware+1

V týchto prípadoch HBF znižuje potrebu komunikácie medzi GPU (all-to-all), čo šetrí energiu a znižuje latenciu.tomshardware+1

Prečo HBF nenahradí HBM

Hlavný problém je v ekonomike pamäte: cena sa neurčuje len podľa kapacity, ale aj podľa toho, ako rýchlo musia byť dáta doručené procesoru. HBF má síce obrovskú kapacitu, ale priepustnosť je len ~60% oproti HBM. Keď sa úloha stane náročnou na priepustnosť (napr. vysoký batch size, heterogénne požiadavky), HBF stráca výhodu.trendforce+3

Ďalším problémom je softvérová podpora. Súčasné inferenčné frameworky (napr. vLLM) nie sú pripravené na viacúrovňovú pamäťovú hierarchiu. Bolo by potrebné:tomshardware+1

• Implementovať alokátor pamäte, ktorý rozhoduje, ktoré dáta idú do HBM a ktoré do HBF
• Pridať prefetch mechanizmy na skrývanie latencie HBF
• Monitorovať opotrebovanie NAND (endurance)tomshardware+1

Bez podpory od výrobcov akcelerátorov (Nvidia, AMD) a frameworkov zostane HBF experimentálnou technológiou.tomshardware+1

Čo to znamená pre obnovu dát?

Pre spoločnosti ako MACROFER je HBF zatiaľ skôr technologická kuriozita než bezprostredná hrozba alebo príležitosť. Prvé vzorky HBF produktov sa očakávajú až v roku 2027 a masové nasadenie bude závisieť od adopcie zo strany Nvidia/AMD.trendforce+1

Avšak dlhodobo môže HBF priniesť nové výzvy:

• Zložitejšia architektúra – Viacúrovňová pamäť (SRAM → HBM → HBF → SSD) znamená viac bodov zlyhania a komplikovanejšiu diagnostiku.tomshardware+1
• NAND endurance – HBF má obmedzenú životnosť zápisov (P/E cykly). Pri intenzívnom používaní môže dôjsť k predčasnému zlyhaniu buniek, čo si vyžiada špecializované nástroje na obnovu.alphaxiv+1
• Dátová lokalita – Ak sa HBF používa ako náhrada hostiteľskej DRAM, dáta môžu byť fyzicky bližšie k akcelerátoru, čo komplikuje prístup pri zlyhaní systému.tomshardware+1

Na druhej strane, ak sa HBF ujme v AI serveroch, môže to vytvoriť nový trh pre špecializované služby obnovy dát z high-end AI infraštruktúry – podobne ako dnes existujú špecialisti na obnovu z HBM alebo enterprise SSD.cloudnews+1

Záver

HBF je presný nástroj, nie univerzálne kladivo. Funguje výborne pre úlohy, kde je kapacita obmedzujúcim faktorom a priepustnosť nie je kritická. Pre väčšinu AI workloadov však zostáva HBM lepšou voľbou.trendforce+2

Pre MACROFER je dôležité sledovať vývoj HBF, ale zatiaľ sa zamerať na overené technológie (HBM, NAND SSD, enterprise storage). Ak sa HBF ujme, bude potrebné investovať do znalostí o NAND endurance, viacúrovňových pamäťových hierarchiách a špecializovaných nástrojoch na obnovu dát z AI akcelerátorov.alphaxiv+1

---

Zdroje: Hot Chips 2026 prezentácie OXMIQ Labs, Tom’s Hardware, TrendForce, ServeTheHome, CloudNews.tech