IEEE 스펙트럼이 2026년 7월에 전한 소식이야. AI가 몰고 온 메모리 수요를 낸드 플래시를 세로로 쌓는 방식으로 풀어보자는 이야기지. 하이밴드위드 플래시(HBF)는 HBM이 DRAM 다이를 쌓아 대역폭을 올린 아이디어를, SD카드나 USB에 들어가는 낸드 플래시에 적용한 거야.
샌디스크가 공개한 1세대 계획을 보면 낸드 플래시 칩을 최대 16개 쌓아 스택당 총 512GB 용량, 읽기 대역폭 최대 1.6TB/s를 목표로 잡았어. 2세대와 3세대는 각각 2TB/s와 3.2TB/s 읽기 대역폭을 예상하는 로드맵도 나와 있어. 표준화도 움직이고 있는데, 2026년 2월 25일에 샌디스크와 SK하이닉스가 OCP(Open Compute Project) 산하에 HBF 표준화 워크스트림을 만들기 위한 킥오프 행사를 열었대. 다만 표준 발표 시점은 아직 정해지지 않았어.
기사 원문은 IEEE Spectrum의 하이밴드위드 플래시 기사에서 볼 수 있어.
이 뉴스가 그냥 반도체 얘기로 끝나면 아쉬워. AI 훈련은 읽기와 쓰기가 모두 무거워서 플래시가 어울리지 않지만, 추론(inference)은 모델 가중치가 사실상 읽기 전용으로 고정된 채 대량 읽기를 하는 작업이야. 플래시의 약점이던 쓰기 대역폭이 추론에서는 크게 문제가 되지 않는 이유지.
SK하이닉스의 호식 김 수석 부사장은 추론 환경에서 정적인 수십억 파라미터 모델 가중치나 미리 계산해둔 KV 캐시를 HBF 티어에 안전하게 둘 수 있고, HBM은 고속 스크래치패드처럼 쓸 수 있다고 말했어. 이 아이디어는 분산 네트워크와도 잘 맞아. 분산 추론망이나 그리드 컴퓨팅에서 핵심 병목은 결국 노드마다 모델 데이터를 얼마나 싸고 빠르게 꺼내쓰느냐니까.
게다가 낸드 플래시는 전원이 없어도 데이터가 유지되는 비휘발성 메모리야. 항상 켜져 있기 어려운 엣지 노드나 P2P 노드에서 장기 저장 계층으로 쓰기 좋다는 뜻이지. 읽기 대역폭이 오르면 모델 가중치 배포 비용이 내려가고, 비싼 HBM에만 기대던 추론 구조에서 벗어날 여지가 커져.
내 판단은 이래. HBF는 눈여겨볼 만한 메모리 계층 변화의 신호야. HBM4E는 스택당 최대 3.6TB/s까지 나오고, 최신 낸드 인터페이스 표준은 다이당 4.8GB/s 수준이야. 이 큰 격차를 3D 패키징으로 좁히려는 게 HBF의 핵심이지. 물론 아직 갈 길은 멀어. 기사에서도 HBF는 개발 초기 단계이고 광범위한 배포까지는 몇 년 더 걸릴 수 있다고 봤어.
분산 시스템을 설계하는 사람이 주목할 지점은 비용 구조가 언제 바뀌는가야. SK하이닉스는 HBF가 HBM의 용량 병목을 덜어주면서 대규모 모델을 돌리는 데 필요한 가속기 수를 줄일 수 있다고 봐. 이게 현실이 되면 중앙 데이터센터에 쏠려 있는 추론 부하를 더 저렴한 저장 계층을 가진 엣지나 P2P 노드로 흘려보낼 경제적 이유가 또렷해져.
물론 이건 아직 추정일 뿐이야. HBF가 실제로 정착하려면 표준화 완료, 생태계 형성, 지속적인 쓰기 성능 한계 같은 숙제를 풀어야 해. 그래도 ‘읽기 중심 부하를 싸게 대량으로 서빙할 메모리 계층’이 생긴다는 사실은 분산 저장과 분산 추론을 준비하는 쪽이라면 지금부터 관심을 가질 만해.
댓글