DGX 스파크 4대 직결…엔비디아, 512GB 개발 키트
편집·검토: AI Ping 편집팀
3줄 요약
- 엔비디아가 시카고 SC26에서 DGX 스파크 4대와 직결 케이블 4개를 묶은 연구용 키트를 공개했다.
- 스위치 없이 고리로 연결하는 구성의 메모리는 총 512GB다. 엔비디아는 NVFP4로 최대 7,000억 매개변수 모델을 실행할 수 있다고 밝혔다.
- 미국 판매 페이지는 가격 대신 문의 창구를 제공한다. 저장공간 표기는 발표문에서 20TB, 판매 목록의 본체 4대 합계로는 16TB다.
엔비디아가 미국 시카고에서 열린 슈퍼컴퓨팅 학회 SC26에서 DGX 스파크 4대를 묶은 연구용 개발 키트를 16일 공개했다. ‘DGX 스파크 HPC 개발 키트’는 본체와 연결 케이블을 한 구성으로 제공한다. 각 장비가 양옆의 두 장비와 연결돼 고리를 이루며, 이 구성에는 별도 네트워크 스위치가 필요 없다.
연구팀은 여러 대에 나눠 실행해야 하는 인공지능(AI) 모델이나 과학 계산 코드를 자체 장비에서 먼저 시험할 수 있다. 네 대의 메모리 합계는 512GB다. 엔비디아는 가중치를 낮은 정밀도로 저장하는 4비트 수치 형식 NVFP4를 쓸 때 최대 7,000억 매개변수급 모델을 로컬에서 실행할 수 있다고 밝혔다.
케이블 네 개로 만드는 고리
엔비디아의 미국 마켓플레이스에는 본체 4대와 연결 케이블 4개가 한 키트에 포함된다고 적혀 있다. 각 본체에는 그레이스 CPU와 블랙웰 GPU를 결합한 GB10 칩과 128GB 통합 메모리, 장비 간 통신을 맡는 커넥트X-7이 들어간다. 512GB는 네 본체의 메모리를 합한 값이다. 한 장비의 메모리 한계를 넘는 모델을 다루려면 실행 소프트웨어가 모델을 여러 장비에 나눠 배치해야 한다.
단품 스파크를 여러 대 연결하는 기능은 이전에도 있었다. 엔비디아는 10월 22일 기술 문서에서 네 대를 스위치 없이 고리로 연결한 시험을 공개했다. 이번에는 그 구성에 필요한 장비와 케이블을 연구용 제품으로 묶었다. 스위치를 별도로 구매해 연결하는 선택지도 미국 판매 목록에 적혀 있다. 10월 시험에서 엔비디아는 큰 모델을 네 대에 나눠 실행하는 경우에 고리 연결을 적용했다. 장비를 여러 그룹으로 나누거나 어느 장비끼리도 직접 통신해야 하는 작업에는 스위치 연결을 제시했다.
개별 DGX 스파크는 64GB와 128GB 모델이 있다. 엔비디아 제품 페이지에서 64GB 모델은 제휴 제조사를 통해 공급되며, 네 대를 묶으면 메모리가 256GB로 표시된다. 연구용 키트의 512GB는 네 대 모두 128GB인 구성에 해당한다.
메모리와 별개로 저장장치 용량은 엔비디아 공식 자료 사이에 차이가 있다. 16일 발표문은 네 대의 NVMe 저장공간을 합쳐 20TB라고 설명한다. 미국 마켓플레이스의 키트 항목은 각 본체에 4TB가 들어간다고 표시한다. 그 구성을 단순 합산하면 16TB다. 발표문과 판매 목록에 4TB 차이가 생기는 이유나 추가 저장장치 구성은 두 자료에서 확인되지 않았다.
장비를 늘렸을 때 달라지는 속도
4대 고리 연결의 성능을 가늠할 만한 시험은 10월 엔비디아 개발자 문서에 있다. 회사는 큐원3.8 270억 매개변수 모델의 NVFP4 버전에 요청을 한 번에 하나씩 보내 비교했다. 한 대의 출력 속도는 초당 11.86토큰, 네 대를 고리로 연결했을 때는 초당 32.82토큰이었다. 같은 시험에서 입력을 처리하는 속도는 약 1.69배로 늘었다. 출력과 입력에 걸리는 시간이 서로 달라질 수 있으며, 이 측정값은 7,000억급 모델의 속도를 가리키지 않는다.
델라웨어대에서 진행된 별도 연구는 15일자로 공개된 사전 논문에서 스파크 한 대와 두 대를 비교했다. 연구진은 크기와 정밀도를 달리한 공개 가중치 17종을 살폈다. 정밀도만 다른 같은 모델도 별도 시험 항목으로 셌다. 온전한 비교가 가능한 13개 항목에서는 모델 내부 계산을 두 장비로 쪼갰을 때 최대 출력 처리량의 비율이 중앙값 1.59배였다. 두 대를 쓴 이 시험은 이번 4대 키트의 실측과 구별된다.
연구진은 모델 하나가 한 대에 들어갈 때 각 장비에서 모델을 하나씩 돌리는 경우도 따져 봤다. 동시에 64건을 처리하는 시나리오에서는 요청을 두 복제본에 고르게 나눈 추정치가 13개 중 11개에서 한 모델을 두 대에 나눠 실행하는 방식보다 처리량이 높았다. 연구진은 한 대에서 측정한 결과를 바탕으로 이 비교값을 계산했으며, 실제 요청 분배에 드는 시간은 반영하지 않았다.
엔비디아는 키트를 SC26에 전시하고 판매한다고 밝혔다. 확인한 미국 마켓플레이스의 단품 구매 화면에는 가격이 표시되지만 4대 키트 항목은 가격 안내 없이 판매 문의로 연결된다. 키트의 판매가는 문의해야 확인할 수 있다.
출시 발표에는 소재 시뮬레이션 프로그램 램프스 등 4대에서 시연한 작업이 담겼다. 여러 장비에 과학 계산을 나눌 때 쓰는 고성능 컴퓨팅 개발 도구의 별도 안내서는 준비 중이다. 엔비디아의 스파크 개발자 페이지는 17일 확인 시점에도 해당 안내서를 ‘공개 예정’으로 표시했다.
출처
- DGX 스파크 HPC 개발 키트 발표 · DGX Spark HPC Developer Kit at SC26 — NVIDIA
- 미국 키트 판매 목록 · U.S. kit listing — NVIDIA Marketplace
- 개별 DGX 스파크 제품 사양 · DGX Spark specifications — NVIDIA
- DGX 스파크 연결 구성과 처리량 비교 · Running Frontier-Class AI Models Across 8 NVIDIA DGX Spark Nodes — NVIDIA Developer
- DGX 스파크 한 대와 두 대의 추론 시험 · Benchmarking LLM Inference on Desktop-Scale NVIDIA Grace Blackwell Clusters — University of Delaware researchers · arXiv
- DGX 스파크 과학 계산 안내 목록 · NVIDIA DGX Spark Developer Resources — NVIDIA Developer
- 시카고 전시 일정 · SC26 Exhibits — SC26
