AMD 6세대 에픽 출하…서버 CPU 한 개에 최대 256코어
편집·검토: AI Ping 편집팀
3줄 요약
- AMD가 6세대 에픽 SP7의 정식 공급을 발표했으며 서버 제조사의 완제품이 출하되고 있다.
- 최대 256코어와 DDR5 16채널로 에이전트 실행·데이터 준비 작업을 지원한다.
- 애저 HDv2는 프리뷰 신청을 열었으며 클라우드 정식 제공은 이후로 예고됐다.
AMD가 11월 10일 6세대 에픽 서버 프로세서 SP7의 정식 공급을 시작했다고 밝혔다. 개발명 ‘베니스’로 알려진 이 제품은 한 소켓에 최대 256개 코어와 512개 스레드를 제공한다. 서버 제조사의 완제품이 출하되고 있으며, 마이크로소프트는 같은 날 이를 사용하는 애저 HDv2 가상머신의 프리뷰 신청을 열었다.
이번 공급으로 기업은 새 CPU를 탑재한 서버를 골라 데이터센터에 들이거나, 클라우드의 사전 제공 프로그램에 접근을 신청할 수 있게 됐다. AMD는 AI 에이전트가 코드를 실행하고 도구를 호출하는 작업, GPU에 데이터를 공급하는 작업, 데이터베이스와 업무용 애플리케이션을 세 가지 주요 용도로 제시했다. 에이전트의 요청이 실제 프로그램 실행과 데이터 조회로 이어질 때 CPU가 처리할 일이 늘어난다는 설명이다.
많은 작업을 나눌 코어와 데이터를 옮길 통로
제품군은 동시 작업 수를 늘리는 모델과 코어별 동작 속도를 높인 모델로 나뉜다. 에픽 9996은 코어 256개에 최대 부스트 클록 4.1GHz, 에픽 9686F는 코어 96개에 최대 5.3GHz다. AMD가 설명한 최대 부스트는 정상적인 서버 운용 조건에서 코어 하나가 도달할 수 있는 최고 주파수다. 서버의 실제 동작 주파수는 작업과 운용 조건에 따라 달라진다.
메모리 연결은 CPU당 DDR5 16채널로 늘었다. AMD는 최대 1만2800MT/s로 동작하는 MRDIMM 메모리를 썼을 때 소켓당 이론 대역폭을 최대 약 1.6TB/s로 안내한다. 확장 장치를 연결하는 PCIe도 6세대를 지원한다. 회사는 PCIe 5세대를 쓰는 이전 세대에 비해 레인당 전송 대역폭이 두 배라고 설명했다. 메모리와 확장 장치의 데이터 이동을 함께 넓힌 구성이다.
AMD의 설명에 따르면 AI 에이전트가 동시에 여러 작업을 실행하면 각각의 실행 환경과 도구 호출을 CPU가 맡는다. 검색에 쓸 데이터를 정리하거나 데이터베이스에 접근하는 일도 CPU에서 이뤄진다. GPU에서 모델이 다음 행동을 판단하는 동안 그 행동을 실제로 실행할 자원과 데이터를 준비하는 역할이다. AMD는 이런 용도에 맞춰 높은 코어 밀도와 빠른 데이터 이동을 함께 강조했다.
서버 한 대에서 랙 구성까지
델은 에픽 9006 SP7 두 개를 넣는 3U 크기의 파워에지 R9825를 공개 제품 목록에 올렸다. 서버 한 대의 코어 수는 최대 512개다. DDR5 메모리 슬롯은 32개이며 RDIMM 구성은 최대 8TB, 고속 MRDIMM 구성은 최대 4TB를 지원한다. 델의 사양에는 공기 냉각과 선택형 직접 액체 냉각이 모두 기재돼 있다. 실제 메모리 용량과 냉각 방식은 주문한 시스템 구성에 따라 달라진다.
AMD는 10월에 소개한 ‘헬리온’ 랙 설계에도 새 CPU를 연결했다. 헬리온 리퀴드는 액체 냉각으로 CPU를 집적하고, 헬리온 에어는 기존 공기 냉각 데이터센터의 에이전트 실행 용량을 늘리는 구성이다. 에어 인퍼런스는 한 랙에서 CPU의 작업 실행과 GPU의 추론을 함께 처리하도록 설계됐다. 고객이 데이터센터의 냉각 조건과 CPU·GPU 배치에 맞춰 택하는 공개 참조 설계다.
애저는 데이터 준비용 프리뷰부터
마이크로소프트가 연 HDv2 프리뷰는 학습 데이터를 수집·정제·필터링하는 작업에 초점을 맞췄다. 회사가 공개한 가상머신 한 개의 사양은 물리 CPU 코어 500개 이상, DDR5 메모리 3.8TB, 로컬 NVMe 저장공간 30TB다. 원자료를 들여오고 가공한 데이터를 내보내는 네트워크는 400Gbps다.
마이크로소프트는 에이전트가 코드를 실행할 때 쓰는 격리 환경도 HDv2의 용도로 들었다. 코어와 메모리를 많이 둬 여러 환경을 병렬로 실행하는 방식이다. 공개 자료의 처리량 비교는 예비 측정이며 정수 연산 처리량 벤치마크를 에이전트 작업의 대리 지표로 사용했다. 프리뷰 신청은 접근을 요청하는 단계이고, 정식 제공 때 연결할 서비스로는 애저 쿠버네티스 서비스와 데이터브릭스 등이 예고됐다.
AMD는 애저와 오라클 클라우드의 6세대 에픽 인스턴스 정식 제공이 뒤따를 예정이라고 밝혔다. 오라클 컴퓨트 E7도 새 CPU를 쓸 계획이다. AMD의 11월 10일 발표문에는 두 클라우드의 정식 제공 날짜가 적혀 있지 않다.
