남는 전력에 AI 서버 얹는다…토러스, 조립식 데이터센터 출시

토러스가 11월 11일 기존 산업 시설의 전력 연결을 활용하는 조립식 AI 데이터센터 ‘파운드리’를 출시했다. 학습을 마친 AI 모델로 답변을 생성하는 추론 작업을 위한 장비다. 회사가 제시한 규모는 부지당 1~20메가와트(MW)이며, 계약에서 추론 가동까지 걸리는 기간은 12~16주다. 이 기간은 회사의 공급 일정이다.

추론 서버를 늘리려는 클라우드 업체는 전력 여유가 있는 부지에 이미 조립된 장비를 들여오거나, 토러스가 운영하는 기업 전용 연산 용량을 공급받을 수 있다. 토러스는 이날 매그네타(Magnetar)가 주도한 5억 달러 규모의 자금 조달도 발표했다. 조달한 자금은 미국 내 생산 시설을 확대하고 파운드리와 저장 장치 설치를 늘리는 데 쓴다.

남는 전력으로 충전하고 수요가 뛸 때 방전

시설은 전력회사와 연결되는 계량기 안쪽에 놓인다. 부지의 전력 연결이 감당할 수 있는 최대치에서 건물이 이미 쓰는 양을 빼면 그 시간대에 새 설비가 사용할 수 있는 여유가 남는다. 파운드리는 이 여유가 있는 상업·산업 부지에 들어간다. 같은 부지에서도 기존 설비가 더 많이 돌아가는 시간에는 서버를 위해 전력망에서 바로 끌어올 수 있는 양이 줄어든다.

토러스는 연산 장비에 ‘리저브’라는 저장 장치를 함께 설치한다. 회사의 전력 설계 설명에 따르면 부하가 낮을 때 배터리를 충전하고, 기존 건물과 서버가 동시에 전력을 많이 쓰는 시간에는 저장분으로 부족한 양을 보탠다. 전력망에서 끌어오는 양을 부지의 한도 안에 두는 방식이다. 높은 부하가 오래 이어지면 공급 가능량은 저장된 에너지와 다시 충전할 수 있는 시간에 좌우된다.

가령 한 부지에서 서버와 건물이 쓰는 전력이 연결 한도를 0.5MW만큼 넘는 상태가 두 시간 이어지면, 손실을 빼고 계산해도 저장 장치가 1메가와트시(MWh)를 공급해야 한다. 설비 규모에 쓰는 MW는 순간에 필요한 전력의 크기이고, MWh는 그 전력을 일정 시간 공급하는 데 필요한 에너지의 양이다. 이 예시는 특정 파운드리 부지의 측정값과 별개인 단위 계산이다.

저장 장치는 리튬인산철 배터리와 플라이휠을 결합한다. 플라이휠은 회전 운동으로 에너지를 저장했다가 필요할 때 전력으로 돌려준다. 토러스는 GPU의 전력 수요가 빠르게 뛸 때 회전체가 먼저 부족분을 공급하고, 전력망이나 현장 발전의 공급이 따라오면 그 출력을 줄이도록 설계했다고 설명했다. 미국 에너지부의 저장 기술 보고서도 플라이휠을 짧은 시간에 전력을 내보내는 기술로 분류한다.

부지 전체 용량과 모듈 한 대의 용량

제품 사양표에 제시된 구성 하나의 IT 부하는 1.2MW다. 이 수치는 서버 랙 8개와 네트워크 랙 4개가 쓰는 전력을 합친 값이다. 토러스는 이 단위로 설비를 추가할 수 있다고 설명했다. 발표의 1~20MW는 부지에 설치하는 설비의 규모다. 랙 전력에 냉각과 저장 장치 충전도 필요한 만큼, 실제 부지에서 수용할 수 있는 설비는 기존 연결의 여유와 운영 조건에 따라 달라진다.

서버는 유타주 솔트레이크시티의 기가원 공장에서 조립과 시험을 거쳐 부지에 도착한다. 회사는 설치할 자리를 준비하는 데 약 1주, 장비가 도착한 뒤 설치하고 시운전하는 데 1~2일이 걸린다고 밝혔다. 12~16주는 이런 작업을 포함해 계약부터 추론 서비스를 돌리기까지의 전체 일정이다. 제품 안내에 따르면 냉각액은 칩과 연결된 폐쇄 회로 안을 순환하며, 회사는 냉각용 상수도 연결 없이 설비를 운영할 수 있다고 설명했다.

토러스가 공개한 공급 방식은 세 가지다. 고객이 직접 GPU를 마련할 경우 전력 설비와 장비를 넣을 공간만 공급한다. GPU까지 갖춘 장비를 구매하는 방식도 있다. 기업이 연산 용량을 직접 계약하면 한 고객의 작업만 처리하는 전용 하드웨어를 쓸 수 있다. 같은 부지에 장비를 추가하는 방식과 여러 부지에 나누어 설치하는 방식이 모두 제품 설명에 포함됐다.

회사는 초기 고객으로 GPU 클라우드 업체 하이드라 호스트와 이름을 공개하지 않은 다른 클라우드 업체를 들었다. 솔트레이크시티 공장에는 파운드리 생산 라인이 가동 중이라고 밝혔다. 설치된 GPU는 회사 집계로 수천 개이며, 2027년 말까지 파운드리 장비에 배치한 GPU를 4만7,000개 넘게 늘리는 것이 목표다.