오라클 클라우드, 구글 TPU⁠·⁠세레브라스 2027년 도입 예고

오라클이 27일 AI 월드 행사에서 구글의 AI 전용 반도체 TPU를 2027년 자사 클라우드에 도입하겠다고 발표했다. 세레브라스 추론 서비스도 같은 해 오라클 클라우드 인프라스트럭처(OCI)에 제공할 계획이다. 고객이 모델을 학습시키고 응답을 생성할 때 쓸 연산 자원을 한 클라우드 안에서 더 넓게 고르도록 한다는 방침이다.

같은 날 정식 제공을 발표한 엔비디아 장비와는 도입 단계가 다르다. 오라클과 엔비디아는 베라 루빈 NVL72 시스템과 베라 CPU를 OCI에서 정식 제공한다고 밝혔다. 베라 루빈 기반 대규모 컴퓨팅 자원을 수 기가와트 규모로 늘리는 작업은 향후 계획으로 제시했다.

구글 TPU는 AI 학습과 추론을 위해 만든 전용 연산 장치다. 공동 발표에 따르면 OCI는 구글 밖의 대형 클라우드 사업자로는 처음 TPU를 제공하게 된다. 오라클이 자사 인프라 안에서 이를 운영할 전력·냉각·데이터센터 네트워크를 맡는다. 별도의 칩 공급 발표를 넘어, 오라클의 시설과 데이터 서비스에 연결하는 배치 계획이다.

기업 데이터와 연산 자원을 가까이 두는 것도 협력의 이유로 제시했다. 두 회사는 구글 클라우드 공동 글에서 OCI에 있는 데이터베이스 주변에서 모델을 미세조정하고 추론하면 서로 다른 클라우드 사이의 데이터 전송을 줄일 수 있다고 설명했다. TPU 장치끼리의 연결과 별개로, 오라클 네트워크가 데이터베이스·저장소·TPU 클러스터를 이어 주는 역할을 맡는다.

오라클은 같은 행사에서 분산 AI 작업의 네트워크도 확장한다고 밝혔다. 새 통신 소프트웨어는 여러 서버가 함께 계산할 때 상태가 양호한 경로를 사용하도록 돕는다. 전면 네트워크에는 자동 경로 선택과 장애 시 전환, 혼잡 제어를 더한다. 회사가 설명한 목적은 데이터 전송이 막혀 비싼 연산 장비가 기다리는 시간을 줄이는 것이다.

소프트웨어 쪽에서는 기존 개발 환경을 이어 쓰는 방안을 강조했다. 구글은 파이토치로 TPU를 사용하는 소프트웨어 묶음인 TorchTPU가 오픈소스로 공개됐다고 밝혔다. 학습뿐 아니라 모델을 서비스하는 작업도 기존 생태계의 도구로 처리한다는 설명이다. 학습에서는 실제 계산에 쓰이는 시간의 비중, 추론에서는 응답 지연과 토큰당 비용을 핵심 지표로 제시했다.

세레브라스는 계산 회로와 메모리를 웨이퍼 크기의 단일 프로세서에 모으는 방식을 OCI에 가져온다. 회사는 여러 칩 사이로 데이터를 옮기고 통신하는 부담을 줄여 긴 추론 과정에서도 응답을 빠르게 생성하도록 설계했다고 설명했다. 웨이퍼는 반도체 회로를 만드는 큰 기판을 뜻하며, 세레브라스는 이 규모의 처리 장치를 AI 연산에 활용한다.

세레브라스가 내세운 대상은 여러 차례 판단하고 도구를 쓰는 AI 에이전트다. 모델이 생각하고 결과를 점검하는 과정에서 추론 호출이 반복되면 단계마다 대기 시간이 쌓인다는 설명이다. 새 서비스는 AI 연구소·기업·개발자에게 제공할 계획이다. 이번 공동 발표에는 OCI에서 측정한 모델별 처리 속도나 이용 요금이 실리지 않았다.

에이전트가 도구를 호출하고 코드를 실행하는 구간에는 CPU도 필요하다. 오라클과 엔비디아는 OCI에서 CPU와 GPU 자원을 따로 늘릴 수 있다고 설명했다. 모델 계산을 맡는 GPU와 그 사이의 자료 검색·프로그램 실행을 맡는 CPU의 수요를 각각 맞추는 방식이다. 생성된 코드를 실행하는 작업에는 하드웨어 기반의 격리도 제공한다고 밝혔다.

베라 CPU의 별도 제품 글은 물리 서버와 유연한 가상머신 형태를 모두 제시하고, 초기 15만 개 CPU 공급 계획을 적었다. 공개한 하드웨어 구성에는 CPU 176코어와 시스템 메모리 1TB가 포함됐다. 선택한 리전에 이번 분기 제공한다는 설명도 붙였다. x86 CPU 대비 최대 80% 빠르다는 수치는 엔비디아 플랫폼 시험에 근거한 회사 주장이다. 오라클은 이를 OCI 인스턴스 자체를 측정한 결과와 구분하고 작업·구성에 따라 성능이 달라진다고 명시했다.

구글 TPU의 OCI 도입은 2027년에 시작해 여러 해에 걸쳐 늘릴 예정이다. 오라클은 전체 인프라 계획을 설명한 글에서 TPU 용량도 기가와트 규모로 확대한다는 목표를 밝혔다. 구글 TPU와 세레브라스의 초기 공급 리전·고객별 할당량·OCI 이용 요금은 이번 발표에 제시되지 않았다.