바이두 어니 5.5 플래시 프리뷰, API 먼저 열었다

바이두가 11월 11일 텍스트 모델 ‘어니(ERNIE) 5.5 플래시 프리뷰’를 발표하고, 바이두 클라우드의 첸판(Qianfan)에서 API로 제공한다고 밝혔다. 개발자는 모델 파일을 내려받기 전에도 첸판에서 기존 프로그램에 프리뷰를 연결할 수 있다. 바이두는 중국어 발표에서 가중치를 11월 25일 전에 공개할 계획이라고 했고, 영어 발표에서 예정 라이선스로 아파치 2.0을 제시했다.

프리뷰는 바이두가 11월 5일 제품 목록에 올린 어니 5.5 플래시 베이스를 추가로 훈련한 첫 버전이다. 베이스 모델은 FP8과 BF16 두 가지 정밀도로 이미 내려받을 수 있다. 이 가중치에는 바이두의 별도 베이스 모델 라이선스가 적용된다. 공식 모델 카드는 베이스를 직접 배포할 때 텍스트 완성 방식으로 요청을 받는다고 설명한다. 11일 확인한 바이두의 허깅페이스 컬렉션에는 이 두 베이스 체크포인트가 표시됐다.

첸판, 같은 모델의 일반 생성과 심층 추론에 다른 한도

프리뷰는 전체 매개변수 2,800억 개 가운데 토큰을 처리할 때 140억 개를 활성화한다고 바이두는 설명했다. 매개변수는 훈련으로 정해진 모델 내부의 값이다. 이 구조는 처리 중에 매개변수의 일부를 골라 사용한다. 바이두는 최대 100만 토큰의 문맥을 지원한다고 밝혔다. 문맥은 모델이 한 번의 작업에서 참고할 수 있는 텍스트 범위를 뜻한다.

첸판이 11일자로 갱신한 모델 목록에는 같은 모델 식별자 ernie-5.5-flash-preview가 텍스트 생성과 심층 추론에 각각 실렸다. 텍스트 생성 표의 기본 한도는 분당 요청 300건과 토큰 300만 개다. 심층 추론 표에는 분당 60건과 토큰 100만 개가 적혀 있다. 두 표 모두 문맥, 최대 입력, 최대 출력 항목에 각각 100만 토큰을 적었다. 분당 토큰 한도는 호출을 연달아 보낼 때 전체 처리량에 적용되는 기본값이다. 심층 추론에서 모델이 최종 답변 전에 내보내는 추론 텍스트도 문서상 최대 출력 길이에 포함된다.

첸판 API 가격, 시간대와 캐시 사용 여부로 나뉘어

첸판은 온라인 추론에 쓴 토큰 수를 기준으로 요금을 청구한다. 11월 10일자 가격표에서 피크 시간의 할인 가격을 100만 토큰 단위로 환산하면 입력 1위안, 캐시에 저장해 둔 입력을 다시 읽을 때 0.1위안, 출력 4위안이다. 비피크 시간에는 각각 0.5위안, 0.05위안, 2위안으로 내려간다. 심층 추론과 일반 텍스트 생성에 같은 단가가 기재됐다.

가격표는 할인 전 단가도 함께 싣고 있다. 같은 순서로 피크 시간에 2위안·0.2위안·8위안, 비피크 시간에 1위안·0.1위안·4위안이다. 문서는 08:00부터 22:00까지를 피크 시간으로, 22:00부터 다음 날 08:00까지를 비피크 시간으로 구분한다. 해당 모델의 표에는 기준 시간대나 할인 종료일이 따로 적혀 있지 않다. 이 모델의 배치 추론 단가는 가격표에 제시되지 않았다.

게임과 설계 시연에는 외부 도구 사용

바이두의 11시간짜리 게임 시연에서 모델은 기존 배경과 캐릭터 소재를 합쳐 언리얼 엔진 5.8용 3인칭 무협 게임을 C++로 작성했다. 바이두는 모델이 시험 플레이에서 발견한 움직임과 카메라 문제를 코드로 검사할 조건으로 바꿨다고 설명했다.

설계 시연에서는 모델이 파이썬 코드를 작성해 FreeCAD에서 엔진 블록과 피스톤 등 편집 가능한 부품을 만들었다고 바이두는 밝혔다. 두 사례는 외부 도구를 갖춘 에이전트 환경에서 진행됐다. 첸판 모델 목록은 프리뷰를 텍스트 생성·추론용으로 분류한다.

바이두가 공개한 평가표에서 프리뷰는 업무 자동화 과제인 AutomationBench에 61.9를 기록했다. 표에 실린 클로드 오퍼스 5.5의 바이두 측 측정치는 58.0이다. 명령줄에서 작업하는 Terminal-Bench 4.0에서는 프리뷰 46.5, 바이두가 측정한 클로드 오퍼스 5.5는 63.6이었다. 표의 주석에 따르면 가능한 가장 높은 추론 설정을 사용했으며, 시험마다 실행 도구와 조건이 다르다. 일부 비교 모델의 수치는 외부 보고서나 공개 순위표에서 가져왔다.

바이두는 이번 프리뷰를 후훈련 과정에서 나온 중간 버전으로 설명했다. 훈련은 계속 진행 중이며, 회사는 실제 사용에서 얻은 피드백을 반영해 정식 버전을 개선하겠다고 밝혔다.