메이퇀 롱캣 2.5 가중치 공개…4비트판도 1.34TB

중국 메이퇀이 멀티모달 AI 모델 롱캣 2.5(LongCat-2.5)의 가중치를 11월 9일 공개했다고 밝혔다. 허깅페이스에서 받을 수 있는 저장소는 기본판 3.56TB와 4비트 양자화판 1.34TB 두 가지다. 두 저장소에는 MIT 라이선스가 붙어 있고, 허깅페이스의 공개 메타데이터상 가중치 다운로드에 별도 승인 절차가 없다.

메이퇀은 11월 2일 롱캣 2.5를 자체 API에서 정식 제공하기 시작했다. 이번에 공개한 가중치는 모델이 학습을 통해 얻은 수치이며, 개발팀은 이 파일을 받아 호환 장비에 모델을 올리고 추론 서비스를 직접 운영할 수 있다. 메이퇀이 공개한 4비트판 구동 예시는 화웨이 아틀라스 A2 가속기 194장을 사용한다.

208개로 나뉜 가중치와 별도 파일 두 개

허깅페이스가 표시하는 3.56TB와 1.34TB는 각각 저장소 전체 크기다. 공개 파일 목록과 크기 정보를 대조한 결과, 두 저장소에는 각각 1번부터 208번까지 번호가 붙은 가중치 파일과 별도의 멀티모달 가중치 파일 2개가 있다. 기본판의 세이프텐서 파일 210개를 합하면 약 3.562TB, 양자화판은 약 1.336TB다. 양자화판을 받으면 이 파일 기준으로 전송·저장량이 약 62% 줄어든다.

세이프텐서는 여러 차원의 숫자 배열인 텐서를 담는 파일 형식이다. 기본판 저장소에는 텐서 이름과 해당 파일을 연결하는 인덱스도 있다. 같은 배포본이 여러 조각으로 나뉘어 있으므로, 인덱스를 사용하면 모델을 구성하는 값이 어느 파일에 들어 있는지 확인할 수 있다. 저장소에는 입력 형식을 지정하는 템플릿과 모델 설정 파일도 포함된다.

메이퇀은 모델 전체를 1조6천억 파라미터로 소개했다. 전문가 혼합 방식은 입력에 따라 계산을 담당할 모듈 일부를 고르며, 회사는 토큰 하나에 약 480억 개의 파라미터가 활성화된다고 설명했다. 허깅페이스가 파일에서 집계한 기본판의 저장 원소 수는 약 1조7,798억 개로, 모델 카드의 규모 표기와 다르다. 메이퇀은 두 집계의 차이를 설명하지 않았다. 실제 내려받을 용량은 공개 파일 크기로 확인할 수 있다.

4비트판을 구동한 가속기 구성

메이퇀이 별도로 올린 W4A4는 전문가 모듈의 가중치와 계산 중간값을 4비트로 표현하는 방식이다. 설정 파일을 보면 전문가 모듈에는 4비트, 양자화 대상으로 지정된 선형 변환에는 8비트를 적용한다. 단어를 숫자 벡터로 바꾸는 입력 임베딩 등은 양자화 대상에서 뺐다. 허깅페이스의 파일 집계에도 16비트 부동소수점 형식과 정수 형식이 함께 남아 있다. 가중치 파일의 크기는 저장 공간을 가늠하는 데 쓰이며, 구동 중에는 입력을 처리하고 다음 토큰을 계산하는 데 쓰이는 메모리도 필요하다.

회사 배포 문서에 나온 아틀라스 A2 구성에서는 이미지 입력을 모델용 데이터로 바꾸는 인코더에 가속기 2장, 입력을 먼저 처리하는 단계에 64장, 답을 순서대로 생성하는 단계에 128장을 배치했다. 이 숫자는 메이퇀이 실제 가중치를 불러 구동한 사례의 장비 규모다. 모델 카드는 해당 NPU용 실행 소프트웨어를 연결해 두었고, 다른 장비에서 필요한 최소 구성은 제시하지 않았다.

메이퇀의 예시처럼 모델을 조직이 관리하는 서버에 두면 요청 처리 위치와 장비 운영을 자체적으로 정할 수 있다. 이 예시는 이미지 처리와 답변 생성을 다른 서버에 맡긴다. 이미지 인코더를 별도로 실행하는 단계가 있어, 같은 구성으로 이미지 입력을 처리하려면 가중치 저장 공간과 함께 인코더와 생성 서버 사이의 연결도 필요하다.

MIT 배포 조건과 공개 시점

두 저장소의 라이선스 파일은 복사, 수정, 배포와 판매를 허용하며, 사본이나 상당 부분을 배포할 때 저작권과 허가 문구를 포함하도록 한다. 모델 카드는 메이퇀의 상표와 특허 사용권은 이 라이선스로 부여하지 않는다고 설명한다. 저장소에서 확인한 공개 범위는 학습 결과인 가중치와 설정, 토크나이저, 실행용 코드 등이다. 모델이 학습에 사용한 데이터는 두 저장소의 파일 목록에 포함돼 있지 않다.

허깅페이스의 이력에는 11월 4일 저장소 생성과 5일 일부 파일 업로드가 기록돼 있다. 이 기록으로 당시 외부 이용자가 파일을 받을 수 있었는지까지는 확인되지 않는다. 메이퇀 롱캣 팀은 9일 14시 5분 UTC에 다운로드 공개를 알렸고, 10일에는 기본판과 W4A4 저장소 양쪽의 모델 카드와 문서 자료를 갱신했다.