미스트랄 라지 4 가중치 공개…자체 서버로 옮기는 1조 AI

미스트랄이 10월 29일 대형 AI 모델 ‘미스트랄 라지 4(Mistral Large 4·별칭 르 청크)’의 가중치를 공개했다. 개발자와 기업이 모델 파일을 내려받아 자체 인프라에 배포하고 수정할 수 있게 됐다. 회사는 공개 미리보기 이후 강화학습을 더 진행해 코딩과 방어적 보안 작업 성능을 높였다고 밝혔다.

이번 공개는 10월 6일 시작한 API 미리보기의 후속 조치다. 당시 미스트랄은 약 1조 개의 파라미터를 가진 모델을 먼저 온라인으로 제공하고 가중치는 월말까지 내놓겠다고 예고했다. 파라미터는 학습으로 정해지는 모델의 수치이며, 가중치 파일을 확보하면 제공사의 온라인 호출 서비스와 별도로 운영할 수 있다. 미리보기 발표문에 기재된 API 요금은 입력 100만토큰당 1.36달러, 출력 4.18달러였다.

공식 모델 카드는 텍스트와 이미지를 입력받고 텍스트로 답하며, 한 번에 다룰 수 있는 문맥의 길이를 약 100만토큰으로 명시했다. 전체 파라미터 가운데 토큰마다 활성화되는 부분은 490억 개다. 입력을 수치로 바꾸는 부분과 출력 계층까지 포함하면 520억 개로, 같은 자료에 등장하는 두 숫자의 집계 범위가 다르다.

추론 강도는 낮음·중간·높음의 세 단계다. 외부 함수를 호출하고 JSON처럼 정해진 형식으로 답을 내보내는 기능도 갖췄다. 회사는 유럽연합의 모든 공용어를 포함해 160개 이상의 언어를 지원한다고 설명했다. 이미지 입력은 문서·도표·기술 도면의 내용을 분석하는 데 쓰인다. 함수 호출과 정해진 형식의 출력은 모델을 다른 업무 소프트웨어에 연결하는 기능이다.

허깅페이스는 배포 안내에서 공식 파일을 FP8과 NVFP4 두 형식으로 구분했다. 숫자를 저장하는 정밀도를 달리해 용량과 실행 부담을 조절하는 방식이다. 커뮤니티가 변환한 GGUF 파일도 별도로 올라왔다. 자체 호스팅용 파일과 온라인 추론 엔드포인트를 함께 제공해, 모델을 직접 운영하는 경로와 관리형 서비스를 이용하는 경로를 제시했다. NVFP4 파일은 엔비디아 블랙웰 GPU를 겨냥했다. 허깅페이스는 해당 형식에 맞는 실행 방법과 GGUF를 쓰는 실행 방법을 구분해 안내했다.

자체 배포의 메모리와 이용 조건

자체 배포에는 대규모 메모리가 필요하다. vLLM의 실행 자료가 제시한 가중치 크기는 FP8 약 1.06테라바이트, NVFP4 약 610기가바이트다. 여기에 대화 문맥을 보관하는 메모리 등 실행 자원이 더해진다. 자료는 여러 서버용 GPU 구성을 검증했으며, 모델이 명시한 최대 문맥과 별개로 이 실행 구성에서 검증한 범위는 256K토큰까지라고 밝혔다. 검증 대상에는 엔비디아 GB300·B200과 AMD MI350X 등이 포함된다. 사용 정밀도와 처리할 대화 길이에 따라 필요한 구성이 달라진다.

공개 파일에는 ‘Mistral Ecosystem Open-Weight License’가 적용된다. 사용·수정·추가 학습·배포를 허용하며 사본에 저작권과 허가 고지를 포함하도록 정했다. 모델이나 파생물을 제3자에게 제공하지 않는 내부 이용은 별도 상업 라이선스 조건에서 제외했다.

이용자 또는 계열사가 모델 서비스 사업을 운영한다면 상업 이용 전 별도 계약을 맺어야 한다. 제3자가 입력·매개변수·학습 데이터를 실질적으로 제어하며 추론이나 추가 학습을 이용하는 서비스가 해당한다. 모델 기능이 최종 제품의 특정 기능에만 내장되거나 다른 회사가 호스팅하는 모델로 요청을 단순 전달하는 경우는 이 정의에서 제외했다.

온라인 API의 현재 요금도 함께 바뀌었다. 공식 제품 문서의 100만토큰당 가격은 입력 0.70달러, 캐시된 입력 0.07달러, 출력 2.10달러다. 문서 질의응답과 여러 요청을 한꺼번에 처리하는 일괄 작업, 에이전트 대화도 지원 목록에 포함됐다. 자체 호스팅의 서버 비용과 API 이용 요금은 별도로 계산되는 항목이다.

미스트랄은 고급 보안 업무용 변형 모델을 기업 설계 협력사에 별도로 시험 제공한다. 심사와 계약상 보호 조건을 적용하며, 소유하거나 명시적으로 허가받은 시스템의 통제된 환경에서 평가하도록 제한했다.