OVHcloud, 올랄라 미니 공개…내 PC 실행엔 수정판 도구 필요
편집·검토: AI Ping 편집팀
3줄 요약
- 11월 19일 올랄라 미니 가중치와 번역·요약 모델을 아파치 2.0으로 공개했다.
- 로컬 실행 파일과 클라우드 API를 제공하며 일반 올라마·LM 스튜디오는 아직 지원하지 않는다.
- Qwant 검색 요약에 적용됐고 성능 수치와 실행 조건을 함께 공개했다.
유럽 클라우드 기업 OVHcloud가 11월 19일 소형 언어모델 ‘올랄라 미니 7A1B’의 가중치를 공개했다. 17일 사전 발표에 이어 허깅페이스에서 모델과 기술 보고서를 내려받을 수 있게 됐다. 라이선스는 상업적 이용과 수정을 허용하는 아파치 2.0이다.
개발자는 올랄라를 자체 컴퓨터에 올리거나 OVHcloud의 API로 연결할 수 있다. 대화와 도구 호출을 수행하는 최종 모델 외에 사전학습 모델, 지도학습을 마친 중간 모델, 번역·요약 특화 모델도 제공된다. 사전학습·중간 모델은 연구와 추가 학습용이며, 최종 모델이 대화용으로 제공된다.
공개 모델 카드는 전체 매개변수를 68억 개, 토큰 하나를 처리할 때 활성화되는 양을 약 10억 개로 명시한다. 입력과 출력을 합친 문맥 길이는 3만 2,000토큰이다. 외부 프로그램을 호출하는 기능과 답변 전 추론에 들이는 노력을 조절하는 네 단계 설정을 갖췄다.
파일은 공개됐지만 실행 도구에는 조건
로컬 배포용 GGUF 파일은 원래 정밀도의 BF16이 13.6GB, 8비트가 약 6.9GB, 6비트가 약 6.3GB, 5비트가 약 6.0GB다. 모델의 수치를 더 적은 비트로 저장해 파일을 줄인 형태다. 개발팀은 4비트 GGUF 파일을 시험한 뒤 품질 저하와 작은 용량 차이를 이유로 공개 대상에서 제외했다.
개발팀이 메모리 16GB인 맥북 에어 M5에서 측정한 6비트 GGUF의 생성 속도는 초당 72토큰이다. 입력 512토큰과 생성 128토큰을 사용한 자체 시험이며 다른 앱이 열린 상태였다. 이 수치는 해당 기기의 짧은 시험 조건에 해당한다. 긴 문서의 입력 처리 속도와 실제 대화의 대기 시간은 별도로 봐야 한다.
일반 배포판 올라마·LM 스튜디오·llama.cpp는 현재 올랄라 구조를 바로 불러오지 못한다. 개발팀이 제공하는 수정 버전이 필요하다. 애플 실리콘용 MLX 파일도 별도 mlx-engine 수정판을 사용하며, M1에서는 첫 토큰 생성 때 충돌을 막는 추가 설정이 명시돼 있다. MLX 문서는 파이썬 3.11과 macOS 14 이상을 실행 조건으로 제시했다.
모델 개발에는 독일 JUPITER, 프랑스 Jean Zay, 룩셈부르크 MeluXina 슈퍼컴퓨터가 쓰였다. 사전학습 모델 카드에 따르면 공개 자료와 자체 합성 자료를 합쳐 약 12조 8,000억 토큰으로 학습했다. 데이터 구성은 기술 보고서에 명시했으며, 자체 생성한 데이터 세 묶음과 생성 코드도 공개했다.
OVHcloud가 측정한 최종 모델의 12개 평가 평균은 68.0점이다. 코드 작성 평가 HumanEval+는 88.3%, 대학원 수준 과학 지식 평가 GPQA Diamond는 50.5%였다. 도구 호출 평가 BFCL V3는 59.6%로, 이 평균에서 제외했다. 개발팀은 비교 모델도 같은 평가 코드로 실행하되 각 모델의 권장 설정을 적용했다고 밝혔다.
올랄라는 높은 추론 노력 설정으로 평가했다. 코드·수학 점수는 문제당 다섯 표본의 pass@1 평균이다. 한 번에 정답을 얻는 성능을 추정한 회사 측 수치로, AI Ping의 재현 시험은 거치지 않았다.
올랄라의 요약 모델은 이미 Qwant 검색 결과 상단의 ‘플래시 답변’에 적용됐다. 19일 발표한 Qwant·Shadow·EUSP·OVHcloud의 공동 자료에 따르면 이 모델은 Shadow의 GPU 플랫폼 Blade에서 실행되며 하루 300만 건의 요청을 처리한다. 기존 모델 대비 자원 사용이 3분의 1이고 응답이 20% 빠르다는 설명도 공동 발표의 수치다.
공개 체험 페이지 역시 Blade가 호스팅한다. 개발자는 파일을 내려받는 대신 OVHcloud AI Endpoints나 Blade의 호환 API를 통해 모델을 호출할 수 있다. OVHcloud는 자사 모델 목록과 Shadow에서 실행되는 모델을 서로 연결해 기존 공급자를 유지하면서 접근하도록 했다고 밝혔다.
모델 카드는 짧고 목적이 분명한 요청을 주된 이용 범위로 설명한다. 사실 지식의 양과 영어·주요 유럽 언어 외의 이해력에는 한계가 있으며, 긴 추론에서 문장이 반복될 수 있다고 명시한다. 한국어가 학습 언어에 포함돼 있어도 이를 한국어 성능이 별도로 검증됐다는 뜻으로 제시하지 않았다.
출처
- AI Summit 2026: Olala model family — OVHcloud
- Olala v1.0 mini 7A1B — model card — OVHai LLM
- GGUF files, hardware tests and runtime requirements — OVHai LLM
- MLX files and Apple Silicon runtime requirements — OVHai LLM
- Olala v1.0 mini Technical Report — OVHai LLM
- Qwant, Shadow, EUSP et OVHcloud s’allient pour accélérer l’IA européenne souveraine — OVHcloud / Qwant / Shadow / EUSP
- Base checkpoint: training data and research scope — OVHai LLM