텐센트 Hy4 플래시 가중치 공개…직접 운영·추가 학습 지원
편집·검토: AI Ping 편집팀
3줄 요약
- Hy4 플래시 표준·FP8·기반판을 내려받을 수 있다.
- 직접 운영과 추가 학습에 필요한 장비 조건도 공개됐다.
- 큰 범용 모델 서비스에는 별도 라이선스 조건이 붙는다.
텐센트가 11월 18일 Hy4 플래시의 가중치를 공개했다. 표준·FP8·기반판을 내려받아 자체 서버에서 실행하고 추가 학습할 수 있다. 기존 클라우드 API에 직접 운영하는 경로가 더해졌다.
배포에는 텐센트 Hy 라이선스가 붙는다. 타사에 범용 모델 서비스를 제공하는 사업자는 연속 12개월 총매출이 5,000만 달러를 넘거나, 적용 제품의 월간 활성 이용자가 1억 명을 넘으면 별도 서면 허가를 받아야 한다.
표준판과 FP8판은 지시를 따르도록 조정한 모델이며 기반판은 후속 학습용이다. 공개 설명서는 텍스트·이미지 입력, 텍스트 출력과 최대 100만 토큰의 문맥을 안내했다. 대화 예제는 지시 학습을 거친 두 판에 적용된다. 토큰마다 활성화하는 매개변수는 약 120억 개라고 설명했다.
공개 파일을 직접 운영하려면 저장 공간과 연산 장비가 필요하다. 추론 소프트웨어 vLLM의 전용 안내는 기본판의 다운로드 크기를 440.5GB, FP8판을 287.1GB로 표시했다. 이 수치는 저장 파일 크기다. GPU 메모리 예상치는 실측 최소치와 다르다.
vLLM 안내의 기본 구성은 H200 GPU 여덟 개를 쓴다. 모델 일부를 시스템 메모리로 옮겨 저장하므로 GPU 외에 호스트 RAM도 확보하는 구성이다. 모델의 문맥 상한과 별개로 예제 서버는 8,192토큰, 동시 요청 네 개, 요청당 이미지 한 장으로 시작한다. 문맥 길이와 동시 요청 수를 늘릴수록 배치에 필요한 메모리도 달라진다.
압축 도구 개발팀 엔젤슬림도 GGUF 형식 다섯 종을 공개했다. 파일 크기는 125.73~156.79GiB이며, 표준 양자화판과 스파크 장비용 변형을 구별했다. 개발팀은 맥과 RTX 스파크에서 진행한 자체 시험을 제시했다. 파일 크기, 시험 장비의 메모리, 처리 속도는 각각 다른 조건의 수치라 실행에 필요한 메모리를 하나의 숫자로 환산해 제시하지 않았다. 가장 작은 판도 전문가 처리 부분 밖의 가중치 상당수는 BF16 정밀도로 남겨 뒀다.
GGUF를 실행하는 llama.cpp 지원은 엔젤슬림 안내에서 아직 병합 전인 변경 요청으로 연결돼 있다. 압축 파일 제공과 일반 배포판의 지원 완료는 별도 단계다. 이미지 입력에는 시각 정보를 연결하는 추가 파일을 함께 지정하는 예제를 제시했으며, 맥과 스파크용 실행 안내도 각각 나눴다.
가중치와 연결되는 추론 지원도 전용 배포판부터 제공됐다. SGLang의 공개 안내는 H200·B300·GB300 장비를 대상으로 기본판과 FP8판을 다루며, 일반 정식 패키지에는 아직 지원이 들어가지 않았다고 명시했다. 공개된 전용 이미지나 모델 지원 소스 분기를 쓰는 단계다. 이 안내는 실행을 시작하는 배포 구성과 그 밖의 시험용 구성을 따로 나눠 제시한다. SGLang은 반복 요청의 중간 계산을 호스트 메모리나 저장 장치에 남기는 기능도 설명했다. 긴 입력을 먼저 읽는 처리와 답을 순차적으로 생성하는 처리를 서로 다른 실행 인스턴스에 나누는 구성은 별도 시험 영역에서 제공한다. 이 영역에서 추가 기능을 켜는 경우와 개발팀이 확인한 배포 조합을 구별해 표시했다.
함께 공개한 추가 학습 안내는 글만 있는 자료와 이미지·영상이 섞인 자료를 한 학습 파일에서 다룬다. 질문과 답을 메시지 형태로 묶고 이미지·영상 경로를 연결하는 방식이다. 자료에 포함된 이미지·영상의 표시와 실제 파일을 순서대로 맞추도록 정했다.
학습 장비 조건은 별도로 제시했다. 텐센트는 전체 조정과 LoRA 방식 모두 시험상 최소 서버 네 대·GPU 32개를 적었다. GPU당 메모리는 96GB 이상, 서버당 시스템 메모리는 2TB 이상이다. 긴 학습 문장, 큰 이미지, 많은 영상 프레임을 쓰면 요구량이 더 커진다고 밝혔다.
범용 모델 서비스에 붙는 별도 조건
라이선스는 외부 이용자가 입력이나 학습 자료를 지정해 원격으로 추론·추가 학습을 받는 사업을 모델 서비스로 정의한다. 특정 기능·업무 흐름에 한정된 최종 제품과 다른 업체의 독립 모델 서비스로 요청만 중계하는 경우는 이 정의에서 제외했다. 가중치·파생물·출력을 외부에 제공하지 않는 순수 내부 이용에는 앞서 제시한 규모별 별도 허가 조건을 적용하지 않는다.
출처
- Hy4 flash open-weight release announcement — November 18, 2026 — Tencent Hy
- Hy4 flash model description and release artifacts — Tencent Hy
- Tencent Hy License, Version 1.0 — Tencent Hy
- Hy4-flash serving recipe — deployment and memory conditions — vLLM
- Hy4-flash GGUF builds and testing notes — AngelSlim
- Hy4 flash fine-tuning guide — Tencent Hy
- Hy4-flash deployment cookbook — SGLang
