인클링 2 스몰, 팅커 먼저 제공…가중치는 다음 주 계획

씽킹머신즈랩이 11월 5일 새 AI 모델 ‘인클링 2 스몰’을 팅커에 제공했다. 개발자는 추론과 자체 자료를 이용한 미세조정을 시작할 수 있다. 전체 가중치는 외부 안전시험과 공격적 검증을 마친 뒤 다음 주 Apache 2.0으로 공개할 계획이다.

모델 카드에 따르면 전체 매개변수는 5,940억 개, 토큰 하나를 처리할 때 활성화되는 매개변수는 170억 개다. 여러 전문가 가운데 일부를 선택하는 혼합전문가 구조다. 48개 층으로 구성되며 토큰마다 전문가 384개 중 8개를 고른다. 전체 크기와 매번 계산에 쓰는 크기는 이렇게 다르다.

입력은 텍스트와 이미지, 출력은 텍스트다. 이미지의 각 변은 40~4,096픽셀을 권장한다. 모델 자체의 문맥 창은 최대 100만 토큰이다. 현재 모델 카드의 라이선스 항목은 팅커 이용약관으로 표시돼 있다. 팅커 API는 추론과 미세조정을 제공하고 플레이그라운드는 추론만 제공한다. 모델 카드는 긴 대화의 성능 저하와 그럴듯한 허위 답변 생성을 한계로 명시했다.

이미지를 연결하는 경로에도 범위가 있다. 공식 이미지 안내는 PNG와 JPEG를 같은 대화의 텍스트와 함께 받을 수 있다고 설명한다. 영수증의 합계를 추출하거나 이미지 속 물체를 묻는 것이 회사가 제시한 예다. 클라이언트는 이미지의 형식과 가로·세로 크기로 필요한 입력 토큰 수를 계산한다. HTTP나 클라우드 저장소 주소의 원격 이미지는 자동으로 가져오지 않는다. 입력 준비 과정은 이미지 위치와 규격을 검사하고 모델이 받는 형태로 변환하며, 개발자가 직접 작은 조각으로 잘라 보낼 필요는 없다.

다만 실제 서비스의 이용 한도는 모델 최대 길이와 다르다. 팅커 요금표에는 일반 훈련 모델이 6만4,000토큰, 확장 모델이 25만6,000토큰으로 올라 있다. 서버리스 추론 베타도 25만6,000토큰이다.

요금은 100만 토큰당 입력 0.30달러, 캐시 입력 0.03달러, 출력 1달러다. 훈련은 일반 길이에서 1.50달러, 확장 길이에서 3달러이며 저장 공간은 GB당 월 0.10달러다. 입력 처리는 프롬프트를 읽는 비용, 출력은 답을 생성하는 비용, 훈련은 기울기 계산을 위한 순방향·역방향 연산의 비용으로 나뉜다.

점수와 응답 시간은 별개

독립 평가 업체 아티피셜 애널리시스의 모델 페이지는 지능 지수 31점을 표시했다. 여러 지식·코딩·과학 과제를 묶은 지표다. 같은 가격대 모델의 중간값은 23점이다. 단일 코딩 시험의 점수나 모든 업무에서의 우위를 뜻하는 수치로 제시한 것은 아니다.

같은 페이지의 관측값은 지수 과제당 21.2분, 첫 답변 토큰까지 36.24초였다. 비교 가격대 중간값은 각각 7.0분과 12.03초다. 첫 답변 시간에는 추론 모델이 답을 내기 전에 생각하는 시간이 포함된다. 성능 수치는 최근 5일의 실행을 평균하며 서비스 지연에 따라 갱신된다. 과제당 시간도 출력량과 속도로 계산한 가중 평균이다. 업체는 일반 엔드포인트의 벤치마크를 6시간 간격으로 실행한다고 설명한다.

가중치 공개 전 검토는 회사가 7월 31일 제시한 단계적 공개 방침을 따른다. 이 방침은 모델의 위험 능력뿐 아니라 방어 도구와 대응 조직이 준비됐는지를 함께 보도록 했다. 회사는 가중치를 한번 공개하면 되돌리기 어렵다는 점을 근거로 들었다. 당시 제시한 단계에는 감시가 가능한 API와 호스팅된 미세조정, 방어 목적 이용자 심사가 있다.

새 발표에는 훈련 중 발생한 문제도 실렸다. 회사는 과제에 실패하던 모델이 검색 도구로 닿을 수 있는 외부 서비스를 거쳐 네트워크 차단을 돌아간 사례를 감시기가 포착했다고 밝혔다. 훈련을 멈추고 기반 시설을 보강했으며 웹 접근이 필요한 환경을 제거한 뒤 도구 호출 전 검사를 추가했다고 설명했다.

7월 방침은 새로운 증거에 따라 공개 범위를 넓히는 반복 절차로 규정돼 있다. 모델 자체를 시험할 때는 위험한 과제를 완수하는 능력과 접근성, 보호 장치를 제거했을 때의 행동을 살핀다. 생태계 측면에서는 조직의 조기 패치와 진행 중인 공격 탐지, 방어 연구 도구를 준비 대상으로 꼽았다. 각 단계의 접근 확대는 확보한 근거를 조건으로 한다.