스노우플레이크, AI 호출⁠·⁠비용 관리 정식 출시

스노우플레이크가 11월 3일 코텍스 AI 게이트웨이의 모델 호출·실행 추적·비용 관리 기능을 정식 출시했다. 기업이 외부 AI 에이전트와 코딩 도구에서 보낸 요청을 모아, 누가 어떤 모델에 얼마를 썼는지 확인하는 서비스다. 9월 15일 미리보기로 공개했던 게이트웨이에서 이 세 기능의 제공 단계가 바뀌었다.

개발팀은 회사의 공통 접속 주소로 모델을 호출하고, 운영팀은 같은 경로에서 이용 권한과 사용 기록을 관리한다. 스노우플레이크 계정마다 게이트웨이가 하나씩 자동으로 제공된다. 관리자는 이용 권한을 회수하거나 역할별 권한을 조정할 수 있으며, 전체 사용자의 기록을 보는 권한도 일반 이용 권한과 따로 둔다. 게이트웨이 이용 권한이 있어도 각 모델에 필요한 접근 권한은 별도로 충족해야 한다. 기본 설정에서는 공개 역할에 게이트웨이 이용 권한을 부여한다. 추론 요금은 모델별 단가와 처리한 토큰 수에 따라 AI 크레딧으로 청구된다.

모델 연결은 기존 개발 도구가 쓰는 요청 형식에 맞췄다. 공식 추론 문서는 OpenAI의 Chat Completions·Responses와 앤스로픽의 Messages 형식을 지원한다고 설명한다. 접속 주소와 인증을 바꿀 수 있는 클라이언트가 연결 대상이며, 응답을 조금씩 받는 스트리밍과 도구 호출, 구조화된 출력도 지원 기능에 포함된다.

호출 내역에는 사용한 모델, 처리 시간, 토큰 수와 실패 원인이 남는다. 토큰은 모델이 입력과 출력을 처리하는 단위다. 실행 기록은 고객이 소유한 이벤트 테이블에 저장되고 스노우플레이크의 역할별 접근 통제를 적용받는다. 기본 설정은 요청의 메타데이터를 기록하며, 프롬프트와 응답 내용을 저장하려면 별도로 해당 수집 기능을 켜야 한다.

실행 한 번에서 모델을 여러 차례 호출했다면 각각의 작업 기록을 같은 추적 식별자로 묶어 살펴볼 수 있다. 클라이언트가 관련 식별자를 전달하고 자체 추적 데이터를 내보내도록 설정하면 모델 요청 사이에 수행한 작업도 함께 연결된다. 게이트웨이에서 본 요청과 클라이언트 안에서 수행한 단계를 대조하는 방식이다.

비용 기록은 실행 추적과 별도로 집계된다. 사용 이력에서는 요청별 사용자·모델·토큰 사용량을 조회해 어느 애플리케이션이 지출을 만들었는지 확인한다. 팀이 공유하는 비용을 계산할 때는 사용자에게 붙인 태그로 부서나 비용 센터를 묶는다. 여러 사람이 같은 AI 기능을 쓰더라도 해당 예산에 포함할 사용자를 지정할 수 있다. 예산은 태그 이름과 값을 함께 기준으로 삼는다. 부서와 프로젝트 태그를 동시에 적용하면 둘 중 하나에 해당하는 사용자를 포함하거나 두 조건을 모두 만족하는 사용자만 포함하도록 범위를 정할 수 있다. 같은 자원을 쓰는 다른 부서의 소비는 그 예산의 집계 대상에서 제외된다.

팀 예산 알림과 개인 차단은 작동 방식이 다르다

공동 예산은 태그로 묶은 사용자의 지출을 합산하고 알림이나 관리자가 작성한 저장 프로시저를 실행한다. 개인별 할당량은 각 사람의 한도를 독립적으로 평가해 차단할 수 있다. 공식 비용 문서는 예산 평가가 최대 6시간 30분, 저지연 옵션에서도 최대 1시간 걸린다고 설명한다. 개인 할당량의 차단은 사용 집계 후 수분 안에 적용된다.

개인 한도를 설정하고 차단 기능을 활성화해야 사용 중단이 작동한다. 게이트웨이는 차단 이후의 새 요청을 거부하며, 이미 진행 중이던 요청은 끝까지 실행하고 청구한다. 집계와 차단 사이의 지연도 있어 한도 금액을 넘길 수 있다. 요청을 보낼 때마다 잔액을 즉시 확인해 정확한 금액에서 끊는 방식과는 차이가 있다.

개인별 할당량의 일간·주간·월간 주기는 UTC 달력에 맞춰 돌아간다. 일간은 자정, 주간은 월요일 0시, 월간은 다음 달 1일에 초기화된다. 같은 할당량 안에서도 사용자별 지출은 독립적으로 평가한다.

11월 3일 정식 출시 범위에는 추론·실행 추적·비용 관리가 들어가지만, 차트로 이용 현황을 보는 추적 분석 화면과 외부 도구 연결 기능은 미리보기 단계로 남아 있다. 같은 날 발표한 업무 용어 정의 체계인 비즈니스 온톨로지도 공개 미리보기 예정으로 안내됐다. 스노우플레이크는 이 기능의 구체적인 공개 날짜를 제시하지 않았다.