토큰과 요금: 긴 대화는 어떻게 계산될까

1. 1

   구독했는데 왜 잠시 기다리라고 할까요

   안내문을 여러 번 고쳤더니 사용 한도 안내가 떴다고 해 봅시다. 이것만으로 추가 요금이 청구됐다고 판단하면 안 됩니다. 서비스가 정한 사용량 제한에 도달한 것인지, 결제가 필요한 기능을 누른 것인지 먼저 안내를 읽어야 합니다. 돈을 내는 방식과 쓸 수 있는 양은 서로 다른 약속입니다.

   앱 구독은 정해진 기간에 특정 기능과 사용 범위를 이용하는 계약입니다. API는 프로그램에서 모델에 요청을 보내는 통로이며, 보통 처리한 사용량에 따라 비용을 계산합니다. 같은 회사의 서비스여도 앱 구독과 API 청구는 별개일 수 있습니다. 구독료만 보고 API까지 무제한이라고 생각하지 마세요.

   앱의 한도는 메시지 수, 선택한 모델, 첨부 자료, 기능과 이용 상황 등 여러 조건으로 정해질 수 있습니다. '한도는 전부 토큰으로만 정해진다'고 일반화하지 않습니다. 확인할 것은 내 요금제에 표시된 제한, 다시 쓸 수 있는 시점, 추가 결제 여부입니다. 이 수업의 계산 예제는 API의 텍스트 입력·출력에만 한정합니다.

2. 2

   글자와 토큰을 같은 것으로 세지 않습니다

   토큰은 모델이 글을 처리할 때 사용하는 조각입니다. 짧은 단어가 하나의 조각이 될 수도 있고, 한 단어가 여러 조각으로 나뉠 수도 있습니다. 띄어쓰기나 문장 부호도 계산에 영향을 줍니다. 따라서 '천 글자니까 천 토큰'이라는 식으로 바꿀 수 없습니다.

   

   어떻게 나눌지는 토크나이저라는 변환 방식이 정합니다. 같은 한국어 문장도 모델과 토크나이저가 달라지면 개수가 달라질 수 있습니다. 한국어와 영어의 비율 역시 문장에 따라 달라집니다. 한 예문의 결과를 모든 한국어 문서에 적용하거나, 영어로 바꾸면 언제나 싸다고 단정하지 않습니다.

   직접 확인할 때는 공개해도 되는 짧은 문장을 준비하고 이용할 모델의 공식 토큰 계산 기능을 사용합니다. 다른 회사의 계산기로 얻은 수는 참고용입니다. 실제 API 응답의 사용량에는 내 문장뿐 아니라 지시문, 이전 대화 등 함께 보낸 내용도 들어갈 수 있습니다. 예측값과 실제 사용량을 나눠 적어야 차이의 원인을 찾을 수 있습니다.

1. 3

   입력과 출력의 계산서를 나눠 봅니다

   AI에 보낸 글은 입력, AI가 만들어 돌려준 글은 출력입니다. 많은 API 가격표는 둘의 단가를 따로 적습니다. 출력이 짧아도 긴 보고서를 넣었다면 입력 비용이 있고, 짧게 질문했어도 아주 긴 답을 받았다면 출력 비용이 커질 수 있습니다.

   계산 연습을 위해 입력 100만 토큰당 2달러, 출력 100만 토큰당 10달러라고 가정합니다. 이 숫자는 특정 서비스의 현재 가격이 아니라 연습용으로 정한 단가입니다. 입력 2,000토큰과 출력 300토큰을 처리했다면 아래와 같이 각각 계산한 뒤 더합니다.

   분모의 100만을 빠뜨리지 마세요. 가격표의 '백만 토큰당'은 한 번 보낼 때마다 그 금액을 낸다는 뜻이 아닙니다. 합계 0.007달러는 이 조건의 한 번 요청에 대한 값입니다. 환율, 세금, 검색·이미지 같은 도구 비용, 캐시나 할인은 넣지 않았습니다. 실제 견적에는 해당 항목이 있는지 따로 확인합니다.

   연습용 단가로 계산한 요청 한 건

   항목	계산	비용
   입력	2,000 ÷ 1,000,000 × $2	$0.004
   출력	300 ÷ 1,000,000 × $10	$0.003
   합계	$0.004 + $0.003	$0.007

2. 4

   '한 줄만 더'도 이전 대화와 함께 보낼 수 있습니다

   안내문을 고칠 때 '조금 짧게'라고 네 글자만 보냈다고 해서 네 글자만 처리하는 것은 아닙니다. 서비스가 앞의 요청과 답을 함께 모델에 전달하면 그 내용도 입력에 들어갑니다. 직접 API를 구현하는 개발자는 실제로 어떤 대화 기록을 보내는지 코드와 사용량 기록에서 확인할 수 있습니다.

   가령 두 번째 요청의 입력이 이전 대화를 포함해 3,000토큰이고 출력이 200토큰이라면, 위 연습 단가로 입력 0.006달러와 출력 0.002달러, 합계 0.008달러입니다. 첫 요청까지 합친 대화 비용은 0.015달러입니다. 이전 요청의 출력이 다음 요청에서는 입력의 일부가 될 수 있다는 점이 핵심입니다.

   다만 모든 앱이 대화를 같은 방식으로 보관하거나 전송하는 것은 아닙니다. 일부 내용은 요약하거나 제외할 수 있고 API에는 캐시 요금이 적용될 수도 있습니다. 이 예제를 앱 구독의 실제 청구 공식처럼 쓰지 마세요. 목적은 대화 길이와 요청 횟수를 함께 봐야 한다는 점을 익히는 것입니다.

3. 5

   한도에 들어간다고 모두 잘 읽는 것은 아닙니다

   컨텍스트 윈도는 모델이 한 번에 다룰 수 있는 정보 범위를 뜻합니다. 책상 크기에 비유하면 이해가 쉽습니다. 책상이 넓으면 자료를 많이 펼칠 수 있지만, 펼쳐 놓은 모든 줄을 똑같이 잘 활용한다는 보장은 없습니다. 넣을 수 있는 양과 답의 품질을 같은 것으로 보지 않습니다.

   

   보고서 요약이 목적이라면 관련 없는 부록까지 전부 넣기보다 필요한 범위를 먼저 정합니다. 단, 중요한 예외나 조건을 잘라 내면 요약이 틀릴 수 있습니다. '짧게 넣기'보다 '판단에 필요한 내용을 빠뜨리지 않기'가 우선입니다. 문서 제목·기준일·페이지 번호를 남겨 두면 결과를 되짚기 쉽습니다.

   대화가 길어져 앞의 조건을 놓치는 것 같으면, 현재까지 확정한 사실과 남은 질문을 정리해 새 대화로 옮길 수 있습니다. 원문을 잃어버리지 않도록 요약을 직접 확인한 뒤 옮깁니다. 새 대화에서 이전 내용을 당연히 알고 있다고 가정하지 않는 습관은 비용을 떠나 잘못된 답을 줄이는 데도 도움이 됩니다.

정답을 맞혀야 다음 수업으로 가는 시험이 아닙니다. 해설을 읽고 이해하는 데 사용하세요.

1. Q1연습 단가에서 입력 2,000토큰은 유지하고 출력만 600토큰으로 늘렸습니다. 비용은 얼마인가요?

   내 생각 적기 (선택)

   내 생각 적기 (선택)

   작성 내용은 전송되지 않으며, 페이지를 떠나거나 새로고침하면 사라져요. 필요한 내용은 복사해 두세요.

   답과 해설 보기

   입력 $0.004 + 출력 $0.006 = $0.010입니다. 처음 $0.007의 두 배가 아닙니다. 입력은 늘지 않았기 때문이며, 단가는 연습용으로 정한 값입니다.

   해설을 읽고 이해했어요

   직접 비교한 표시이며 자동 채점은 아니에요.

2. Q2앱에서 '잠시 후 다시 이용'이 떴습니다. 지금까지 보낸 메시지 수로 추가 청구액을 계산해도 될까요?

   내 생각 적기 (선택)

   내 생각 적기 (선택)

   작성 내용은 전송되지 않으며, 페이지를 떠나거나 새로고침하면 사라져요. 필요한 내용은 복사해 두세요.

   답과 해설 보기

   그 안내만으로는 추가 청구가 있는지 알 수 없습니다. 앱의 한도와 결제 조건을 먼저 확인해야 합니다. 이 수업의 API 연습 단가를 앱 구독에 적용하지 않습니다.

   해설을 읽고 이해했어요

   직접 비교한 표시이며 자동 채점은 아니에요.

3. Q3큰 문서를 넣은 뒤 '한 줄로 줄여 줘'만 보냈는데 입력 사용량이 큽니다. 무엇을 확인할까요?

   내 생각 적기 (선택)

   내 생각 적기 (선택)

   작성 내용은 전송되지 않으며, 페이지를 떠나거나 새로고침하면 사라져요. 필요한 내용은 복사해 두세요.

   답과 해설 보기

   그 요청에 이전 문서와 대화 기록이 함께 포함됐는지 확인합니다. 짧은 후속 문장과 전체 입력은 다를 수 있습니다. 정확한 값은 실제 사용량 기록으로 확인하며, 이 설명만으로 서비스의 오류라고 판단하지 않습니다.

   해설을 읽고 이해했어요

   직접 비교한 표시이며 자동 채점은 아니에요.

1. 6

   직접 해 보기: 결제 없이 예산표 만들기

   앞의 첫 요청과 같은 크기로 하루 20번, 30일 동안 사용한다고 가정해 보세요. 하루는 0.007 × 20으로 0.14달러, 한 달은 4.20달러입니다. 모두 같은 크기의 요청이라는 연습 조건이므로 실제 청구액의 예측이라고 소개하지 않습니다. 사용 횟수와 답 길이가 바뀌면 표도 바뀝니다. 예산표에는 단가의 단위와 가정한 요청 횟수도 함께 적어 두세요. 한 달 뒤 숫자를 다시 볼 때 어느 조건을 바꿔 계산해야 하는지 알 수 있습니다. 총액 하나만 기록하면 요청량이 늘었는지 단가가 달라졌는지 구분하기 어렵습니다.

   이제 출력만 두 배로 늘려 계산합니다. 입력 비용은 그대로이고 출력 비용만 늘어나므로 총액이 정확히 두 배가 되지는 않습니다. 답 전체를 길게 받는 대신 필요한 항목을 정해 달라고 요청하면 어디서 비용을 줄이는지 숫자로 확인할 수 있습니다. 필요한 설명까지 빼서 결과를 이해하지 못한다면 절약의 목적을 놓친 것입니다.

   실제 API를 쓰기 전에는 공식 가격표의 모델명, 입력·출력 단가, 적용 날짜를 적고 작은 요청부터 사용량을 확인하세요. 서비스가 제공하는 예산 경고와 강제 사용 중단 한도도 구분합니다. 경고는 알림만 보내고 호출은 계속될 수 있습니다. 입문 단계에서는 여기까지 이해하고, API를 직접 쓰는 방법은 개발자 코스에서 이어 가면 됩니다.