LLM이 뭔가요: ChatGPT가 답을 만들어 내는 방식

1. 1

   같은 메모에서 두 가지 문장이 나오는 이유

   첫 수업의 메모를 다시 펼쳐 봅시다. “11월 7일 오후 2시, 동네 도서관 2층, 읽고 싶은 책 한 권.” 이것으로 “책 한 권을 들고 도서관에서 만나요”라는 안내문도, “독서 모임 일정과 준비물을 안내합니다”라는 문장도 쓸 수 있습니다. 둘 다 메모를 옮겼지만 말투는 다릅니다. 여기 쓰인 일정과 문장은 수업을 위한 편집 예시입니다.

   

   LLM은 Large Language Model, 대규모 언어 모델의 줄임말입니다. 텍스트를 생성할 때 앞의 내용과 요청을 바탕으로 다음에 올 작은 조각을 선택하고, 그 조각을 붙인 상태에서 다시 다음 조각을 고릅니다. 이 과정이 이어져 문장과 답변이 됩니다. 휴대폰 자판의 추천 단어는 출발점을 이해하기 위한 비유이지, 두 시스템의 구조와 능력이 같다는 뜻은 아닙니다.

   답을 만드는 방법에는 확률에 따라 후보를 뽑는 방식도 있고 선택 폭을 좁히는 설정도 있습니다. 따라서 같은 질문에 항상 다른 답이 나오는 것도, 항상 같은 답이 보장되는 것도 아닙니다. 서비스가 선택한 모델, 설정, 대화 내용도 결과에 영향을 줍니다. 처음에는 “문장을 새로 만든다”는 점을 기억하면 충분합니다.

   위 메모에 없는 “참가비는 무료”가 붙는다면 이야기가 달라집니다. 말투를 바꾼 것이 아니라 새 사실을 추가한 것이기 때문입니다. 문장이 친절하고 매끄러워도 참가비가 확인되지는 않습니다. 실용적인 구분은 문장의 아름다움보다 원자료의 사실을 지켰는가에 있습니다.

2. 2

   토큰은 단어 수와 다릅니다

   모델이 다루는 텍스트 조각을 토큰이라고 합니다. 단어 하나, 단어의 일부, 문장부호 등이 토큰이 될 수 있습니다. 글을 이 조각들로 나누는 규칙과 도구를 토크나이저라고 부릅니다. 같은 문장이라도 어떤 토크나이저를 쓰느냐에 따라 조각과 개수가 달라질 수 있습니다.

   종이에 “회의는 내일입니다.”를 적고 띄어쓰기 단위로 잘라 보세요. 이번에는 글자마다 잘라 보세요. 두 방식은 조각 수가 다릅니다. 실제 토크나이저가 반드시 이 두 방식 중 하나를 쓴다는 뜻은 아닙니다. 사람에게 보이는 단어 수와 기계가 세는 단위가 다를 수 있다는 점을 보여 주는 종이 실습입니다.

   한국어가 영어의 몇 배라고 고정해서 외우지는 마세요. 문장, 언어, 공백, 토크나이저에 따라 결과가 달라집니다. 문장을 번역하면 내용의 길이와 표현도 바뀝니다. 한 문장의 측정 결과로 모든 한국어 문서의 비율을 정할 수는 없습니다.

   이 구분은 긴 문서를 읽힐 때와 API 사용료를 계산할 때 필요합니다. 지금 당장 토큰을 세거나 결제할 필요는 없습니다. 뒤의 “토큰과 요금” 수업에서는 실제 가격으로 오해하지 않도록 표시한 연습용 단가로 입력과 출력 비용을 따로 계산합니다.

3. 3

   학습한 것과 지금 받은 자료는 다릅니다

   모델은 학습 과정에서 많은 자료의 패턴을 내부 숫자인 가중치에 반영합니다. 자주 쓰이는 표현뿐 아니라 문장의 관계와 여러 과제를 푸는 데 도움이 되는 패턴을 배웁니다. 이어지는 조정 과정에서는 지시를 따르고 유용하게 답하도록 훈련합니다. 구체적인 학습 자료와 절차는 모델마다 다르며 전부 공개되는 것은 아닙니다.

   지금 대화창에 붙인 독서 모임 메모는 당장 답을 만드는 데 쓰는 자료입니다. 이 자료를 참고해 답했다고 해서 모델의 가중치가 그 자리에서 다시 학습됐다는 뜻은 아닙니다. 대화 내용을 제품이 보관하거나 나중에 모델 개선에 쓰는 정책은 또 다른 문제입니다. 계정 종류와 설정을 별도로 확인해야 합니다.

   컨텍스트는 이번 답을 만들 때 참고할 수 있는 입력입니다. 내 질문, 앞선 대화의 일부, 첨부 문서에서 처리된 내용, 검색 도구가 가져온 자료 등이 들어갈 수 있습니다. 서비스가 과거 대화를 요약하거나 일부만 전달할 수도 있으므로, 긴 대화에서 처음 쓴 조건이 끝까지 그대로 적용된다고 가정하지 마세요.

   실습에서는 최종 확인할 때 최신 메모를 다시 붙여도 됩니다. “아래 메모가 최종본이며 앞선 장소 안내를 대신한다”라고 쓰면 무엇을 기준으로 고칠지 명확해집니다. 중요한 조건이 사라졌는지는 수정된 답과 메모를 사람이 나란히 보고 판단합니다.

1. 4

   검색·파일 읽기는 어떻게 연결될까요

   AI 앱은 모델에 여러 도구를 연결합니다. 예를 들어 검색 결과를 가져와 읽히거나, 파일의 내용을 추출하거나, 계산 도구에 식을 보내 결과를 받을 수 있습니다. 모델이 이미지를 직접 처리하는 경우도 있어 “모든 모델은 글만 읽는다”는 설명도 정확하지 않습니다. 어떤 입력과 도구를 지원하는지는 모델과 서비스에서 확인합니다.

   

   오늘 날짜를 맞혔다고 해서 최근 뉴스를 모두 안다고 볼 수는 없습니다. 날짜가 서비스의 안내문에 들어 있을 수도 있고 도구로 전달됐을 수도 있습니다. 한 번의 답만 보고 정보가 어느 경로로 들어왔는지 단정하기 어렵습니다. 사용자가 볼 수 있는 검색 기록과 출처, 실제 문서의 내용을 근거로 삼아야 합니다.

   그렇다고 검색 링크가 붙으면 끝나는 것도 아닙니다. 다른 날짜의 문서이거나 제목만 관련 있고 본문이 주장을 뒷받침하지 않을 수 있습니다. “도서관 휴관일이 바뀌었나요?” 같은 질문이라면 도서관의 실제 공지에서 적용 날짜와 대상 장소를 확인합니다. 첫 수업의 가상 일정으로 현실의 운영 시간을 추정하지 마세요.

2. 5

   작업마다 확인할 기준을 먼저 정하기

   독서 모임 안내문은 날짜·장소·준비물이 원자료와 같은지 확인하면 됩니다. 글을 줄이는 작업에서는 빠뜨리면 안 되는 조건이 무엇인지가 핵심입니다. 번역에서는 이름과 숫자를 옮겼는지뿐 아니라 부정 표현이나 약속의 강도가 바뀌지 않았는지도 봅니다. “검토하세요” 한마디보다 작업마다 기준을 쓰는 편이 실제 행동으로 이어집니다.

   계산은 직접 다시 계산하거나 신뢰할 수 있는 계산 도구의 결과와 비교합니다. 모델이 산수를 풀 수 없다는 뜻은 아닙니다. 계산 과정을 그럴듯하게 설명하는 능력과 답의 정확성은 별도로 확인할 일입니다. 코드도 설명이 맞아 보인다고 실제 실행이 성공하는 것은 아니므로, 나중의 개발 코스에서는 작은 입력으로 실행 결과를 검사합니다.

   처음 맡길 일은 내가 이미 내용을 알고 있어 결과를 판단할 수 있는 것이 좋습니다. 본인이 쓴 짧은 메모의 정리부터 시작하면 추가된 내용을 찾기 쉽습니다. 내가 전혀 모르는 분야의 판단을 바로 맡기면 답이 좋아 보이는지와 맞는지를 구분하기 어렵습니다.

정답을 맞혀야 다음 수업으로 가는 시험이 아닙니다. 해설을 읽고 이해하는 데 사용하세요.

1. Q1동료가 “참가비가 무료라는 말이 자연스러운데 그냥 두자”고 합니다. 무엇을 근거로 고칠지 두 문장으로 답해 보세요.

   내 생각 적기 (선택)

   내 생각 적기 (선택)

   작성 내용은 전송되지 않으며, 페이지를 떠나거나 새로고침하면 사라져요. 필요한 내용은 복사해 두세요.

   답과 해설 보기

   자연스러움은 가격의 근거가 아닙니다. 연습 메모에 참가비가 없으므로 문구를 빼거나 확인 필요로 남기고, 실제 게시 전에는 행사 담당자가 확정한 정보를 받아야 합니다.

   해설을 읽고 이해했어요

   직접 비교한 표시이며 자동 채점은 아니에요.

2. Q2같은 안내문을 두 번 요청했더니 말투가 달랐습니다. 일정은 같고, 한 답만 무료라고 덧붙였습니다. 무엇은 허용할 수 있고 무엇은 고쳐야 하나요?

   내 생각 적기 (선택)

   내 생각 적기 (선택)

   작성 내용은 전송되지 않으며, 페이지를 떠나거나 새로고침하면 사라져요. 필요한 내용은 복사해 두세요.

   답과 해설 보기

   독자와 목적에 맞는 말투의 차이는 허용할 수 있습니다. 근거 없는 참가비 추가는 내용 오류이므로 고쳐야 합니다. 두 답이 달랐다는 사실 자체보다 원자료와 비교해 달라진 사실이 있는지를 봅니다.

   해설을 읽고 이해했어요

   직접 비교한 표시이며 자동 채점은 아니에요.

3. Q3AI가 오늘 날짜를 정확히 답했습니다. 이것만으로 지난밤 도서관 휴관 공지를 확인했다고 말할 수 있나요?

   내 생각 적기 (선택)

   내 생각 적기 (선택)

   작성 내용은 전송되지 않으며, 페이지를 떠나거나 새로고침하면 사라져요. 필요한 내용은 복사해 두세요.

   답과 해설 보기

   말할 수 없습니다. 날짜 정보와 공지 내용은 서로 다른 근거가 필요합니다. 실제 도서관 공지를 열어 해당 장소와 적용 날짜를 확인해야 합니다.

   해설을 읽고 이해했어요

   직접 비교한 표시이며 자동 채점은 아니에요.

1. 6

   직접 해 보기: 문장과 근거를 나누기

   종이를 두 칸으로 나누고 왼쪽에 첫 수업의 메모를 옮겨 적으세요. 오른쪽에는 “11월 7일 오후 2시 도서관 2층에서 만나요. 책 한 권을 가져오세요. 참가비는 무료입니다”라고 적습니다. 오른쪽 문장은 오류를 찾기 위해 편집자가 만든 연습 문장입니다. 실제 모델이 이렇게 답했다는 기록이 아닙니다.

   오른쪽의 주장마다 왼쪽 근거를 선으로 연결하세요. 날짜, 시간, 장소, 준비물은 연결됩니다. 참가비는 연결할 곳이 없습니다. 이를 “참가비는 별도 확인이 필요합니다”로 고치거나 안내문에서 빼고, 게시하기 전에 담당자에게 확인할 항목으로 남깁니다.

   AI를 사용할 수 있다면 이 두 문장을 붙이고 “메모에 있는 사실과 추가된 사실을 나눠 줘”라고 요청해도 됩니다. 그러나 AI가 만든 분류를 정답표로 대신하지는 마세요. 직접 그은 연결선과 비교하는 것이 이 실습의 마지막 단계입니다. 이 수업에서 내부 확률이나 모델의 숨은 생각을 관찰한 것은 아닙니다.