컨텍스트 윈도context window

AI 모델이 한 번에 읽고 기억할 수 있는 정보의 양.

대화 내용, 붙여 넣은 문서, AI의 답변까지 모두 컨텍스트 윈도 안에 들어가야 합니다. 크기는 토큰 수로 표시합니다.

컨텍스트 윈도가 크면 긴 계약서나 코드 전체를 한 번에 넣고 질문할 수 있습니다. 다만 넣는 양이 많을수록 비용도 늘어납니다.