컨텍스트 윈도우 뜻, AI가 한 번에 읽는 양과 대화가 길어질 때 생기는 일

컨텍스트 윈도우는 AI 모델이 답을 만들 때 한 번에 참고할 수 있는 글의 양이에요. 내가 보낸 메시지와 앞선 대화, 올린 파일, 그리고 모델이 지금 쓰는 답변까지 모두 이 안에 들어가고, 크기는 토큰이라는 단위로 세요. 제미나이 앱은 요금제에 따라 32,000토큰에서 100만 토큰까지이고, 클로드 유료 플랜은 모델과 쓰는 곳(채팅, Claude Code, Cowork)마다 크기가 달라요. 대화가 이 범위에 가까워지거나 넘으면, 제미나이 도움말은 세부를 놓친 답이 나올 수 있다고 적고 클로드 도움말은 코드 실행이 켜진 경우 이전 메시지를 요약해 공간을 만든다고 적어요.

그래서 긴 대화에서 AI가 앞에서 정한 조건을 잊은 듯 답한다면, 모델이 갑자기 나빠졌다기보다 한 번에 다룰 수 있는 양에 가까워졌을 가능성을 먼저 떠올려 보면 돼요. 두 회사 도움말이 함께 권하는 대처는 새 대화를 여는 것이에요. 제미나이는 새 주제로 넘어갈 때, 클로드는 길이 제한에 닿았을 때 새 대화를 시작하라고 적어요.

이 글은 2026년 11월 5일 오후 3시 23분부터 3시 28분(한국 시각) 사이에 받은 Gemini 앱 고객센터, Claude 고객센터, Anthropic과 Google의 개발자 문서를 바탕으로 썼어요. 크기 숫자는 문서에 적힌 표 그대로 옮겼고, 제품과 요금제, 모델, 쓰는 곳을 숫자마다 붙였어요.

컨텍스트 윈도우 뜻, 공식 문서는 이렇게 설명해요

같은 말을 세 문서가 조금씩 다른 비유로 설명해요.

여기서 헷갈리기 쉬운 점이 하나 있어요. 컨텍스트 윈도우는 모델이 무엇을 배웠느냐와는 다른 이야기예요. Anthropic의 컨텍스트 윈도우 문서가 학습 데이터와 구분해 작업 기억이라고 부르는 이유예요. 학습한 지식은 대화가 길어져도 줄지 않지만, 지금 대화에서 내가 알려 준 조건과 자료는 이 작업 기억 안에 들어 있어야 답에 반영돼요.

무엇이 컨텍스트 윈도우를 채우나요

사람이 보기에는 방금 보낸 질문 하나지만, 모델이 받는 것은 그보다 커요. Anthropic API 문서는 요청에 들어간 모든 것이 컨텍스트 윈도우에 포함된다고 적고 그 목록을 이렇게 들어요.

• 시스템 프롬프트(모델에게 주는 기본 지시)
• 대화의 모든 메시지, 그 안의 도구 결과와 이미지, 문서
• 도구 정의
• 그 차례에 모델이 만드는 출력, 확장된 사고 과정 포함

대화가 쌓이는 방식도 같은 문서에 나와요. 차례가 넘어갈 때마다 사용자 메시지와 모델 응답이 컨텍스트 윈도우 안에 쌓이고, 입력 단계에는 앞선 대화 기록 전체와 지금 메시지가 함께 들어가요. 모델이 만든 답은 다음 차례의 입력 일부가 되고요. 그래서 대화가 길어질수록 같은 짧은 질문이라도 모델이 함께 읽어야 하는 양이 늘어나요.

제미나이 앱 도움말도 같은 점을 짚어요. 진행 중인 대화는 Gemini가 컨텍스트를 유지하기 위해 이전 대화 기록을 다시 읽어야 하고, 채팅이 길어질수록 더 많은 사고력이 필요하다고 적어요.

답변 몫도 미리 떼어 둬요. Claude 고객센터는 컨텍스트 윈도우의 일부가 항상 Claude의 응답을 위해 예약되어 있어서, 가능한 가장 긴 대화는 전체 윈도우보다 약간 작다고 적어요. 같은 문서는 도구와 커넥터가 토큰을 많이 쓴다고도 적어요. 켜 둔 도구와 커넥터가 많을수록 대화에 쓸 자리가 그만큼 줄어드는 셈이에요.

토큰은 글자 수와 같지 않아요

컨텍스트 윈도우의 크기는 글자 수가 아니라 토큰으로 세요. Anthropic 용어집은 토큰을 언어 모델이 다루는 가장 작은 단위라고 하고, 단어나 단어 조각, 글자, 경우에 따라 바이트에 해당할 수 있다고 적어요. 한 토큰이 몇 글자에 해당하는지는 모델과 언어에 따라 달라진다는 문장도 있어요.

두 회사가 적은 어림값은 이래요. Anthropic 값은 영어 글자 기준이고, Gemini 문서의 약 4자는 언어를 밝히지 않았지만 함께 적힌 단어 환산은 영어 단어 기준이에요.

Anthropic 용어집은 정확한 값이 필요하면 쓰려는 모델로 토큰 수를 직접 세 보라고 적어요. 용어집이 언어에 따라 달라진다고 적은 만큼, 한국어 글은 한국어 글이 토큰으로 몇 개가 되는지 공식 도구로 재 본 글을 함께 보면 감이 잡혀요.

토큰 수를 쪽수로 바꾼 예시도 회사마다 하나씩 있어요. Gemini 앱 도움말은 100만 토큰 컨텍스트 윈도우라면 최대 1,500페이지의 텍스트나 30,000줄의 코드를 이해할 수 있다고 적고, Claude 고객센터는 200K 토큰을 약 500페이지 이상의 텍스트로 적어요. 두 예시는 각자 자기 모델을 설명하려고 든 값이라, 서로 나눠서 한 페이지당 토큰을 맞춰 보는 용도로 쓰기는 어려워요.

제미나이 앱의 컨텍스트 윈도우, 요금제별 크기

Gemini 앱 고객센터의 한도 문서는 「Gemini 앱 액세스 및 한도」 절 안에 사용량 한도 표와 컨텍스트 윈도우 표를 나란히 두었어요. 2026년 11월 5일 오후 3시 23분에 받은 한국어판과 영어판의 값은 이래요.

이 값은 소비자용 Gemini 앱의 요금제별 크기예요. 개발자가 API로 쓰는 Gemini 모델의 값과는 다른 표예요. 한국어판 문서 제목은 「Google AI 구독자의 Gemini 앱 한도 및 업그레이드」이고, 영어판 제목은 Gemini Apps limits & feature availability예요.

이 표가 들어 있는 절 맨 위에는 Gemini 앱 사용량 한도가 변경될 수 있고, 액세스가 테스트나 실험, 사용 가능 여부에 따라 바뀌거나 제한될 수 있다는 「중요」 안내가 있어요. 표의 숫자는 받은 날 기준으로 보세요.

클로드의 컨텍스트 윈도우, 모델과 쓰는 곳마다 달라요

클로드는 한 숫자로 말할 수 없어요. Claude 고객센터의 유료 플랜 컨텍스트 윈도우 문서는 대상을 유료 플랜(Pro, Max, Ultra, Team, Enterprise)으로 밝히고, 채팅과 Claude Code, Claude Cowork 표를 따로 둬요. 화면에는 「이번 주에 업데이트함」이라고 나오고, 페이지 데이터에 적힌 마지막 수정 시각은 영어판이 2026년 10월 31일 오전 2시 8분, 한국어판이 오전 2시 25분(한국 시각)이에요. 세 표를 모델별로 한 줄에 모으면 이래요.

단위는 모두 토큰이에요. 채팅 표 아래에는 이 모델들 외에는 컨텍스트 윈도우가 200K이고, 유료 플랜으로 채팅할 때 200K개 이상의 토큰(약 500페이지 이상의 텍스트)을 다룰 수 있다는 문장이 붙어 있어요.

주석도 그대로 옮길게요. Claude Code 표의 Opus 4.6과 Sonnet 4.6 칸에는 모델 선택 명령에서 1M 판을 골라야 1M을 쓸 수 있고 사용 크레딧을 켜야 한다는 주석이 붙어 있어요. Opus 4.6 주석은 사용 크레딧 조건을 Pro에만 붙였고, Sonnet 4.6 주석은 사용량 기반 Enterprise 플랜만 빼 두었어요. Cowork 표의 Sonnet 5 칸에는 500K 토큰에서 자동으로 대화를 압축한다는 주석이 있어요.

표를 보면 같은 모델이라도 어디서 쓰느냐에 따라 숫자가 달라요. Opus 4.7은 채팅에서 500K, Claude Code와 Cowork에서 1M이고, Haiku 5.5는 채팅과 Claude Code에서 1M, Cowork에서 500K예요. 개발자용 API는 또 다른 표를 따라요. Anthropic API 문서는 채팅 표에서 500K인 Fable 5, Opus 4.8, Opus 4.7, Opus 4.6, Sonnet 4.6도 API에서는 1M 토큰 컨텍스트 윈도우라고 적고, 목록 밖의 모델은 200k라고 적어요. 어느 숫자를 볼지는 지금 쓰는 곳에 달려 있어요.

대화가 길어져 한계에 가까워지면 생기는 일

넘었을 때의 모습은 두 회사 문서가 서로 다른 방향으로 적어요.

Claude 쪽 설명을 조금 더 옮기면 이래요. 전체 채팅 기록은 보존되어 Claude가 요약된 앞부분도 참조할 수 있고, 긴 대화 중에 Claude가 「생각을 정리하는」 모습을 가끔 볼 수 있는데 그게 자동 컨텍스트 관리가 작동하는 것이라고 적어요. 대신 이 관리를 일으키는 긴 대화는 사용 한도를 더 많이 쓴다고 해요. 그리고 매우 큰 첫 메시지나 시스템 오류 같은 드문 경우에는 여전히 컨텍스트 윈도우 한계에 닿을 수 있다고 적어 두었어요.

이 기능의 대상은 문서마다 표현이 조금 달라요. 유료 플랜 컨텍스트 윈도우 문서는 「코드 실행이 활성화된 유료 플랜 사용자」라고 적고, 사용량 및 길이 제한 문서는 「코드 실행이 활성화된 사용자」라고만 적어요. 두 문서 모두 코드 실행이 켜져 있어야 한다는 조건은 같아요.

Anthropic API 문서의 각주에는 claude.ai 같은 채팅 화면이 컨텍스트 윈도우를 먼저 들어온 것부터 먼저 내보내는 방식으로 관리할 수도 있다는 문장이 있어요. 「할 수도 있다」는 표현이라 언제 그렇게 되는지까지 적은 문장은 아니에요. 개발자가 API를 직접 부를 때는 입력만으로 이미 컨텍스트 윈도우를 넘으면 모든 모델에서 400 오류(prompt is too long)를 돌려준다고 적어요.

크다고 무조건 좋은 것도 아니에요. 같은 API 문서는 더 큰 컨텍스트 윈도우가 더 복잡하고 긴 프롬프트를 다루게 해 주지만 컨텍스트가 많다고 자동으로 더 좋아지지는 않는다고 적어요. 토큰 수가 늘수록 정확도와 기억해 내는 능력이 떨어지고, 이를 컨텍스트 부패(context rot)라고 부른다고 해요. 그래서 공간의 크기만큼 그 안에 무엇을 넣느냐가 중요하다고 덧붙였어요.

클로드의 코드 실행은 어디서 켜나요

자동 컨텍스트 관리는 코드 실행이 켜져 있어야 작동하니, 이 설정의 자리를 알아 두면 좋아요. Claude로 파일 생성 및 편집 문서에 적힌 내용이에요. 다만 유료 플랜 컨텍스트 윈도우 문서는 이 기능의 대상을 「코드 실행이 활성화된 유료 플랜 사용자」로 적어요.

1. Free, Pro, Max, Ultra 플랜에서는 코드 실행 및 파일 생성이 기본적으로 켜져 있어요.
2. 웹과 데스크톱에서는 설정, 기능으로 들어가 코드 실행 및 파일 생성을 켜요. 업데이트된 설정 화면에서는 이름이 파일 생성 및 편집이라고 적혀 있어요.
3. iOS와 Android 앱에서는 왼쪽 사이드바에서 이니셜이나 이름을 눌러 설정을 열고, 기능을 골라 코드 실행 및 파일 생성을 켜거나 꺼요.
4. Team 플랜과 새 Enterprise 조직은 조직 수준에서 기본으로 켜져 있고, 조직 소유자가 조직 설정의 기능에서 끄거나 조정할 수 있어요.

사용량 한도와 길이 제한은 다른 이야기예요

긴 대화에서 막혔을 때 둘을 섞으면 대처가 엇나가요. Claude 고객센터의 사용량 및 길이 제한 문서는 사용량 제한은 모든 대화에 걸쳐 Claude를 쓸 수 있는 양을, 길이 제한은 대화 하나가 얼마나 길어질 수 있는지를 정한다고 구분해요. 앞의 것은 시간에 따른 양이고, 뒤의 것은 컨텍스트 윈도우와 관련된 제한이에요.

대처법도 달라요. 같은 문서는 길이 제한에 닿으면 새 대화를 시작하거나 프로젝트 같은 기능을 쓰라고 안내해요. 요금제의 고정된 컨텍스트 윈도우 크기를 늘릴 수는 없다는 문장도 같은 문서에 있어요. 기다리는 것으로 풀리는 문제가 아니라는 뜻이에요.

긴 대화에서 문서가 권하는 방법

두 회사 도움말에 적힌 방법을 모으면 이래요.

1. 주제가 바뀌면 새 채팅을 열어요. Gemini 앱 도움말은 새 주제로 이동할 때 새 채팅을 시작하면 Gemini가 긴 대화 기록을 다시 읽지 않아도 되므로 사용량을 아낄 수 있다고 적어요.
2. 오래 쓸 자료는 프로젝트에 넣어요. Claude 고객센터는 프로젝트가 검색 증강 생성(RAG)을 써서 관련 내용만 컨텍스트 윈도우에 불러온다고 적어요. 프로젝트용 RAG 문서는 프로젝트 지식이 컨텍스트 윈도우 한계에 가까워지면 RAG 모드가 자동으로 켜져 용량을 최대 10배까지 늘린다고 하고, 따로 설정할 것은 없다고 적어요.
3. 프로젝트 지침은 짧게 써요. 일반적인 맥락, 주요 지침, Claude의 역할 위주로 쓰고 작업별 지시는 채팅에 남겨 두라고 적어요. 더 이상 쓰지 않는 프로젝트 파일은 정리하라고도 해요.
4. 필요 없는 도구는 꺼요. 대화에 필요 없는 연결 앱은 끄고, 최신 정보가 필요 없을 때는 웹을 검색하지 말라고 요청하라고 적어요.
5. 사고 기능과 노력 수준을 조절해요. 사고 토글이 있는 모델은 필요 없을 때 끄고, Opus 5.5와 Sonnet 5.5처럼 사고가 항상 켜진 모델은 노력 수준을 낮추라고 적어요. 노력 수준이 높을수록 토큰을 더 쓴다고 해요.

새 대화로 옮길 때는 앞 대화에서 정한 조건과 결론을 짧게 정리해 첫 메시지에 붙이면, 긴 기록 전체를 다시 넣지 않고도 필요한 맥락만 이어 갈 수 있어요. 챗GPT를 쓴다면 챗GPT에서 새 대화로 맥락을 넘기는 순서를 정리한 글에 요약을 뽑는 프롬프트와 옮길 곳을 고르는 기준을 단계별로 적어 뒀어요.

주의할 점

• 이 글의 크기 숫자는 2026년 11월 5일에 받은 문서 기준이에요. Gemini 앱 문서는 한도와 액세스가 바뀔 수 있다고 적고, Claude 유료 플랜 문서는 페이지 데이터 기준 2026년 10월 31일(한국 시각)에 마지막으로 수정된 문서였어요.
• 제미나이 앱 표는 요금제별 값이고, 클로드 표는 유료 플랜의 모델별, 쓰는 곳별 값이에요. 두 회사 숫자를 같은 기준으로 놓고 비교하는 용도로 쓰기는 어려워요.
• 1,500페이지, 500페이지 같은 쪽수 환산은 각 회사가 든 예시예요. 실제로 들어가는 양은 글의 언어와 형식, 함께 올린 파일과 도구에 따라 달라져요.
• 컨텍스트 윈도우가 크다고 긴 대화가 항상 정확해지지는 않아요. Anthropic 문서가 적은 컨텍스트 부패처럼, 넣는 양이 늘수록 정확도가 떨어질 수 있어요.

정리하며

컨텍스트 윈도우는 AI가 답을 만들 때 한 번에 참고하는 글의 양이고, 내 메시지와 앞선 대화, 파일, 도구, 그리고 답변까지 모두 토큰으로 세어 그 안에 들어가요. 2026년 11월 5일 기준 제미나이 앱은 요금제에 따라 32,000토큰, 128,000토큰, 100만 토큰이고, 클로드 유료 플랜은 모델과 쓰는 곳(채팅, Claude Code, Cowork)마다 200K에서 1M 사이의 값이 표로 따로 적혀 있어요.

한계에 가까워지면 제미나이는 세부를 놓친 답이 나올 수 있다고, 클로드는 코드 실행이 켜진 경우 이전 메시지를 요약한다고 적어요. 제미나이 도움말은 주제가 바뀌면 새 채팅을 열라고 하고, 클로드 고객센터는 길이 제한에 닿으면 새 대화를 열거나 프로젝트를 쓰고, 쓰지 않는 도구와 커넥터는 끄라고 권해요.

함께 보면 좋은 글

• 한국어 글이 토큰으로 몇 개가 되는지 공식 도구로 재 본 글
• 챗GPT에서 새 대화로 맥락을 넘기는 순서를 정리한 글