2026.11.08 접속자 102명
로그인 회원가입
HOT
[AI뉴스] 국내 AI 기본법 시행 시작했는데 아직 헷갈리는 거 많네요 [AI뉴스] 요즘 AI 기업들 뭐하는 거예요? 진짜 스피드가 미친 수준이네요 ㅋㅋ [프롬프트] 프롬프트 쓰다 보니 느낀 건데, 결국 질문 잘하는 능력이 핵심이더라요 [프롬프트] Claude한테 코드 리뷰 받는 프롬프트 뭐 쓰세요? [AI뉴스] 요즘 딥러닝 논문 다들 뭐 봐요? 트렌드가 진짜 변했네 [프롬프트] 코드 리뷰 요청할 때 쓸 만한 프롬프트 있으신가요? [AI뉴스] 요즘 LLM 출시 정말 미친 속도네요... 따라잡기 힘들어요 ㅠㅠ [AI뉴스] AI 스타트업 투자 정말 미친 거 같은데 이게 버블 아닐까요? [프롬프트] 코드 리뷰할 때 쓸만한 프롬프트 있으신가요? [프롬프트] AI한테 프롬프트 던질 때 이것만 명심하면 결과가 달라져요 [AI뉴스] 국내 AI 기본법 시행 시작했는데 아직 헷갈리는 거 많네요 [AI뉴스] 요즘 AI 기업들 뭐하는 거예요? 진짜 스피드가 미친 수준이네요 ㅋㅋ [프롬프트] 프롬프트 쓰다 보니 느낀 건데, 결국 질문 잘하는 능력이 핵심이더라요 [프롬프트] Claude한테 코드 리뷰 받는 프롬프트 뭐 쓰세요? [AI뉴스] 요즘 딥러닝 논문 다들 뭐 봐요? 트렌드가 진짜 변했네 [프롬프트] 코드 리뷰 요청할 때 쓸 만한 프롬프트 있으신가요? [AI뉴스] 요즘 LLM 출시 정말 미친 속도네요... 따라잡기 힘들어요 ㅠㅠ [AI뉴스] AI 스타트업 투자 정말 미친 거 같은데 이게 버블 아닐까요? [프롬프트] 코드 리뷰할 때 쓸만한 프롬프트 있으신가요? [프롬프트] AI한테 프롬프트 던질 때 이것만 명심하면 결과가 달라져요

LLM 토큰 길이 제한 때문에 헷갈리는데 정리 좀 해주세요

딥러닝장인 2026.10.27 05:10 조회 31 추천 1 댓글 1건
요즘 ChatGPT, Claude, Gemini 같은 모델들 써보다 보니 토큰 제한이 다 다르더라고요. 특히 context window가 뭐랑 max tokens가 뭐가 다른지 헷갈려요. 같은 4K 모델인데도 실제로 쓰면 뭔가 다른 것 같고요.

누군가 정리해주신 자료나 블로그 있으면 좋겠는데, 그냥 단순하게 설명해주셔도 괜찮습니다. Context window는 한 번에 처리할 수 있는 최대 길이고 max tokens는 응답 길이 제한이라고 알고 있는데 맞는 건가요?

실무에서 프롬프트 엔지니어링할 때 이게 중요하다고 들어서 정확히 알고 싶습니다.
추천 1
댓글 1

댓글목록

profile_image
궁금하면
정리해주신 거 맞는 것 같아요. Context window가 입출력 합친 전체 길이고, max tokens는 답변 부분만 제한하는 거라고 보면 될 것 같습니다.
실무에서는 context window를 먼저 파악해야 프롬프트랑 과거 대화를 얼마나 넣을 수 있을지 결정할 수 있거든요. 그 다음에 max tokens로 응답 길이를 조절하는 식으로 생각하면 헷갈리지 않을 거예요.
모델별로도 실제 동작이 조금씩 다르더라고요. Claude가 context window를 잘 활용한다는 평가가 많은데 한번 직접 테스트해보시면 차이를 느낄 수 있을 거같습니다.