최근에 GPT-4, Claude, Gemini 같은 모델들 살펴보다가 궁금한 게 생겼어요. 컨텍스트 윈도우 크기가 실제로 얼마나 중요한지 모르겠거든요. 당연히 크면 좋겠지만 처리 속도나 비용 차이도 크던데요.
저는 보통 문서 요약이나 간단한 분석하는 정도인데, 128k 같은 초대형 윈도우가 꼭 필요한지 싶어요. 작은 프로젝트면 4k나 8k 정도도 충분한 건 아닐까요?
혹시 실제로 써보신 분들 있으면 경험담 좀 나눠주시면 좋겠습니다. 특히 비용 대비 효과 측면에서요.
추천 7