요즘 클로드도 200K, GPT-4도 128K까지 늘었던데 실무에서 이게 얼마나 체감되시는지 궁금하네요. 저는 지금까지 GPT-4 8K 썼는데 큰 문제는 없었거든요.
긴 파일 한 번에 던지는 게 편하긴 한데, 정말 성능이 좋아지는 건지 아니면 그냥 편의성 때문인지 구분이 안 돼요. 특히 추론 정확도가 늘어나는 건지도 잘 모르겠고요.
혹시 컨텍스트를 제대로 활용하고 계신 분 있으면 어떻게 쓰시는지 알려주실래요? 토큰 비용 대비 가치가 있는지도 궁금합니다.
추천 1 비추천 0