저도 비슷한 경험 있는데, 프롬프트 최적화가 토큰 감소에는 효과적이지만 정확도 개선은 별개의 문제더라고요. 제 경우엔 few-shot examples 추가하고 역할 정의(role definition)를 명확히 했을 때 응답 일관성은 확실히 좋아졌습니다. 다만 정확도 측정은 말씀하신 대로 체계적으로 해야 하는데, 저는 테스트 셋을 따로 만들어서 정량 평가를 해봤거든요. 결과적으로는 프롬프트보다는 temperature나 top_p 같은 하이퍼파라미터 조정이 품질에 더 영향을 미쳤어요. 비용 절감이 목표라면 프롬프트 최적화로 충분하지만, 정확도까지 원하신다면 추론 코스트를 감