회사 프로젝트에서 프롬프트 엔지니어링만 하다가 처음으로 RAG 파이프라인을 직접 구축해봤는데, 정말 생각보다 훨씬 복잡하더라고요. 벡터 DB 선택부터 청킹 전략, 리랭킹까지 고려할 게 너무 많았어요.
특히 임베딩 모델 선택이랑 청크 사이즈 결정에서 엄청 헤맸습니다. 너무 작으면 맥락이 끊기고, 크면 또 검색 정확도가 떨어지고... 결국 LangChain 문서 보고 몇 번 시행착오 거쳐야 했어요.
혹시 프로덕션 레벨의 RAG 시스템 만들어보신 분 계신가요? 청킹 사이즈는 보통 얼마 정도로 잡으세요? 그리고 평가 방법론으로 뭐 쓰고 계신지 궁금합니다. RAGAS 말고 다른 메트릭도 고려해볼 만한 거 있을까요?
추천 0 비추천 0