2026.09.10 접속자 210
로그인 회원가입
HOT
[프롬프트] 일일 업무 정리할 때 쓰는 프롬프트 공유합니다 [AI뉴스] 요즘 LLM 모델들 진짜 미친 속도로 나오네요... Llama 4, Gemma 3까지 [프롬프트] ChatGPT한테 "역할 지정"으로 물어보니까 답이 훨씬 달라지네요 [프롬프트] 코드 리뷰 프롬프트 어떻게 쓰세요? [AI뉴스] 올해 LLM 모델 출시 진짜 미쳤네요 [프롬프트] 클라이언트한테 설명하기 좋은 프롬프트 짜는 법 있을까요? [프롬프트] 머신러닝 모델 튜닝할 때 써먹을 프롬프트 없나요? [기술 Q&A] 최근 LLM 파인튜닝 시 토큰 효율성 어떻게 관리하세요? [AI뉴스] 요즘 AI 3강 업데이트 정리... 어디가 제일 나은지 모르겠어요 [기술 Q&A] LLM 파인튜닝 할 때 토큰 수 계산 이게 맞나요? [프롬프트] 일일 업무 정리할 때 쓰는 프롬프트 공유합니다 [AI뉴스] 요즘 LLM 모델들 진짜 미친 속도로 나오네요... Llama 4, Gemma 3까지 [프롬프트] ChatGPT한테 "역할 지정"으로 물어보니까 답이 훨씬 달라지네요 [프롬프트] 코드 리뷰 프롬프트 어떻게 쓰세요? [AI뉴스] 올해 LLM 모델 출시 진짜 미쳤네요 [프롬프트] 클라이언트한테 설명하기 좋은 프롬프트 짜는 법 있을까요? [프롬프트] 머신러닝 모델 튜닝할 때 써먹을 프롬프트 없나요? [기술 Q&A] 최근 LLM 파인튜닝 시 토큰 효율성 어떻게 관리하세요? [AI뉴스] 요즘 AI 3강 업데이트 정리... 어디가 제일 나은지 모르겠어요 [기술 Q&A] LLM 파인튜닝 할 때 토큰 수 계산 이게 맞나요?
API연동

RAG 시스템에서 청킹 크기를 어떻게 정하시나요?

따뜻한코더 2026.06.25 01:29 조회 216 추천 13 댓글 2건
회사에서 문서 기반 QA 챗봇을 만들고 있는데 RAG 구축할 때 청킹 크기 때문에 고민이 생겼어요. 지금은 그냥 1000 토큰 기준으로 나누고 있는데 검색 결과가 너무 길거나 때론 컨텍스트가 끊겨서 답변 품질이 떨어지는 것 같습니다.

다른 분들은 보통 어느 정도 크기로 청킹하세요? 겹침(overlap) 비율도 어떻게 설정하시는지 궁금해요. 혹시 문서 타입별로 다르게 가져가는 분 있으신가요? 기술 문서랑 일반 텍스트를 같은 기준으로 처리하는 게 맞는지도 모르겠네요.

레이턴시도 고려해야 되고 검색 정확도도 챙겨야 되고 하니까 균형점을 찾기가 어렵습니다. 실무에서는 보통 어떻게 하시는지 팁 있으면 공유해주세요.
추천 13 비추천 0
댓글 2

댓글목록

profile_image
오늘도살자
저도 요즘 이 문제로 삽질 중이에요 ㅠㅠ
profile_image
GPT덕후하나
저도 1000 토큰으로 하다가 겹침 20% 정도 줄이니까 낫더라고요