한글 임베딩 진짜 문제네요 ㅠㅠ
활용법
요즘 RAG 시스템 구축하면서 느낀 점들
회사에서 자체 문서 기반 AI 챗봇 만들려고 RAG 시스템 처음 구축해봤는데, 생각보다 복잡하더라고요. 임베딩 모델 선택부터 벡터 DB, 프롬프트 최적화까지 손댈 게 많네요.
특히 한국어 임베딩이 약하다는 말을 들었는데 실제로 그런지 궁금합니다. 영문 문서는 잘 작동하는데 한글 검색 성능이 좀 떨어지는 것 같아요. 혹시 비슷한 문제 겪으신 분들이 있나요? 따로 한글 특화 임베딩 모델 써보신 거 있으면 추천 받고 싶습니다.
비용 측면도 신경 쓰이는데 스타트업 입장에서 벡터 DB 유지비가 자꾸 늘어나는 게 스트레스네요. 그냥 임시로 만들어서 테스트하고 있는데 이게 맞는 방식인지 모르겠어요.
특히 한국어 임베딩이 약하다는 말을 들었는데 실제로 그런지 궁금합니다. 영문 문서는 잘 작동하는데 한글 검색 성능이 좀 떨어지는 것 같아요. 혹시 비슷한 문제 겪으신 분들이 있나요? 따로 한글 특화 임베딩 모델 써보신 거 있으면 추천 받고 싶습니다.
비용 측면도 신경 쓰이는데 스타트업 입장에서 벡터 DB 유지비가 자꾸 늘어나는 게 스트레스네요. 그냥 임시로 만들어서 테스트하고 있는데 이게 맞는 방식인지 모르겠어요.
추천 12 비추천 0
- 이전글RAG 시스템에서 Context Window 크기 늘렸는데 응답 품질이 오히려 떨어지네요26.10.02
- 다음글LLM 파인튜닝할 때 토큰 길이 제한 어떻게 해결하세요?26.09.30