2026.09.16 접속자 85
로그인 회원가입
HOT
[AI뉴스] 요즘 오픈소스 AI 모델들이 진짜 쌩쌩하네요. 뭐 써보셨어요? [프롬프트] 코드 리뷰 프롬프트 좋은 거 있으신가요? [기술 Q&A] LLM 파인튜닝할 때 QLoRA 말고 다른 방법 써보신 분? [AI뉴스] 요즘 생성형 AI 기술 이 정도까지 왔다네요... 뭐 하실 계획? [프롬프트] 프롬프트 작성할 때 맥락 정보는 얼마나 자세히 줘야 하나요? [프롬프트] Claude 프롬프트로 장문 분석 자동화하는 방법 공유합니다 [프롬프트] 마케팅 카피 쓸 때 써먹는 프롬프트 공유합니다 [프롬프트] 코드 리뷰 프롬프트 공유합니다 (실제로 쓰는 거) [AI뉴스] 생성형 AI 이제 그냥 기술이 아니라 사회 기반시설이 되고 있네요 [AI뉴스] 요즘 AI 트렌드 생성형에서 에이전트로 넘어간다더라고요 [AI뉴스] 요즘 오픈소스 AI 모델들이 진짜 쌩쌩하네요. 뭐 써보셨어요? [프롬프트] 코드 리뷰 프롬프트 좋은 거 있으신가요? [기술 Q&A] LLM 파인튜닝할 때 QLoRA 말고 다른 방법 써보신 분? [AI뉴스] 요즘 생성형 AI 기술 이 정도까지 왔다네요... 뭐 하실 계획? [프롬프트] 프롬프트 작성할 때 맥락 정보는 얼마나 자세히 줘야 하나요? [프롬프트] Claude 프롬프트로 장문 분석 자동화하는 방법 공유합니다 [프롬프트] 마케팅 카피 쓸 때 써먹는 프롬프트 공유합니다 [프롬프트] 코드 리뷰 프롬프트 공유합니다 (실제로 쓰는 거) [AI뉴스] 생성형 AI 이제 그냥 기술이 아니라 사회 기반시설이 되고 있네요 [AI뉴스] 요즘 AI 트렌드 생성형에서 에이전트로 넘어간다더라고요
오류해결

LLM 토큰 길이 제한 때문에 긴 문서 처리할 때 뭐 하세요?

조용한엔지니어 2026.09.13 01:58 조회 37 추천 2 댓글 0건
요즘 회사 프로젝트에서 긴 PDF 문서들을 AI로 분석해야 하는데 토큰 제한이 정말 문제네요. 클로드는 200K까지 되긴 하는데 가격이 좀 비싸고, GPT-4는 128K인데도 비용이 장난 아니더라고요.

지금은 그냥 문서를 청크로 나눠서 각각 분석한 다음 결과를 합치는 방식으로 하고 있는데, 이게 맥락을 놓치는 경우가 자주 있습니다. 특히 앞뒤 페이지 연관성이 중요한 문서들에서요.

혹시 다른 방법 써보신 분 계신가요? 아니면 이 정도 제약은 그냥 감수하고 가는 게 현실인가요?
추천 2 비추천 0
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!