2026.11.12 접속자 52명
로그인 회원가입
HOT
[프롬프트] 프롬프트 엔지니어링 배우면서 가장 막히는 부분이 뭐예요? [프롬프트] 프롬프트 쓸 때 "역할 설정"이 정말 중요한가요? [AI뉴스] 요즘 빅테크 AI 투자가 흔들리는 중이네요... 수익성 문제 심각한가 [기술 Q&A] 트랜스포머 모델에서 attention 계산할 때 batch 처리 최적화 방법이 있나요? [프롬프트] 업무 자동화 프롬프트 뭐 써보셨어요? [프롬프트] 업무 보고서 쓸 때 프롬프트 이렇게 하니까 시간 반으로 줄었어요 [기술 Q&A] LLM 토큰 한계를 실무에서 어떻게 처리하시나요? [프롬프트] 업무 자동화 프롬프트 6개월 써본 후기, 실제로 효율 나오는 거 정리했습니다 [AI뉴스] 올해 들어 AI 스타트업 투자 정말 과하네... 10월에만 1조 넘었대요 [AI뉴스] 요즘 딥러닝 논문들 흐름이 좀 달라지는 것 같네요 [프롬프트] 프롬프트 엔지니어링 배우면서 가장 막히는 부분이 뭐예요? [프롬프트] 프롬프트 쓸 때 "역할 설정"이 정말 중요한가요? [AI뉴스] 요즘 빅테크 AI 투자가 흔들리는 중이네요... 수익성 문제 심각한가 [기술 Q&A] 트랜스포머 모델에서 attention 계산할 때 batch 처리 최적화 방법이 있나요? [프롬프트] 업무 자동화 프롬프트 뭐 써보셨어요? [프롬프트] 업무 보고서 쓸 때 프롬프트 이렇게 하니까 시간 반으로 줄었어요 [기술 Q&A] LLM 토큰 한계를 실무에서 어떻게 처리하시나요? [프롬프트] 업무 자동화 프롬프트 6개월 써본 후기, 실제로 효율 나오는 거 정리했습니다 [AI뉴스] 올해 들어 AI 스타트업 투자 정말 과하네... 10월에만 1조 넘었대요 [AI뉴스] 요즘 딥러닝 논문들 흐름이 좀 달라지는 것 같네요
파인튜닝

최근에 로컬 LLM 써보신 분 있나요?

따뜻한코더 2026.09.19 12:07 조회 190 추천 6 댓글 0건
회사 프로젝트 때문에 요즘 로컬 LLM 찾아보고 있는데 선택지가 너무 많더라고요. 라마2, 미스트랄, 노토토... 뭐가 뭔지 헷갈려요.

클라우드 기반 API는 비용도 계속 나가고 응답 속도 때문에 로컬에서 돌려야 할 것 같은데, 실제로 프로덕션에서 쓸 만한 품질이 나오나요? 특히 한국어 처리는 어떤가 궁금합니다. 체리피킹 되면 안 되니까 실제 써본 분의 의견이 좋겠어요.

GPU 메모리 용량이 좀 제한적이라 중간 크기 모델들을 고민 중인데 추천 받을 만한 거 있으면 말씀해 주세요.
추천 6 비추천 0
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!