2026.09.11 접속자 101
로그인 회원가입
HOT
[프롬프트] ChatGPT한테 "역할 지정"으로 물어보니까 답이 훨씬 달라지네요 [프롬프트] 클라이언트한테 설명하기 좋은 프롬프트 짜는 법 있을까요? [기술 Q&A] LLM 파인튜닝 할 때 토큰 수 계산 이게 맞나요? [프롬프트] 머신러닝 모델 튜닝할 때 써먹을 프롬프트 없나요? [AI뉴스] 요즘 생성형 AI 뭐가 핫한데? [프롬프트] 긴 문서 요약할 때 프롬프트 어떻게 하세요? [프롬프트] 데이터 분석 프롬프트 몇 달 써본 후기 - 실무에서 통하는 버전 [AI뉴스] 엔비디아 허깅페이스 인수, 17조원에 개방형 AI 생태계 판판이 깨졌네요 [AI뉴스] 국내 AI 기본법이 EU보다 먼저 규제 시작...7월 시행령 본격화되는데 회사들 준비됐나 [AI뉴스] 요즘 GPT-5.5, 클로드 코드 성장률이 장난 아니네요 [프롬프트] ChatGPT한테 "역할 지정"으로 물어보니까 답이 훨씬 달라지네요 [프롬프트] 클라이언트한테 설명하기 좋은 프롬프트 짜는 법 있을까요? [기술 Q&A] LLM 파인튜닝 할 때 토큰 수 계산 이게 맞나요? [프롬프트] 머신러닝 모델 튜닝할 때 써먹을 프롬프트 없나요? [AI뉴스] 요즘 생성형 AI 뭐가 핫한데? [프롬프트] 긴 문서 요약할 때 프롬프트 어떻게 하세요? [프롬프트] 데이터 분석 프롬프트 몇 달 써본 후기 - 실무에서 통하는 버전 [AI뉴스] 엔비디아 허깅페이스 인수, 17조원에 개방형 AI 생태계 판판이 깨졌네요 [AI뉴스] 국내 AI 기본법이 EU보다 먼저 규제 시작...7월 시행령 본격화되는데 회사들 준비됐나 [AI뉴스] 요즘 GPT-5.5, 클로드 코드 성장률이 장난 아니네요
파인튜닝

요즘 로컬 LLM 돌려보신 분들 어떤 거 쓰세요?

인공지능개그맨 2026.08.01 12:58 조회 104 추천 11 댓글 0건
클라우드 API 비용이 자꾸만 올라서 로컬로 뭔가 돌려볼까 싶은데, 선택지가 너무 많더라고요. 올라마, 로마, LM 스튜디오 이런 거들 봤는데 뭘 골라야 할지 모르겠어요.

GPU 메모리도 충분하고 개인 프로젝트에 쓸 거라서 응답 속도는 좀 느려도 괜찮은데, 결국 어떤 모델이 가성비가 좋을까 궁금합니다. 요즘 Llama 3.1 같은 오픈 모델들이 퀄리티도 괜찮다고 하던데 실제로 써보니 어떻던가요?

그리고 혹시 프로덕션이라고 해야 하나, 실제 서비스처럼 돌려본 경험 있으신 분 계시면 어떤 점들이 힘들었는지 궁금하네요.
추천 11 비추천 0
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!