요즘 LLM 공부하면서 기본 개념은 어느 정도 이해한 것 같은데, 직접 모델을 파인튜닝해서 써보고 싶거든요. 근데 찾아보니까 자료들이 다 복잡하고 전문가 수준인 것 같아서 막혔어요.
저희 팀에서 고객상담 데이터로 챗봇을 만들어보려고 하는데, 꼭 GPT-4 같은 거 쓸 필요는 없고 그냥 우리 데이터에 맞춰진 작은 모델이 있으면 좋겠단 말이에요. 지금은 그냥 프롬프트 엔지니어링으로 때우고 있는데 한계가 느껴져요.
QLoRA나 LoRA 같은 거 봤는데 이게 맞는 접근법인지, 아니면 처음부터 다르게 해야 하는 건지 모르겠어요. 컴퓨팅 리소스도 그렇고 데이터 준비는 어떻게 해야 할지... 혹시 초보자도 따라하기 좋은 프레임워크나 튜토리얼 아는 분 계신가요?
요새 이 분야가 너무 빨리 변해서 작년 자료는 벌써 구식이 되는 경우가 많더라고요. 올해 기준으로 추천해주실 수 있는 게 있으면 정말 감사하겠습니다. 혹시 비슷한 경험 있으신 분들 의견도 궁금해요.
추천 1