LLM 미세조정(Fine-tuning) 시작하려는데 실제로 효과 있나요?

요즘 회사에서 우리 도메인에 맞는 AI 모델을 만들어야 한다는 압박을 받고 있는데, 처음엔 GPT API 쓰다가 비용 때문에 오픈소스 모델 미세조정을 알아보고 있습니다. 근데 정말 효과가 있는지 의문이 들어서 정보를 공유하면서 의견을 구해봅니다.

제가 이해한 바로는 미세조정이라는 게 사전학습된 큰 모델에 우리 데이터를 추가로 학습시키는 거라고 했는데, 실제로는 어느 정도 규모의 데이터가 필요한 거 같더라고요. 깃허브에서 본 예제들은 대부분 수천 개 이상의 학습 데이터를 썼어요. 우리 회사는 지금 준비된 데이터가 수백 개 정도라서 이정도면 의미 있는 결과를 낼 수 있을지 걱정이 됩니다.

그래도 몇 가지 시도해본 건 있는데, 저는 먼저 프롬프트 엔지니어링으로 최대한 끝내보기를 추천합니다. 잘 만든 시스템 프롬프트와 few-shot 예제들이면 정말 많은 경우를 커버할 수 있거든요. 이게 훨씬 빠르고 비용도 적게 들어요. 미세조정은 정말 프롬프트 엔지니어링으로도 안 될 때 고려해도 늦지 않다고 봅니다.

혹시 미세조정을 꼭 해야 한다면 LoRA(Low-Rank Adaptation) 방식을 찾아보세요. 전체 모델을 다시 학습하지 않고 작은 어댑터만 학습시키는 방식인데, 데이터도 적게 필요하고 시간도 훨씬 빠릅니다. 저는 Llama 2 같은 오픈소스 모델에 LoRA로 간단히 시도해봤는데 생각보다 나쁘지 않더라고요.

결론은 데이터가 부족하면 프롬프트부터 정말 정성들여 작업해보시고, 정 필요하면 LoRA부터 시작해보는 게 좋을 것 같습니다. 혹시 비슷한 경험을 하신 분 있으면 댓글로 팁 좀 나눠주세요.