저도 같은 고민 중이에요 ㅠㅠ 파인튜닝 비용이 정말 미치네요
프롬프트
요즘 LLM 파인튜닝 비용이 얼마나 드세요?
회사에서 자체 데이터로 GPT-4 파인튜닝 해보려고 하는데 가격이 좀 어처구니없네요. 학습 데이터 1M 토큰에 $15였던 것 같은데, 실제로 해본 분들은 월에 얼마 정도 쓰시나요?
지금은 프롬프트 엔지니어링으로 버티고 있긴 한데, 정확도가 자꾸 70%대에서 안 올라가더라고요. 파인튜닝으로 해결될 수도 있을 것 같긴 한데 ROI가 나올지 모르겠어요.
혹시 비용 효율적으로 하는 팁이 있으면 공유해주시면 감사하겠습니다. 요즘 오픈소스 모델들도 괜찮다고 하던데, Llama 같은 걸로 갈아타는 게 나을까요?
지금은 프롬프트 엔지니어링으로 버티고 있긴 한데, 정확도가 자꾸 70%대에서 안 올라가더라고요. 파인튜닝으로 해결될 수도 있을 것 같긴 한데 ROI가 나올지 모르겠어요.
혹시 비용 효율적으로 하는 팁이 있으면 공유해주시면 감사하겠습니다. 요즘 오픈소스 모델들도 괜찮다고 하던데, Llama 같은 걸로 갈아타는 게 나을까요?
추천 12 비추천 0
- 이전글LLM 파인튜닝 vs RAG, 실제로 뭐가 더 실용적인가요?26.09.01
- 다음글RAG 시스템 구축할 때 Vector DB 선택 기준이 뭔가요?26.08.30