2026.09.09 접속자 155
로그인 회원가입
HOT
[프롬프트] 업무 자동화 프롬프트 짜다가 깨달은 것들 [프롬프트] 일일 업무 정리할 때 쓰는 프롬프트 공유합니다 [AI뉴스] 올해 AI 판도 정리됐네... 구글 vs 오픈AI 경쟁 되짚어봅니다 [AI뉴스] 요즘 LLM 모델들 진짜 미친 속도로 나오네요... Llama 4, Gemma 3까지 [프롬프트] 코드 리뷰 프롬프트 어떻게 쓰세요? [프롬프트] ChatGPT한테 "역할 지정"으로 물어보니까 답이 훨씬 달라지네요 [프롬프트] 머신러닝 모델 튜닝할 때 써먹을 프롬프트 없나요? [AI뉴스] 올해 LLM 모델 출시 진짜 미쳤네요 [기술 Q&A] 최근 LLM 파인튜닝 시 토큰 효율성 어떻게 관리하세요? [AI뉴스] 요즘 AI 3강 업데이트 정리... 어디가 제일 나은지 모르겠어요 [프롬프트] 업무 자동화 프롬프트 짜다가 깨달은 것들 [프롬프트] 일일 업무 정리할 때 쓰는 프롬프트 공유합니다 [AI뉴스] 올해 AI 판도 정리됐네... 구글 vs 오픈AI 경쟁 되짚어봅니다 [AI뉴스] 요즘 LLM 모델들 진짜 미친 속도로 나오네요... Llama 4, Gemma 3까지 [프롬프트] 코드 리뷰 프롬프트 어떻게 쓰세요? [프롬프트] ChatGPT한테 "역할 지정"으로 물어보니까 답이 훨씬 달라지네요 [프롬프트] 머신러닝 모델 튜닝할 때 써먹을 프롬프트 없나요? [AI뉴스] 올해 LLM 모델 출시 진짜 미쳤네요 [기술 Q&A] 최근 LLM 파인튜닝 시 토큰 효율성 어떻게 관리하세요? [AI뉴스] 요즘 AI 3강 업데이트 정리... 어디가 제일 나은지 모르겠어요
API연동

회사에서 LLM API 비용 폭증했는데 이게 정상인가요?

현실주의자 2026.09.06 13:36 조회 21 추천 0 댓글 0건
저희 회사가 작년부터 ChatGPT API 써서 간단한 자동화 시스템을 구축했는데, 최근 2-3개월 비용이 정말 급증했어요. 처음엔 월 2-3만원 수준이었는데 지금은 20만원대까지 올라갔거든요. 코드상 요청 횟수가 크게 늘어난 것도 아닌데 왜 이럴까 싶어서요.

혹시 OpenAI가 조용히 가격을 올렸거나, 토큰 계산 방식이 바뀐 건 아닐까 싶기도 하고요. 공식 문서에서 확인해봐도 가격표는 안 바뀐 것 같은데 실제로는 더 청구되는 거 같습니다. 혹은 저희가 모르는 사이에 batch API로 안 돌려서 그럴 수도 있겠네요.

다른 회사들도 비슷한 경험 있으신가요? 특히 프로덕션 환경에서 LLM 써보신 분들이 있으면 어떻게 비용 관리하시는지 궁금해요. 혹시 gpt-3.5로 바꾸거나, 로컬 모델 쓰는 게 나은 건 아닐까 생각도 들고요.

현재 저희는 gpt-4 터보를 쓰고 있는데 정확도 때문에 못 내려갈 것 같거든요. 어떤 해결책이 있을지 조언 부탁드립니다.
추천 0 비추천 0
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!