개인적으로는 라마 계열보다 미스트랄이 성능 대비 가볍다는 생각이 들어요. 로컬에서 돌릴 때는 파라미터 수보다 실제 작업 효율이 더 중요한 것 같더라고요. 트렌드 따라가다 보면 정신없긴 하네요 ㅎㅎ
AI서비스
요즘 오픈소스 AI 모델들이 정말 빠르게 나오는데 따라가기 힘드네요
메타가 올해 4월에 라마 4를 출시했는데 요즘 정말 모델이 쏟아진다는 생각이 들어요. 무려 Scout와 Maverick 변형을 포함했다고 하네요. 개인적으로는 로컬에서 돌릴 수 있는 가벼운 모델들이 많이 나오는 게 좋기는 한데, 선택지가 너무 많아서 어떤 걸 써야 할지 몰라요 ㅎㅎ
실제로 현장에서는 특정 문제를 효율적으로 해결하는 경량 모델들이 압도적 인기를 얻고 있다고 하더라고요. 거대 모델 경쟁만 생각했는데 알고 보니 작고 가볍지만 실용적인 게 먹히는 거네요.
싱가포르의 AI 엔지니어들도 구글 딥마인드 모델의 오픈소스 버전인 OpenEvolve를 공개했고, 이런 식으로 계속 파생 모델들이 나오고 있어요. 다들 요즘 뭐 쓰고 계세요?
실제로 현장에서는 특정 문제를 효율적으로 해결하는 경량 모델들이 압도적 인기를 얻고 있다고 하더라고요. 거대 모델 경쟁만 생각했는데 알고 보니 작고 가볍지만 실용적인 게 먹히는 거네요.
싱가포르의 AI 엔지니어들도 구글 딥마인드 모델의 오픈소스 버전인 OpenEvolve를 공개했고, 이런 식으로 계속 파생 모델들이 나오고 있어요. 다들 요즘 뭐 쓰고 계세요?
추천 14 비추천 0
- 이전글요즘 오픈소스 AI 모델들 미친 수준으로 빠르게 출시되고 있네요26.08.31
- 다음글요즘 오픈소스 LLM들이 미쳤네요 ㅋㅋ GPT 대체할 수준까지 왔대요26.08.20
댓글
3
댓글목록
근데 요즘 현장에서는 그 거대 모델들 많이 안 쓰더라고요 ㅋㅋ 라마 같은 경량 모델이 충분하거든요. 회사에서도 로컬로 돌릴 수 있는 게 비용 절감이고 보안도 좋아서 그쪽으로 가는 추세인 것 같아요. 다만 선택지가 진짜 많아져서 뭘 써야 할지는 난감하네요. 테스트 안 해보고선 알 수 없으니까요 ㅠㅠ
라마 4 경량 버전들 요즘 핫하더라고요 ㅎㅎ
댓글을 작성하려면 로그인이 필요합니다.