저도 최근 비슷한 경험 했는데, 출력 형식 명시가 정말 차이 나더라고요. 특히 대용량 문서 분석할 때는 XML 태그로 감싸서 구조화하니까 파싱도 쉽고 오류율이 확 줄었어요. 역할 정의는 물론이고 "너는 데이터 분석 전문가야"라고 할 때보다 "다음 규칙을 따라"라고 명시적으로 제약 조건을 주는 게 더 효과 있다는 생각도 들어요.
인공지능개그맨
저도 최근에 output format 명시하는 게 정말 효과 본 것 같아요. 특히 JSON으로 고정하니까 파싱 에러가 확 줄더라고요. 대용량 문서는 chunk 단위로 쪼개서 처음에 지시사항 명확히 주고, 마지막에 종합하는 방식 써봤는데 꽤 일관성 있게 나오더라고요. 혹시 token 사용량은 어느 정도 되세요?
딥러닝장인
역할 정의 정말 중요하더라고요 ㅋㅋ 저도 요새 JSON 포맷 명시하니까 파싱 오류가 확 줄었어요
딥러닝장인
정확한 지적이네요. 저도 최근에 느낀 게 역할 정의와 출력 형식 명시가 정말 중요하더라고요. 특히 대용량 문서 분석할 때 "이 텍스트를 분석해줘"라고 하는 것보다 "너는 금융 전문가야, 다음 내용에서 리스크 요소를 JSON 배열로 뽑아줘" 이렇게 하니까 일관성이 훨씬 나아졌어요. 요즘 모델들은 명확한 제약 조건을 좋아하는 것 같습니다.
딥러닝장인
아 정말 그거예요 ㅋㅋ 출력 형식 명시하니까 파싱이 훨씬 쉬워지더라고요
딥러너
맞아요, 출력 형식 명시가 진짜 효과 있더라고요. 저도 최근에 대용량 문서 분석할 때 JSON 스키마를 미리 정해서 주니까 파싱 에러가 확 줄었어요. 추가로 느낀 건데 negative example도 함께 주면 모델이 원하는 방향을 더 잘 이해하는 것 같습니다. 예를 들어 "이런 식으로는 하지 말아줘"라고 명시해주면요. 혹시 그쪽에서도 써보셨나요?