Evaluation prompt 관련 문의

#38
by JaeyeonKang - opened

안녕하세요. Evaluation prompt 관련 궁금한 것이 있어 문의 드립니다.
모델마다 사전에 정의한 prompt 가 다를텐데, 이런 것들이 leaderboard 제출 시 반영이 되는지 궁금합니다.

예를 들어, ||~ ||, ### User, [INST] ~[/INST] 등의 방식들이 있어, 이를 지키지 않을 시 성능 저하가 발생됩니다.

이런 것들을 반영할 수 있는 평가인지 궁금합니다.

안녕하세요. 현재는 그런 Custom Prompt기능은 지원되지 않습니다. 다만, lm-eval-harness에서 그런 기능을 준비한다는 글은 본적이 있었습니다. Link. 만일, 해당 기능이 반영되는경우 저희도 적용여부 고려해서, 반영되는 경우 알려드리도록 하겠습니다.

감사합니다.

JaeyeonKang changed discussion status to closed

Sign up or log in to comment