Harness-Aware Distillation, 소형 모델 에이전트의 ALFWorld 성공률 63.4% 달성
교사 모델의 결정을 대조하여 소형 언어 모델 에이전트가 하네스 정보를 활용하도록 훈련하는 프레임워크인 Harness-Aware Distillation에 관한 연구 논문이 발표되었다. 이를 통해 훈련된 학생 모델은 미확인 ALFWorld 태스크에서 63.4%의 성공률을 기록하며 8B 교사 모델의 성능을 넘어섰다.
교사 모델의 결정을 대조하여 소형 언어 모델 에이전트가 하네스 정보를 활용하도록 훈련하는 프레임워크인 Harness-Aware Distillation에 관한 연구 논문이 발표되었다. 이를 통해 훈련된 학생 모델은 미확인 ALFWorld 태스크에서 63.4%의 성공률을 기록하며 8B 교사 모델의 성능을 넘어섰다.