AutoCompact, 코딩 에이전트가 언제 컨텍스트를 압축할지 결정하도록 훈련
AutoCompact는 코딩 에이전트가 언제 컨텍스트를 압축할지, 어떤 작업 상태를 유지할지, 어떻게 재개할지 결정하도록 훈련한다. 판정자는 기본 에이전트의 압축 결정을 검토하고 실행되기 전에 결함이 있는 결정을 대체한다. 수정된 궤적은 지도 미세 조정에 사용되며, 이후 작업 성공 보상을 사용한 강화 학습이 코딩과 압축을 함께 훈련한다. 논문은 arXiv에 있다.
통과율은 SWE-bench Verified에서 9.2포인트, SWE-PolyBench Verified에서 5.0포인트 향상된다. 256K 창이 전혀 넘치지 않는 경우에도 이 향상은 유지되므로, 컨텍스트 공간이 한계가 아닐 때도 학습된 압축은 여전히 도움이 된다. 저자들은 이 사전 예방적 압축을 모델-하네스 공동 설계라고 설명한다. 하네스가 압축 메커니즘을 제공하고, 모델은 언제 호출할지, 무엇을 보존할지, 어떻게 계속할지 학습한다.