RULER

长上下文LM在语料矛盾检索上表现下滑

sewon__min指出，长上下文语言模型擅长RULER类任务，但在“找出语料中所有矛盾”任务上，语料扩大时性能下降，即使领域内微调也难避免。