Shortcut Learning in In-Context Learning: A Survey
为我们的综述打一打广告，目前是初级版本，欢迎各位批评指正！后续的论文列表、测评基准会在Github更新[/(ㄒoㄒ)/~~最近比较忙容许我拖一拖]
这里是arxiv链接：Linking!!!
Abstract：捷径学习是指模型在实际任务中使用简单的、非鲁棒的决策规则的现象，这阻碍了模型的泛化性和鲁棒性。近年来，随着大型语言模型（large language model, LLMs）的快速发展，越来越多的研究显示了捷径学习对LLMs的影响。本文为上下文学习中捷径学习的相关研究提供了一个新的综述视角。它对ICL任务中的捷径类型、它们的原因、可用的基准和减轻捷径的策略进行了详细的分类与探讨。基于相应的观察，总结了现有研究中尚未解决的问题，并试图勾画出捷径学习的未来研究图景。
注：配合Shortcut Learning of Large Language Models in Natural Language Understanding, Communications of the ACM, 2024
以及A survey on fairness in large language models效果更佳！！！