想把握最新的科技进展和研究成果，却发现自己的阅读速度根本赶不上文献产出的速度？
别担心，AMiner AI会帮助你高效检索和阅读文献！
AMiner AI，一款集发现论文、分析论文、理解论文、写作论文于一体的科研小助手。它会帮助你更加游刃有余地穿梭在学术海洋中，让科研变得更加有趣和高效！
今日精选了5篇LLM领域的优秀论文，为了方便大家阅读，只列出了论文标题、AMiner AI综述等信息，如果感兴趣可点击查看原文，PC端数据同步（收藏即可在PC端查看），每日新论文也可登录小程序查看。
如果想要对某篇论文进行深入对话，可以直接复制论文链接到浏览器上或者直达AMiner AI页面：
2024年7月29日精选新论文列表：
1.Preference Fine-Tuning of LLMs Should Leverage Suboptimal, On-Policy Data
这篇论文探讨了大型语言模型（LLMs）基于偏好标签进行微调的不同方法。微调方法包括监督学习、基于策略的强化学习（RL）和对比学习。这些方法各有优劣和性能差异，现有实证研究得出了不同的结论。本文通过在教学和全规模LLM问题上对多种微调技术进行严格的分析，回答了这个问题。主要发现是，一般来说，使用基于策略抽样或尝试降低某些响应的概率（即使用“负梯度”）的方法优于离线和最大似然目标。我们将这些方法的见解概念化，并将使用基于策略抽样或负梯度的方法统一在一个类别分布的模式寻找目标之下。模式寻找目标能够相对于最大似然更快地改变类别分布的特定箱的概率质量，使它们能够更有效地将质量迁移到不同的箱中。我们的分析为LLMs的偏好微调提供了可行的见解，并指导了数据应该如何收集以实现最大改进。
链接：
2.Parameter-Efficient Fine-Tuning for Large Models: A Comprehensive Survey
论文全面调查了参数高效微调对于大型模型的重要性。大型模型在多个应用领域取得了划时代的进步，使得在不同任务中都能取得显著成就。然而，这些模型前所未有的大规模也带来了巨大的计算成本。这些模型通常包含数十亿个参数，其执行需要大量的计算资源。特别是，这种庞大的规模和计算需求，在定制它们用于特定的下游任务时，对于计算能力受限的硬件平台构成了相当大的挑战。
