大模型日报｜5 篇必读的大模型论文

大家好，今日必读的大模型论文来啦！

蚂蚁集团、浙大综述：LLM 解决复杂问题的能力和局限性

大语言模型（LLM）已成为能够解决不同领域复杂问题的强大工具。与传统的计算系统不同，LLM 将原始计算能力与人类推理能力近似地结合在一起，使其能够生成解决方案、进行推理，甚至利用外部计算工具。然而，将 LLM 应用于现实世界的问题解决面临着巨大挑战，包括多步推理、领域知识整合和结果验证。

在这篇综述中，来自蚂蚁集团和浙江大学的研究团队探讨了 LLM 在解决复杂问题方面的能力和局限性，研究的技术包括思维链（CoT）推理、知识增强以及各种基于 LLM 和基于工具的验证技术。此外，他们还强调了软件工程、数学推理和证明、数据分析和建模以及科学研究等不同领域的特定挑战。该综述还从多步推理、领域知识集成和结果验证的角度，进一步讨论了当前 LLM 解决方案的基本局限性以及基于 LLM 的复杂问题求解的未来发展方向。

论文链接：https://arxiv.org/abs/2505.03418

LLM 多智能体系统的自动故障归因

LLM 多智能体系统中的故障归因，即识别对任务失败负责的智能体和步骤，为系统调试提供了关键线索，但仍未得到充分探索，且耗费大量人力物力。

来自宾夕法尼亚大学、杜克大学的研究团队及其合作者提出并制定了一个新的研究领域：LLM 多智能体系统的自动故障归因。为了推进该研究，他们提出了 Who&When 数据集，该数据集由 127 个 LLM 多智能体系统的大量故障日志组成，其中包含将故障与特定智能体和决定性错误步骤联系起来的细粒度注释。

利用 Who&When，他们开发并评估了三种自动故障归因方法，总结了它们各自的优缺点。最好的方法在识别故障责任智能体方面达到了 53.5% 的准确率，但在精确定位故障步骤方面仅为 14.2%，有些方法的准确率甚至低于随机方法。即使是 SOTA 推理模型，如 OpenAI o1 和 DeepSeek R1，也未能达到实际可用性。

论文链接：https://arxiv.org/abs/2505.00212

ZeroSearch：无需搜索即可提升 LLM 搜索能力

有效的信息搜索对于提高大语言模型（LLM）的推理和生成能力至关重要。最近的研究探索了使用强化学习（RL），通过在真实世界环境中与实时搜索引擎交互来提高 LLM 的搜索能力。虽然这些方法取得了可喜的成果，但也面临着不受控制的文档质量和极高的 API 成本等挑战。

为此，阿里通义实验室团队推出了强化学习框架 ZeroSearch，该框架可激励 LLM 的搜索能力，而无需与真正的搜索引擎进行交互。他们的方法从轻量级监督微调开始，将 LLM 转化为一个搜索模块，能够根据查询生成相关文档和噪声文档。在 RL 训练过程中，他们采用基于课程的推广策略，逐步降低生成文档的质量，通过将模型暴露在越来越具有挑战性的搜索场景中，逐步激发模型的推理能力。

实验证明，ZeroSearch 可以有效地激励使用 3B LLM 作为搜索模块的 LLM 的搜索能力。值得注意的是，7B 搜索模块实现了与真实搜索引擎相当的性能，而 14B 搜索模块甚至更优。此外，它在各种参数大小的基础模型和指令微调模型中都有很好的通用性，并与各种 RL 算法兼容。

论文链接：https://arxiv.org/abs/2505.04588

人大文继荣团队新作：LLM 群体智能 benchmark

大语言模型（LLM）已显示出复杂推理的潜力，然而，当多智能体系统（MAS）在严格的约束条件下运行时，其涌现协调能力在很大程度上仍未得到探索，尤其是在蜂群智能的细微差别方面。现有基准往往不能完全捕捉到当智能体在不完整的时空信息下运行时，分散协调所面临的独特挑战。

为了填补这一空白，中国人民大学文继荣团队推出了 SwarmBench 基准，旨在系统地评估作为分散智能体的 LLM 的群体智能能力。SwarmBench 在可配置的二维网格环境中执行五项基本的 MAS 协调任务，迫使智能体主要依靠本地感官输入（k×k 视图）和本地通信。他们提出了协调效果的衡量标准，并分析了新出现的群体动态。他们评估了零样本环境中几种领先的 LLM，发现不同任务的性能差异很大，突出了本地信息限制带来的困难。虽然出现了一些协调，但结果表明，在这些分散场景中，不确定性条件下的鲁棒规划和战略形成存在局限性。在类似于蜂群的条件下对 LLM 进行评估，对于实现其在未来分散系统中的潜力至关重要。

论文链接：https://arxiv.org/abs/2505.04364

迈向多模态通才之路：General-Level 和 General-Bench

多模态大语言模型（MLLM）不仅能够理解模态，还可以跨模态生成。它们的能力已从粗粒度多模态理解扩展到细粒度多模态理解，从支持有限模态扩展到支持任意模态。虽然有许多基准可用于评估 MLLM，但还是出现了一个关键问题：我们是否可以简单地认为，在各种任务中表现出更高的性能表明 MLLM 的能力更强，从而使我们更接近人类级别的人工智能？

来自新加坡国立大学、南洋理工大学、浙江大学的研究团队及其合作者认为，答案并不像看起来那么简单。他们推出了 General-Level 评估框架，该框架定义了 MLLM 性能和通用性的 5 个等级，提供了一种方法来比较 MLLM，并衡量现有系统在实现更强大的多模态通用性以及最终实现 AGI 方面的进展。该框架的核心是“协同”（Synergy）概念，即衡量模型在理解和生成过程中以及在多种模态下是否保持了一致的能力。为了支持这一评估，他们提出了 General-Bench，它涵盖了更广泛的技能、模态、格式和能力，包括 700 多个任务和 325800 个实例。评估结果涉及现有的 100 多种 MLLM，揭示了通才的能力排名，凸显了实现真正人工智能所面临的挑战。

论文链接：https://arxiv.org/abs/2505.04620