MoCo：面向多模型协同研究的全能 Python 框架

在单一通用大语言模型（LLM）已趋于成熟的背景下，研究者们开始探索 多模型协同（model collaboration）——即让由不同数据、不同目标训练的多个 LLM 通过路由、文本交互、logit 运算或权重合并等方式协同工作，构建模块化、去中心化的组合式 AI 系统。

多模型协同的四大层级

• API 层级：把模型视作可切换的 API，使用 routing、cascading、switched generation 等策略按任务需求挑选模型。
• 文本层级：模型之间通过生成的文本进行对话、辩论、反馈或结构化交互，以分工解决复杂问题。
• Logit 层级：直接对各模型的 next‑token 分布进行代数运算（如 logit aggregation、contrast），再统一解码。
• 权重层级：在权重空间进行信息融合（model merging、parameter arithmetic），生成对当前任务更有效的新模型。

MoCo 框架概览

• 统一平台：由华盛顿大学冯尚彬团队联合斯坦福、哈佛等高校共同开发，汇聚 26 种跨四层级的协同算法，提供统一的评测基准。
• 易用性：pip install modelco 即可安装；通过 YAML/JSON 配置文件指定参与模型、数据集、硬件与超参数，一条命令即可启动任意协同实验。
• 评估套件：内置 25 套覆盖问答、数学、推理、代码、安全等场景的基准，亦支持自定义数据集或仅生成输出后自行评测。
• 资源友好：实现支持任意数量模型在多 GPU 环境下并行，兼容小模型与低算力实验室。

基于 MoCo 的新发现

1. 规模效应：将协同模型数量从 2 扩展至 16，整体性能呈显著上升趋势，验证了“小模块自底向上”构建大系统的可行性。
2. 多样性优势：在模型数目相同（8）时，使用 8 种不同 LLM 的协作显著优于 8 个同质模型，说明模型互补性是提升系统能力的关键。
3. 协同增益：在所有单模型均无法解决的任务中，协同系统平均成功率提升 18.5%，表明协作过程能够产生单模型所不具备的“涌现”能力。

贡献邀请

如果您已有或正在研发多模型协同算法，欢迎通过 GitHub 与作者团队联系，将您的方法纳入 MoCo，帮助打造去中心化、模块化的公共 AI 生态。

作者简介：冯尚彬（华盛顿大学计算机系博士生），导师 Yulia Tsvetkov，获 ACL 2023 最佳论文、ACL 2024 杰出论文、IBM PhD Fellowship 等多项荣誉。共同第一作者还包括德州农工大学的白雨洋与华盛顿大学的杨梓源。