当前差距
在 MMLU、HumanEval 等标准基准上,开源模型正在快速追赶。但在复杂推理、指令遵循和安全性上,闭源模型仍有明显优势。
追赶路径
- 数据质量:开源模型的训练数据质量在提升,尤其是代码和数学数据
- 合成数据:GPT-4 生成的高质量数据被广泛用于训练开源模型
- 社区创新:LoRA、量化等微调技术让社区可以利用闭源模型的输出
评价
按照目前的趋势,开源模型在多数常规任务上能在 12-18 个月内追平。但前沿推理能力的差距可能持续更久。
国产大模型半年记 中提到的 DeepSeek 和通义千问是开源追赶的重要力量。