定义
涌现能力（Emergent Abilities）指当模型参数量（或训练数据/算力）跨越某一临界规模后，在特定任务上性能出现「从无到有、跃升式」变化的能力，这些能力在较小模型上难以通过缩放推断出来。 齐e慧享
原理与结构
该现象常被解释为：大模型内部形成了多种「技能电路」，复杂任务需要多个技能的组合，只有规模足够大时才同时具备。典型例子包括多步算术、思维链推理、上下文学习与指令遵循。Wei 等（2022）基于 GPT-3、PaLM、Chinchilla 等模型系统整理了这一现象。 齐e慧享
关键事实
- 综述：Wei et al.（2022, arXiv:2206.07682）。
- 争议：Schaeffer 等（2023, arXiv:2306.15595）指出「涌现」可能只是度量指标非线性的产物（如准确率阈值），而非能力突变。
- 实践含义：涌现是「大力出奇迹」的经验依据，也是能力不可控风险的来源。
典型应用
指导模型规模选型（何时必须上大模型）；解释为什么只有大模型支持 CoT/Agent 等复杂范式。 齐e慧享
局限与争议
「涌现」的统计归因存在争议（度量线性化后部分任务不再「突现」）；临界规模不可精确预测。 齐e慧享