模型能力与应用
预训练与强化学习的规模化收益，是否仍可由共同的训练要素解释？
问题范围：限于算力、数据数量与分布、训练时长、目标函数、数值稳定性以及预训练和多类强化学习任务中的观察；不推断能力上限。
收录范围不代表全部历史。“首次收录”不代表人物首次提出这一观点。
本篇目录
专题深度研究
正在读取研究…
公开材料 · 已收录表达
按访谈时间从新到旧排列；表达日期缺失时使用来源发布日期。仅知年月的材料保留原有精度，同场访谈的观点依原文顺序展示。
Amodei 仍坚持“大块算力假说”：可扩展训练的核心是算力、数据数量与分布、训练时长、目标函数和数值稳定性，巧妙的新技巧相对次要。
嘉宾观点 · 忠实转述
他认为预训练规模化规律符合这一框架，至今没有看到很多明显违背它的现象；预训练与强化学习都可以使用可持续扩展的目标函数。
适用条件：尚未单独核定，请结合来源上下文阅读。
Dwarkesh 2026：We are near the end of the exponential ↗，新页面打开时间戳 00:01:58核对原话与来源 ↗，新页面打开
Amodei 表示，预训练仍在带来收益，Anthropic 也在多种强化学习任务中观察到类似的规模化进展。
嘉宾观点 · 忠实转述
他将当前训练描述为预训练之上叠加强化学习；强化学习的收益并不限于数学竞赛，训练更久带来的表现改善也出现在更广的任务中。
适用条件：尚未单独核定，请结合来源上下文阅读。
Dwarkesh 2026：We are near the end of the exponential ↗，新页面打开时间戳 00:04:26核对原话与来源 ↗，新页面打开
Amodei 认为，构建大量强化学习环境的目标是让模型泛化，并非穷举教授每一种技能；任务分布变广后，泛化能力有望增强。
嘉宾观点 · 忠实转述
他以早期语言模型从狭窄文本分布转向广泛互联网数据后才出现更强泛化为类比，认为强化学习正在经历从数学到代码再到更多任务的扩展。
适用条件：尚未单独核定，请结合来源上下文阅读。
Dwarkesh 2026：We are near the end of the exponential ↗，新页面打开时间戳 00:06:54核对原话与来源 ↗，新页面打开
黄仁勋回忆，NVIDIA 很早就相信深度学习可以扩展：增大数据集和模型会继续改善效果，而研究者的互动与不断出现的论文强化了这一信念。
嘉宾观点 · 忠实转述
他回忆早期生成图像仍很模糊，但研究进展持续出现，研究者反馈为继续投入提供了依据。
适用条件：尚未单独核定，请结合来源上下文阅读。
Acquired：NVIDIA CEO Jensen Huang ↗，新页面打开时间戳 00:19:43核对原话与来源 ↗，新页面打开
RLHF 能用相对很少的人类反馈数据，显著提高基础模型的实用性；但这部分科学仍比预训练更不成熟。
嘉宾观点 · 忠实转述
他描述用人类对两个输出的偏好进行强化学习，并指出基础模型即使评测表现好、能够通过测试，也不容易使用。
适用条件：尚未单独核定，请结合来源上下文阅读。
Lex Fridman #367：GPT-4、AGI 与 AI 安全 ↗，新页面打开时间戳 00:06:25核对原话与来源 ↗，新页面打开
经审核的历史对照
当前没有已批准且仍有效的对照。以上表达可并列阅读，不代表已经确认变化或共识。