达里奥·阿莫迪

本场访谈围绕模型能力进展、经济落地与治理风险展开。Amodei 认为，过去三年的能力提升大体符合他的指数增长预期；预训练仍带来收益，强化学习在多种任务中也呈现规模化进展。他坚持“大块算力假说”，强调算力、数据数量与分布、训练时长、可扩展目标函数及数值稳定性，并期待更广的强化学习任务分布带来泛化。但他承认模型与人类的样本效率不同，对难以验证任务能否充分泛化仍保留疑虑。 在应用层面，他区分模型写出代码、端到端完成工程任务和软件工程师需求下降：这些阶段不能互相替代。可靠的电脑操作、长上下文质量及可能的持续学习影响任务覆盖；法务、安全、预算和组织改造又会使大型企业采用落后于能力进步。医疗从提出治疗方案到临床验证、审批和普遍受益，同样存在现实流程时滞。 在商业层面，他认为收入增长与算力建设都很快，但长期采购必须承受收入晚于预期的风险；单个模型盈利也不等于持续训练下一代模型的公司已经盈利。他预计 API 与其他收费方式并存，并倾向于前沿模型由少数企业竞争。在公共议题上，他关注高速增长的地域差距，主张先提高 AI 风险透明度，再依据证据制定针对性安全规则，同时讨论健康收益分配、政治自由，以及以原则和多方反馈改进模型行为。

在这场2023年访谈中，Dario Amodei把模型规模化视为反复观察到、但机制仍未被充分解释的经验规律：平均损失可以平滑预测，具体能力何时出现却难以预报，表面上的突然跃升也可能有连续的概率改善。他认为规律骤然失效的可能性很低；若进展停滞，应先分辨数据、算力、架构等约束，再考虑下一词预测目标是否遗漏关键学习信号。扩大模型也不保证价值观和对齐自然出现；长程任务可能需要强化学习等更直接的反馈，但目标设计会增加难度。 他以不同任务进展不齐、模型擅长文本却仍会在纠错、持续行动和物理世界任务上犯错为例，提醒不要用单一“人类水平”概括能力。能力提高也不会自动变成科研突破或经济价值：专业水平、组织流程和可靠部署都是额外门槛。安全方面，他同时关注模型失控、恶意使用和权重失窃；主张在更强模型上实践安全研究，以训练、行为测试和相对独立的机制可解释性逐步降低风险，但不把任何一种方法当作保证。他认为前沿研发有助于安全研究，也会带来加速成本；严重风险出现时应考虑减速，并让强大AI的治理获得比单家公司更广泛的政治正当性。