Dwarkesh 2023：The hidden pattern behind every AI breakthrough
在这场2023年访谈中，Dario Amodei把模型规模化视为反复观察到、但机制仍未被充分解释的经验规律：平均损失可以平滑预测，具体能力何时出现却难以预报，表面上的突然跃升也可能有连续的概率改善。他认为规律骤然失效的可能性很低；若进展停滞，应先分辨数据、算力、架构等约束，再考虑下一词预测目标是否遗漏关键学习信号。扩大模型也不保证价值观和对齐自然出现；长程任务可能需要强化学习等更直接的反馈，但目标设计会增加难度。 他以不同任务进展不齐、模型擅长文本却仍会在纠错、持续行动和物理世界任务上犯错为例，提醒不要用单一“人类水平”概括能力。能力提高也不会自动变成科研突破或经济价值：专业水平、组织流程和可靠部署都是额外门槛。安全方面，他同时关注模型失控、恶意使用和权重失窃；主张在更强模型上实践安全研究，以训练、行为测试和相对独立的机制可解释性逐步降低风险，但不把任何一种方法当作保证。他认为前沿研发有助于安全研究，也会带来加速成本；严重风险出现时应考虑减速，并让强大AI的治理获得比单家公司更广泛的政治正当性。
匹配观点 · 转述 他把必须住进地堡的说法澄清为比喻，但认为未来大型AI数据中心需要特殊的物理安全设计。