Lex Fridman #452：Dario Amodei 谈 Claude、AGI 与人类未来

过去模型从较低教育水平的任务表现走向博士级别，模态也不断补齐，让他觉得有说服力的障碍越来越少；但数据、集群扩展与硬件供应都可能使进程偏离。

他的未来判断

他强调这不是科学确定预测，扩展规律只是经验上的稳定现象，不能保证未来延续。

他反复观察到增加数据、计算和训练能够改善表现；只扩展其中一种投入，会受其余投入限制。

他的未来判断

他看好扩展趋势延续，但不将其视为已有理论证明的必然规律。

他认为当时模型尚不足以造成所担忧的灾难，但进步很快；一味提前喊危险可能失去信任，等风险完全出现再应对又太迟。

他担忧模型故意隐瞒能力；若把检查工具直接接入模型，或让更强模型接触检查自身状态的代码，验证可靠性就可能受损。

更高智能不能消除硬件生产周期，也不能保证模拟替代真实实验；好的部署还应服从法律并具有民主正当性，而非由少数开发者决定一切。

他把生物学史看作不断提升“看见”和“选择性改变”能力的过程；少数关键工具曾改变整个领域，大量 AI 科研者或可增加这类高价值发明。

他的未来判断

AI 能否迅速发现成千上万种此类工具，在他的表述中仍是设想。

比较优势会让人类仍擅长的少数环节变得更有价值并扩展；他同时承认，若未来 AI 在所有方面都更好，这种逻辑将不再适用。

他的未来判断

他把上述年份明确当作不确定猜测，未将任务自动化等同于近期程序员职业消失。

许多人仍在为生存奔波，技术收益若能广泛分配会显著改善生活；但人类历史上的重大伤害往往来自少数人支配和剥削多数人。