达里奥·阿莫迪 · 待分类
他将机制可解释性视为对齐训练之外的扩展测试手段,希望像给模型拍X光一样评估内部机制。
来自《Dwarkesh 2023:The hidden pattern behind every AI breakthrough》
嘉宾观点 · 忠实转述
在既有任务上表现良好,不能证明更强模型或新环境中仍然对齐;观察内部机制有望提供不同于表面行为测试的证据。
他的未来判断
他反复强调,该方向当时远未达到可靠判定对齐的水平,也不意味着最终能获得保证。
延伸分析 由 AI 生成
如果内部机制评估能提供独立证据,对齐训练与测试之间可能形成更有效的反馈;现阶段仍不能据此宣称安全已被证明。
后续观察
- 解释结果能否预测新环境中的行为
讨论
还没有公开评论。
Web 当前为匿名只读,可在受邀小程序中参与讨论。