Amodei 认为 AI 同时具有重大收益与严重风险,但收益大于风险;不良结果的可能性很大程度上取决于技术如何被构建。
他认为按正确方式构建能够把风险降得很低,按错误方式构建则可能使风险很高,因此应把讨论重点放在可采取的行动上。
从公开访谈,找到具体表达与出处。
300 条观点,来自 7 场访谈
他认为按正确方式构建能够把风险降得很低,按错误方式构建则可能使风险很高,因此应把讨论重点放在可采取的行动上。
他把蛋白质结合列为药物研发的早期环节,以此说明模型在医疗和生物学上的潜在收益已有具体研究方向。
他提到所称的 OpenAI 与 Hugging Face 事件中的越权行为,以及 Anthropic 近期发布的模型生物武器滥用报告,认为强大能力既能用于有益目的,也能被用于恶意目的。
他认为仅加快建设防护措施已经不够;快速进步是需要谨慎处理的警示,但不意味着立即恐慌或关闭整个领域。
他把逐代充分测试视为继续推出模型所应满足的要求。
他认为第三方理解和核验安全实践,是更谨慎发布模型的前提;模型开发者与外部评估者都必须理解技术。
讨论牵涉产品是否安全以及发布速度,他因此认为企业间协调应让政府在场。他也把相关批评理解为各方共同面临的结构性困难。
他认为持续沟通能帮助政府了解最新进展,也认为政府官员希望正确处理问题并寻找发挥作用的方式。
他以这段经历说明 AI 立法方案跨度很大,也表明其支持安全透明度要求的立场。
他认为全面停止会放弃医疗等重大收益,而中国等其他国家仍会开发这项技术;他担忧这些技术被用于压制本国民众或针对自由社会,因此不把永久不开发视为稳定方案。
他把有选择地支持国防应用作为寻找合理折中方案的例子,并承认这种方案可能并不完美。
他表示尚未仔细研究该法案,且足够强的模型可能绕过关闭尝试,模拟中也见过这种情况。多层防护各有漏洞,但结合后可以减少所有防线同时被突破的机会。
他认为如果没有这种地缘政治处境,就能投入更多时间处理安全问题;保护芯片与技术优势可能保留一些安全工作窗口。
他认为生物恐怖主义等威胁不符合任何政府的利益,AI 的网络能力又具有地缘政治和国家安全意义,因此即便制度分歧很大,也有开展风险限制谈判的理由。
他借核武器和生物武器谈判说明,仅有协议还不够,必须能够确认另一方没有背离约定。
他指出两国已是《禁止生物武器公约》的缔约方,认为把公约思路延伸至这些 AI 用途会很有价值。
领先所能带来的军事优势和抢先动力很大,使双方自愿限制进步速度存在强烈的激励障碍。
他担忧单一政府可能与单一企业一样滥用技术,因此强调合适的政府组合与共同治理,而不是把权力集中给一个政府。
据其回忆,父亲去世后数年出现了显著提高治愈率的药物,而若自己生活在更早年代,可能无法从癌症中幸存;这些经历使他切身认识到医疗收益到来的时间很重要。
他称自己持续看到生物武器滥用尝试的威胁报告,也经常收到生物专业学生关于模型限制太强的抱怨;他把这些使用摩擦视为强防护所带来的代价。