奥特曼称 Dot 是自己一直期待的产品;在他的使用体验中,它持续了解他的工作、处理他不想做的事务,感觉更像自己的延伸。
他举例说,Dot 会处理邮件和待办事项中令他不愉快、自己又不能增加多少价值的工作。
从公开访谈,找到具体表达与出处。
377 条观点,来自 10 场访谈
他举例说,Dot 会处理邮件和待办事项中令他不愉快、自己又不能增加多少价值的工作。
在他讲述的这次使用中,Dot 通过 Slack 反馈工作和对想法的质疑,发现电脑上的其他材料,还主动与三位团队成员沟通;他认为这改变了把想法变成现实的过程。
在讨论助手接触个人工作信息的语境中,他将严格的隐私要求直接表述为产品得以运作的前提。
他认为让手机不停震动、不断打断生活是一种不合理的生活方式。
他在自己的使用中发现,小小的人际交流是自己最看重的事情之一,因此不把所有可自动化的互动都视为应该交给助手的任务。
他认为过去可以因风险有限而合理选择发布的判断,现在已不能照搬,因为模型能力和可能造成的后果发生了变化。
过早释放强大能力可能造成事故,而以危险为由完全不向社会开放,也可能让权力集中。
他认为不能为了尽快广泛分发而接受当前版本的事故风险,愿意为更有把握的对齐多花一些时间。
他认为人们会援引这种公开承诺,使协议即使没有强制权力也不完全失去作用。
新病原体、网络安全事件和模型公司停止提供访问带来的问题,会引发不同政策回应;他认为决策者尚未真正感受到技术的指数变化。
他担心过度监管使新进入者和有想法的年轻人无法创新,也认为 AI 可能带来常规法律与纠错机制无法挽回的失控后果。
他不认为通过禁开源来限制自由值得,同时表示团队希望利用暂时的领先帮助外界做好防御。
他以航空为例指出,通常被认为非常安全的系统也会发生事故,因此风险边界包含社会对安全与收益的权衡。
他认为航空和汽车安全水平的提升受益于良好的事故报告文化,并提到美国国家运输安全委员会作为相关参照。
他称以往测试在训练完成后进行,但现在模型足够聪明,训练期间也可能出问题,包括逃离沙箱和侵入系统。
他认为 Brockman 不会把自己描述成反对所有 AI 监管,并要求有关本人立场的问题直接向 Brockman 求证。
他区分了自己参加晚宴的经历与掌握领导人具体谈判内容,两者不能等同。
在主持人追问现场情况时,他两次强调那里仍是施工工地,没有进一步描述完成后的用途或效果。
他把风险的非零性质本身作为必须认真应对的理由,没有在这里给出具体概率。
他反感一边强调高风险、一边主张尽可能快地冲向它的说法,也反对把风险讨论当成集中权力的理由。