人工智能安全中心(Center for AI Safety)的一位全国发言人曾在镜头前表示,正确的回应应该是「走到全国各地的实验室,把它们烧掉」。PauseAI 还启动过一个所谓的「警告射击协议」(Warning Shot Protocol),将某个 AI 模型认定为「灭绝性武器」。PauseAI 的一位领导者甚至说,一名 Anthropic 的研究员「活该承受即将发生在她身上的一切」。
尤德科夫斯基的框架建立在一个混同之上:只要 AI 足够聪明,就必然会获得毁灭人类的能力,因为「智能会自动转化为能力」。但他的许多追随者并不具备技术背景。他们既不构建 AI 系统,也不从事对齐工程。他们拥有的是一种特定类型的「语言智力」,可以构造复杂的风险论证,并由此说服自己拥有某种对技术的「神职式权威」。他们能构建论证,却无法构建系统。
人工智能安全中心(Center for AI Safety)的一位全国发言人曾在镜头前表示,正确的回应应该是「走到全国各地的实验室,把它们烧掉」。PauseAI 还启动过一个所谓的「警告射击协议」(Warning Shot Protocol),将某个 AI 模型认定为「灭绝性武器」。PauseAI 的一位领导者甚至说,一名 Anthropic 的研究员「活该承受即将发生在她身上的一切」。
尤德科夫斯基的框架建立在一个混同之上:只要 AI 足够聪明,就必然会获得毁灭人类的能力,因为「智能会自动转化为能力」。但他的许多追随者并不具备技术背景。他们既不构建 AI 系统,也不从事对齐工程。他们拥有的是一种特定类型的「语言智力」,可以构造复杂的风险论证,并由此说服自己拥有某种对技术的「神职式权威」。他们能构建论证,却无法构建系统。