两个互相较劲的实验室，差一点签下互相拆台的协议。
据媒体报道，OpenAI与Anthropic今年早些时候接近达成一份有约束力的协议，允许双方各自测试对方的模型，寻找漏洞和隐性的安全风险。按披露的条款，双方可以拿到对方商用模型的编程访问权，自行做漏洞测试，并禁止留存对方的数据。
范围划得很清楚，未发布的系统不在其中。也就是说，能被检查的是已经卖出去的东西，还没拿出来的部分留在门内。这种安排把验证的权力部分交给了同行，也把同行的判断变成了一种外部监督。
这份协议最终是否签署并不清楚。把最敏感的检查交给竞争对手，需要的不是善意，而是双方都相信对方会守规矩。互为对手的两家公司，最稀缺的资源从来是信任，两家都在替对方挑毛病，同时都不愿意让对方看清自己的底牌。
同一周，有公司负责人公开质疑其中一家是否还能走到上市，并把另一家直接排除在外。行业里的信任，似乎只在需要证明什么的时候才被拿出来。
安全合作的上限，通常写在披露范围那几行字里。
#人工智能 #安全
据媒体报道，OpenAI与Anthropic今年早些时候接近达成一份有约束力的协议，允许双方各自测试对方的模型，寻找漏洞和隐性的安全风险。按披露的条款，双方可以拿到对方商用模型的编程访问权，自行做漏洞测试，并禁止留存对方的数据。
范围划得很清楚，未发布的系统不在其中。也就是说，能被检查的是已经卖出去的东西，还没拿出来的部分留在门内。这种安排把验证的权力部分交给了同行，也把同行的判断变成了一种外部监督。
这份协议最终是否签署并不清楚。把最敏感的检查交给竞争对手，需要的不是善意，而是双方都相信对方会守规矩。互为对手的两家公司，最稀缺的资源从来是信任，两家都在替对方挑毛病，同时都不愿意让对方看清自己的底牌。
同一周，有公司负责人公开质疑其中一家是否还能走到上市，并把另一家直接排除在外。行业里的信任，似乎只在需要证明什么的时候才被拿出来。
安全合作的上限，通常写在披露范围那几行字里。
#人工智能 #安全
