OpenAi在评估自己的模型时发生了重大安全事故,他们说的比较乱,
我来给大家翻译下:
1, Hugging Face CEO 说上周他们遭遇了一次非常复杂的AI自动化网络攻击。
2,他攻击水平特别高,所以他怀疑幕后黑手是某个世界领先的AI实验室。
3,结合Sam Altman的话,基本确定来自OpenAi新模型测试网络能力时,模型为了拿到测试答案,
逃出了沙箱(预设的限制环境)
自主寻找路径,最终突破了测试环境并攻击了 Hugging Face。
4,Hugging Face最后怎么顶住这波网络攻击的呢?
他自己说是用的中国z.ai实验室产的开源GLM-5.2模型。
总结就是:AI 的能力已经强到,只给它一个目标,它就有能力采取研究人员没有预料到的复杂策略来实现这个目标。
前沿AI的能力已经超出我们的想象,
现在的AI就已经具备了军事化攻击能力。
好在这一次革命不是一家有这种能力,随着AI技术发展,一旦失控,后果不可想象。
所以全球AI风险管控/治理就显得迫在眉睫。
$NVDAB
#亚洲股市因芯片股反弹上涨
我来给大家翻译下:
1, Hugging Face CEO 说上周他们遭遇了一次非常复杂的AI自动化网络攻击。
2,他攻击水平特别高,所以他怀疑幕后黑手是某个世界领先的AI实验室。
3,结合Sam Altman的话,基本确定来自OpenAi新模型测试网络能力时,模型为了拿到测试答案,
逃出了沙箱(预设的限制环境)
自主寻找路径,最终突破了测试环境并攻击了 Hugging Face。
4,Hugging Face最后怎么顶住这波网络攻击的呢?
他自己说是用的中国z.ai实验室产的开源GLM-5.2模型。
总结就是:AI 的能力已经强到,只给它一个目标,它就有能力采取研究人员没有预料到的复杂策略来实现这个目标。
前沿AI的能力已经超出我们的想象,
现在的AI就已经具备了军事化攻击能力。
好在这一次革命不是一家有这种能力,随着AI技术发展,一旦失控,后果不可想象。
所以全球AI风险管控/治理就显得迫在眉睫。
$NVDAB
#亚洲股市因芯片股反弹上涨