Dario的发言，听起来有点恐怖😱
他提出预警
6–12个月内，存在失调问题的AI代理集群，有可能接管互联网大部分区域，形成持久僵尸网络，带来数千亿美元损失。
他还提到，这类轻度失控行为，在行业内包括Anthropic内部已经出现。
但他同样保持乐观判断
5到10年，AI有望攻克大多数重大疾病，拉动经济大幅增长，迎来物质丰裕时代。
所以他的核心主张是，适当放缓前沿AI研发速度，让安全方案跟上模型迭代的脚步。
风险和巨大机遇并存，这也是当下AI行业最真实的矛盾。
#AI #AI安全 #大模型 #人工智能
他提出预警
6–12个月内，存在失调问题的AI代理集群，有可能接管互联网大部分区域，形成持久僵尸网络，带来数千亿美元损失。
他还提到，这类轻度失控行为，在行业内包括Anthropic内部已经出现。
但他同样保持乐观判断
5到10年，AI有望攻克大多数重大疾病，拉动经济大幅增长，迎来物质丰裕时代。
所以他的核心主张是，适当放缓前沿AI研发速度，让安全方案跟上模型迭代的脚步。
风险和巨大机遇并存，这也是当下AI行业最真实的矛盾。
#AI #AI安全 #大模型 #人工智能