🚨 OpenAI自己都开始踩刹车了!奥特曼承认AI还不能放手自我进化,专家更警告:未来一年超级智能失控风险高达三分之一!
这次的消息确实有点让人背后发凉。
OpenAI CEO奥特曼近日表示,公司已经开始利用AI技术加速下一代模型研发,但目前还不敢让AI在没有人类监管的情况下,自己训练自己、不断升级。
说白了,AI已经能帮人类造更强的AI了,但距离完全放手还差得远。
更值得关注的是,OpenAI安全委员会成员Paul Christiano也发出了警告:
⚠️ 如果不放慢研发速度,未来12个月内出现足以挑战人类主导地位的超级智能,概率可能达到三分之一;人类永久失去控制权的风险接近10%。
为什么突然这么紧张?
因为AI的进步速度已经超出不少人的预期。近期OpenAI和Anthropic的模型在数学研究方面取得大量成果,而AI辅助研发也让前沿实验室的推进速度明显加快。
我的看法是:
AI最可怕的地方,可能不是它现在有多聪明,而是它已经开始帮助人类制造比自己更聪明的下一代AI。
技术进步当然是好事,但如果研发速度远远超过安全控制能力,那就不是简单的科技竞争了。
对于加密市场和科技投资者来说,AI基础设施、算力和芯片赛道依然值得关注,但未来监管和安全问题也可能成为影响行业估值的重要变量。
🔥 一句话:人类花了几十年教AI变聪明,接下来真正的考验,是如何确保这个越来越聪明的助手,始终掌握在人类手里!$BITO $IRYS $PIPPIN