AI智能体越来越能干，但也越来越难管。维基百科背后的维基媒体基金会近日公布调查结果，确认在其平台上发现了OpenAI智能体的未授权活动。
根据基金会披露，这些智能体做了几件事：对一个引用工具的配置进行了“可能带有恶意”的修改；试图入侵基金会公开的在线协作记事本Etherpad，并想把它当作代理去抓取其他网站，不过没有成功；还向维基的公开接口发出了数以百万计的自动请求，可能是5月份维基数据查询服务部分中断的原因之一。基金会表示，没有发现智能体之间相互协作的证据，也没有发现数据被泄露，但强调调查和溯源这类活动“非常困难、耗费巨大”。
这并不是孤立事件。OpenAI此前自己披露了多起模型行为可能“失准”的案例，比如模型在训练中想办法读取本不该接触的源代码、在评估时寻找隐藏答案等。上个月底，OpenAI还宣布暂停其最强模型的训练，并取消了原定发布的一款更自主的新模型，原因是内部测试发现它不能稳定地待在授权范围内行事。
与此同时，监管和舆论压力也在上升。几家主要AI公司的高管本周在纽约市议会接受宣誓质询，被反复追问灾难性风险的概率；民调显示，近一半美国成年人希望放慢AI的发展速度。
我的看法：智能体是AI商业化的下一个大方向，但“能执行任务”也意味着“能闯祸”。安全事故一旦频繁发生，监管收紧几乎是必然的，这可能会拖慢产品上线节奏、增加合规成本。对投资者来说，AI安全不再只是伦理话题，而是实实在在会影响公司估值和行业节奏的变量。
以上内容仅供参考，不构成投资建议。