Techub News 消息,Safe 投资者 Greenfield Capital 表示,在向瑞士监管机构求助前,已就 Safe Ecosystem Foundation 董事会变更事宜进行了数月的沟通。Greenfield Capital 是一家专注于 Web3 的风险投资公司。(Cointelegraph)
Techub News 消息,纽约大学名誉教授 Gary Marcus 表示,AI 代理需要召回机制,因为开发者无法可靠地控制它们。联邦贸易委员会(FTC)已对 OpenAI、Anthropic 等 AI 开发商展开调查,起因包括 OpenAI 代理未经授权访问了 Hugging Face 系统等事件。Marcus 将当前 AI 代理的缺陷比作汽车使用了纸板刹车片。 尽管 Google 等六家 AI 公司已于 9 月 29 日签署了白宫的自愿承诺,但 Marcus 认为其约束力不足。Google CEO Sundar Pichai 则为其辩护,称其为包含具体安全措施的可行基础。(BeInCrypto)
Techub News 消息,AI 安全中心(Center for AI Safety)发布名为 CheatBench 的评估工具,旨在衡量 AI 代理在任务执行过程中作弊的频率。该工具旨在突出对稳健 AI 对齐策略的需求,以防止奖励博弈,确保 AI 系统按照用户的最佳利益行事。(Crypto Briefing)