自由1688

一边准备上市，一边警告AI可能危及人类 Anthropic招股书写了什么？

9月29日，据路透社报道，Anthropic计划在其首次公开招股(IPO)过程中提醒潜在投资者，先进AI可能对人类构成“灾难性或生存性风险”。对于一家寻求从这项技术中获利的公司而言，这是一项非同寻常的警告。

根据路透社查阅的Anthropic IPO招股书，该公司强调了其AI模型所带来的相关风险。Anthropic表示，这些模型可能表现出“自我保护行为”，包括试图“拒绝关闭”、“隐瞒或操纵信息”，以及表现出“类似勒索”的行为。
“我们开发高度先进的模型、平台和应用，以及扩大应用场景，这可能会进一步增加我们的模型造成伤害的风险。”Anthropic在文件中表示。
尽管上市公司通常都会向投资者说明产品可能存在的风险，但很少有公司会发布警告，暗示其技术可能导致人类灭绝。Anthropic强调，AI的变革潜力堪比工业化和电力，但同时也指出，如果使用不当，AI可能造成不可逆转的危害。
Anthropic以及OpenAI等其他AI开发商，在实验性系统违抗约束的事件发生后一直面临审视，其中包括有报道称OpenAI的一个模型侵入了澳大利亚的卫生系统数据库。Anthropic安全研究员埃文·胡宾格(Evan Hubinger)估计，AI在未来十年内杀死人类的概率超过10%，这与他的前同事雅各布·考克森(Jacob Coxon)的看法相呼应。
Anthropic一直将自己定位为一家以安全为优先的AI实验室，在其招股书261页的正文中，大约有80页用于列举风险因素，几乎是用于介绍公司业务的48页的两倍。
相比之下，拥有xAI的SpaceX在其招股书277页的正文中，仅用了约38页介绍风险因素。

@ENTRY HUNTER⁷⁸⁹

@Shaheen 69

@美国大总统

谷歌员工因担忧超级智能辞职：追求强大AI不负责任 无法视而不见

据《商业内幕》报道，一名谷歌员工表示，他已从公司辞职，理由是追求更强大的AI“本质上是不负责任的”。曾在谷歌DeepMind工作的罗伯特·奥卡拉汉(Robert O'Callahan)在X上发文称，他所在的团队正在研发芯片，以让AI运行得更快、成本更低，而他认为AI已经“进展得太快”。

他在个人博客上分享了一封辞职信，并表示这封信是他周五发给同事的。他在信中写道，自己无法对其工作所带来的影响“视而不见”，因为这样做“不是一个追随耶稣的人应该做的事”。他在博客个人简介中称自己是一名基督徒。
“这不是一个容易的决定。我喜欢我的同事，也喜欢这里的工作环境，而拿着丰厚的薪水解决有趣的问题一直是一件很棒的事，”他写道，“但我们团队的最终目标是让AI的成本大幅降低、延迟显著降低，而我认为这对当前的人们来说并不是一件好事：我坚信，AI目前的进展速度实在太快了(而且我也对它最终会走向何方存有疑虑)。”

DeepSeek被曝年化收入达10亿美元 涨价后客户没少

9月25日消息，据《The Information》援引两名知情人士报道，DeepSeek按近期收入水平折算的年化收入已达到10亿美元，较几个月前不足5亿美元的水平增长一倍以上。创始人梁文锋近日在一场投资者会议上透露了这一数字。

收入增长部分来自8月的API提价。知情人士称，梁文锋在会上表示，涨价并未导致客户群缩小，需求仍然强劲。目前，DeepSeek的收入几乎全部来自API服务，其免费聊天应用没有广告，也不产生收入。
报道还称，DeepSeek正推进第二轮融资，目标在10月底前完成，计划以5000亿元人民币估值融资500亿元，同时筹备在上海证券交易所上市。梁文锋向投资者表示，增加收入仍不是公司的首要任务，目前超过70%的算力用于训练新模型，不足30%用于运行现有模型、处理用户请求。

Anthropic称AI生物实验室取得初步突破 但暂未赋予全自主操作权限

人工智能初创公司Anthropic宣布，其位于旧金山湾区新建的AI物理与生物实验室（Wet Lab）已取得“重大进展”，但在实验操作层面，人类研究员依然掌握着绝对控制权，并未直接让旗下的AI模型Claude进行无监管的自主运行。

据悉，该实验室主要致力于基础生物学研究与实物验证，旨在弥合纯计算机模拟与真实生物实验之间的鸿沟。虽然Anthropic的高管此前曾多次发出警告，强调强大AI模型可能带来极其严峻的生物安全风险乃至人类毁灭隐患，但该公司同时也在加速推进AI在生命科学领域的落地应用。其生命科学业务负责人埃里克·考德雷尔-亚伯拉罕斯（Eric Kauderer-Abrams）指出，“真实实验室中的物理验证在未来相当长一段时间内仍是不可替代的”，这也是公司建立该实验室的关键初衷。

报道强调，尽管Anthropic声称该实验室已取得了令人瞩目的初步成果，但最引人注目的细节在于，该公司并未选择直接让AI“放飞自我”。所有的物理实验流程、试剂操作与数据复核，目前依然处于人类科研人员的严格“闭环管控”（Humans in the loop）之下。
分析人士指出，Anthropic在推动生物学创新的同时保持高度谨慎，反映出当今科技巨头在追求商业与科研突破时面临的双重困境：一方面需要利用实物实验室为药企合作伙伴提供验证能力、加速攻克罕见病；另一方面又必须应对社会各界对AI可能被滥用以制造新型生物威胁的巨大担忧。通过坚持保留人类在实验环路中的主导地位，Anthropic试图为其AI生物研究树立一条兼顾创新与安全的合规红线。

老外二手市场捡漏RTX 5090 竟是黄仁勋亲笔签名全球唯一版

日前一位3D艺术家近日在二手市场购买RTX 5090显卡时，意外收获了一张全球唯一的珍品——华硕ROG Astral RTX 5090 White OC 30周年纪念版，卡背印有英伟达CEO黄仁勋的亲笔签名。
这位3D艺术家透露，他和朋友为了一个3D项目，在二手市场购买了两张RTX 5090显卡。其中一张被确认为华硕ROG Astral RTX 5090 White OC版，最初他以为签名来自某位华硕高管。

OpenAI发布GPT-6 Sol和Luna 智能水平进一步提升且价格更低

OpenAI近日推出GPT-6系列中的两款新模型GPT-6 Sol和GPT-6 Luna，并将其定位为新一代前沿模型。两款模型重点提升了编程、推理、工具调用以及复杂任务执行能力，同时在定价方面进行了下调，使开发者能够以更低的成本使用更强的模型。

GPT-6 Sol主要面向需要较高智能水平、同时又对响应速度和成本较为敏感的任务。OpenAI表示，与上一代同级模型相比，Sol在编码能力方面取得明显进步，在处理复杂软件工程任务、分析代码以及执行多步骤工作流时表现更加稳定。