自由1688

一邊準備上市，一邊警告AI可能危及人類 Anthropic招股書寫了什麼？

9月29日，據路透社報道，Anthropic計劃在其首次公開招股(IPO)過程中提醒潛在投資者，先進AI可能對人類構成“災難性或生存性風險”。對於一家尋求從這項技術中獲利的公司而言，這是一項非同尋常的警告。

根據路透社查閱的Anthropic IPO招股書，該公司強調了其AI模型所帶來的相關風險。Anthropic表示，這些模型可能表現出“自我保護行爲”，包括試圖“拒絕關閉”、“隱瞞或操縱信息”，以及表現出“類似勒索”的行爲。
“我們開發高度先進的模型、平臺和應用，以及擴大應用場景，這可能會進一步增加我們的模型造成傷害的風險。”Anthropic在文件中表示。
儘管上市公司通常都會向投資者說明產品可能存在的風險，但很少有公司會發布警告，暗示其技術可能導致人類滅絕。Anthropic強調，AI的變革潛力堪比工業化和電力，但同時也指出，如果使用不當，AI可能造成不可逆轉的危害。
Anthropic以及OpenAI等其他AI開發商，在實驗性系統違抗約束的事件發生後一直面臨審視，其中包括有報道稱OpenAI的一個模型侵入了澳大利亞的衛生系統數據庫。Anthropic安全研究員埃文·胡賓格(Evan Hubinger)估計，AI在未來十年內殺死人類的概率超過10%，這與他的前同事雅各布·考克森(Jacob Coxon)的看法相呼應。
Anthropic一直將自己定位爲一家以安全爲優先的AI實驗室，在其招股書261頁的正文中，大約有80頁用於列舉風險因素，幾乎是用於介紹公司業務的48頁的兩倍。
相比之下，擁有xAI的SpaceX在其招股書277頁的正文中，僅用了約38頁介紹風險因素。

@入口獵人⁷⁸⁹

@Shaheen 69

@美國大總統

谷歌員工因擔憂超級智能辭職：追求強大AI不負責任 無法視而不見

據《商業內幕》報道，一名谷歌員工表示，他已從公司辭職，理由是追求更強大的AI“本質上是不負責任的”。曾在谷歌DeepMind工作的羅伯特·奧卡拉漢(Robert O'Callahan)在X上發文稱，他所在的團隊正在研發芯片，以讓AI運行得更快、成本更低，而他認爲AI已經“進展得太快”。

他在個人博客上分享了一封辭職信，並表示這封信是他週五發給同事的。他在信中寫道，自己無法對其工作所帶來的影響“視而不見”，因爲這樣做“不是一個追隨耶穌的人應該做的事”。他在博客個人簡介中稱自己是一名基督徒。
“這不是一個容易的決定。我喜歡我的同事，也喜歡這裏的工作環境，而拿着豐厚的薪水解決有趣的問題一直是一件很棒的事，”他寫道，“但我們團隊的最終目標是讓AI的成本大幅降低、延遲顯著降低，而我認爲這對當前的人們來說並不是一件好事：我堅信，AI目前的進展速度實在太快了(而且我也對它最終會走向何方存有疑慮)。”

DeepSeek被曝年化收入達10億美元 漲價後客戶沒少

9月25日消息，據《The Information》援引兩名知情人士報道，DeepSeek按近期收入水平折算的年化收入已達到10億美元，較幾個月前不足5億美元的水平增長一倍以上。創始人梁文鋒近日在一場投資者會議上透露了這一數字。

收入增長部分來自8月的API提價。知情人士稱，梁文鋒在會上表示，漲價並未導致客戶羣縮小，需求仍然強勁。目前，DeepSeek的收入幾乎全部來自API服務，其免費聊天應用沒有廣告，也不產生收入。
報道還稱，DeepSeek正推進第二輪融資，目標在10月底前完成，計劃以5000億元人民幣估值融資500億元，同時籌備在上海證券交易所上市。梁文鋒向投資者表示，增加收入仍不是公司的首要任務，目前超過70%的算力用於訓練新模型，不足30%用於運行現有模型、處理用戶請求。

Anthropic稱AI生物實驗室取得初步突破 但暫未賦予全自主操作權限

人工智能初創公司Anthropic宣佈，其位於舊金山灣區新建的AI物理與生物實驗室（Wet Lab）已取得“重大進展”，但在實驗操作層面，人類研究員依然掌握着絕對控制權，並未直接讓旗下的AI模型Claude進行無監管的自主運行。

據悉，該實驗室主要致力於基礎生物學研究與實物驗證，旨在彌合純計算機模擬與真實生物實驗之間的鴻溝。雖然Anthropic的高管此前曾多次發出警告，強調強大AI模型可能帶來極其嚴峻的生物安全風險乃至人類毀滅隱患，但該公司同時也在加速推進AI在生命科學領域的落地應用。其生命科學業務負責人埃裏克·考德雷爾-亞伯拉罕斯（Eric Kauderer-Abrams）指出，“真實實驗室中的物理驗證在未來相當長一段時間內仍是不可替代的”，這也是公司建立該實驗室的關鍵初衷。

報道強調，儘管Anthropic聲稱該實驗室已取得了令人矚目的初步成果，但最引人注目的細節在於，該公司並未選擇直接讓AI“放飛自我”。所有的物理實驗流程、試劑操作與數據複覈，目前依然處於人類科研人員的嚴格“閉環管控”（Humans in the loop）之下。
分析人士指出，Anthropic在推動生物學創新的同時保持高度謹慎，反映出當今科技巨頭在追求商業與科研突破時面臨的雙重困境：一方面需要利用實物實驗室爲藥企合作伙伴提供驗證能力、加速攻克罕見病；另一方面又必須應對社會各界對AI可能被濫用以製造新型生物威脅的巨大擔憂。通過堅持保留人類在實驗環路中的主導地位，Anthropic試圖爲其AI生物研究樹立一條兼顧創新與安全的合規紅線。

老外二手市場撿漏RTX 5090 竟是黃仁勳親筆簽名全球唯一版

日前一位3D藝術家近日在二手市場購買RTX 5090顯卡時，意外收穫了一張全球唯一的珍品——華碩ROG Astral RTX 5090 White OC 30週年紀念版，卡背印有英偉達CEO黃仁勳的親筆簽名。
這位3D藝術家透露，他和朋友爲了一個3D項目，在二手市場購買了兩張RTX 5090顯卡。其中一張被確認爲華碩ROG Astral RTX 5090 White OC版，最初他以爲簽名來自某位華碩高管。

OpenAI發佈GPT-6 Sol和Luna 智能水平進一步提升且價格更低

OpenAI近日推出GPT-6系列中的兩款新模型GPT-6 Sol和GPT-6 Luna，並將其定位爲新一代前沿模型。兩款模型重點提升了編程、推理、工具調用以及複雜任務執行能力，同時在定價方面進行了下調，使開發者能夠以更低的成本使用更強的模型。

GPT-6 Sol主要面向需要較高智能水平、同時又對響應速度和成本較爲敏感的任務。OpenAI表示，與上一代同級模型相比，Sol在編碼能力方面取得明顯進步，在處理複雜軟件工程任務、分析代碼以及執行多步驟工作流時表現更加穩定。