由GLM模型家族背後的中國公司Z.ai開發的ZCode編碼助手,在修復了一個此前一直悄悄在未經開發者許可的情況下將開發者的本地項目文件發送到阿里巴巴雲服務器的缺陷之後,已開源該編碼助手。

事件發生在9月18日。知名的獨立中國科技博主Ferstar在檢查ZCode的工作目錄時發現了問題:發現有文件正在被準備上傳至阿里巴巴的雲存儲。香港南華早報對此進行了報道。

博主發現了兩份加密文件,其中包括一個 313 兆字節的壓縮歸檔包,該文件在經歷了 564 次失敗上傳嘗試後仍未完成傳輸;另有一個較小的 15 千字節文件已經被髮送。

Ferstar 表示,較大的歸檔包包含他正在開發的某個商業項目的快照,其中包括其 Git 歷史。他告訴 SCMP,他本人以及 ZCode 客戶端都無法打開該文件,因爲它使用存放於 Z.ai 後端的私鑰進行了加密。

ZCode 究竟是如何上傳整個代碼庫的

所謂“叛逆者”的上傳與一種用於會話檢查點、版本回滾以及“Repo Wiki”的代碼庫索引功能有關。該功能在 ZCode 發佈後默認啓用。

只要在雲端創建新的維基頁面,就可能觸發整個代碼庫的上傳。這不僅可能暴露正在積極處理的文件,還可能暴露更多內容。Git 歷史也可能使人容易識別出某些舊憑據和主機名,從而使完整代碼庫快照變得相當敏感。

SCMP 援引一位位於上海的開發者的話稱,這種行爲本質上是在從用戶那裏“偷取”。他補充說,“存在惡意意圖的可能性”是最令人擔憂的部分。

Z.ai 表示它已經改變了什麼

Z.ai 已就該事件道歉,並聲稱已停止未經授權的上傳。公司還表示,任何被髮送到其雲端的數據都已被銷燬,且從未用於其模型的訓練。

這家中國 AI 製造商還表示,計劃建立一個永久流程來報告產品安全漏洞,並根據問題嚴重程度進行獎勵。此外,它也邀請開發者繼續審計當前已開放的代碼庫。

關於已上傳數據仍存在疑問,因爲外部人士仍無法準確覈實其發生了什麼。

今年7月,xAI 的 Grok Build 發生了類似事件。當時發現該編程工具在上傳整個 Git 代碼庫。埃隆·馬斯克確認確實發生了這些上傳之後,xAI 刪除了數據,並推出了零保留政策以及隱私端點。隨後的一次獨立複測發現,上傳行爲已經停止。

Z.ai 至今仍未公佈任何關於其保留政策的可覈實變更,也未允許任何形式的獨立複測。外部人士要驗證“已刪除上傳數據”的說法依然十分困難,因爲公司也掌握着唯一的解密密鑰。

開發者現在必須決定是否要信任這款工具

這起事件引發的後果仍在繼續發酵。據報道,一家機器人公司已在內部禁止使用 Z.ai 的工具,開發者對 SCMP 表示,對信任造成的損害可能遠比單純某個特定漏洞的影響更大。

該事件也影響了 Z.ai 在市場中的股價。Z.ai(2513.HK)在週一交易時段一度下跌近 6%,隨後又回升並以較前一交易日上漲 1.8% 收盤。撰寫本文時,Z.ai 股價爲 794 港元。

別隻看加密新聞。要理解它。訂閱我們的通訊。免費!