人工智能領導者在公開信中發出“滅絕風險”警告

人工智能安全中心（CAIS）最近發佈了一份由人工智能領域知名人士簽署的聲明，強調該技術對人類構成的潛在危險。

聲明指出，“減輕人工智能造成的滅絕風險應該成爲全球優先事項，同時還要應對流行病和核戰爭等其他社會規模的風險。”

包括 Geoffery Hinton 和 Yoshua Bengio 在內的知名研究人員和圖靈獎獲得者，以及 Sam Altman、Ilya Sutskever 和 Demis Hassabis 等 OpenAI 和 DeepMind 的高管都簽署了該聲明。

CAIS 公開信的目的是引發有關人工智能相關緊急風險的討論。這封信在業界贏得了支持和批評。此前，埃隆·馬斯克、史蒂夫·沃茲尼亞克和其他 1000 多名專家簽署了一封公開信，呼籲停止“失控”的人工智能發展。

儘管聲明簡短，但最近的聲明並未提供有關人工智能定義的具體細節，也沒有提供降低風險的具體策略。不過，CAIS 在一份新聞稿中澄清說，其目標是建立有效管理人工智能風險的保障措施和機構。

OpenAI 首席執行官 Sam Altman 一直積極與全球領導人接觸，倡導制定人工智能法規。在最近一次出席參議院會議期間，Altman 多次敦促立法者對該行業進行嚴格監管。CAIS 的聲明與他提高人們對人工智能危險性的認識的努力一致。

雖然這封公開信引起了關注，但一些人工智能倫理專家對發表此類聲明的趨勢提出了批評。

機器學習研究科學家 Sasha Luccioni 博士建議，在提及流行病和氣候變化等有形成果的風險的同時提及假設的人工智能風險，可以增強前者的可信度，同時轉移人們對偏見、法律挑戰和同意等眼前問題的注意力。

作家兼未來學家丹尼爾·傑弗里斯 (Daniel Jeffries) 認爲，討論人工智能風險已經成爲一場地位遊戲，個人會盲目跟風而不必承擔任何實際成本。

批評人士認爲，簽署有關未來威脅的公開信可以讓那些對當前人工智能危害負責的人減輕罪責，同時忽視已經在使用的人工智能技術所帶來的道德問題。

然而，總部位於舊金山的非營利組織 CAIS 仍然致力於通過技術研究和宣傳來降低人工智能帶來的社會風險。該組織由具有計算機科學背景並對人工智能安全有着濃厚興趣的專家共同創立。

雖然一些研究人員擔心超級人工智能的出現會超越人類的能力並構成生存威脅，但另一些人則認爲，簽署有關假設的世界末日情景的公開信會轉移人們對人工智能現有道德困境的注意力。他們強調需要解決人工智能目前帶來的實際問題，例如監視、有偏見的算法和侵犯人權。

平衡人工智能的發展與負責任的實施和監管仍然是研究人員、政策制定者和行業領袖面臨的一項關鍵任務。