知名人工智能專家和公衆人物發佈聲明，警告人工智能可能對人類生存構成威脅，其風險可以與大流行病和核戰爭相媲美或甚至更大。350位簽署者認爲，人工智能可能帶來不可預見和災難性的後果，例如釋放自主武器、破壞社會和經濟系統，或創建能夠智勝並壓倒人類的超級智能代理。

他們呼籲政策制定者認真對待這些風險，並採取措施確保安全和有益的人工智能發展。該聲明由一些人工智能研究和開發領域的領先人物簽署，如 OpenAI 首席執行官 Sam Altman、Skype 聯合創始人 Jaan Tallinn、DeepMind 首席執行官 Demis Hassabis 和人工智能計算機科學家 Geoffrey Hinton，以及一些有影響力的公衆人物，如音樂家 Grimes 和播客主持人 Sam Harris。

簽署者中包括因其對深度學習的貢獻而獲得2018年圖靈獎的獲獎者：Geoffrey Hinton 和 Yoshua Bengio。他們的簽名還得到哈佛大學和中國清華大學等著名大學教授的支持，以及麻省理工學院的 Max Tegmark。

“降低人工智能帶來的滅絕風險應與其他社會規模的風險（如大流行病和核戰爭）一起成爲全球優先事項。”

CAIS 發佈的信中指出。

位於舊金山的非營利組織人工智能安全中心（CAIS）旨在解決與人工智能相關的安全問題。雖然認識到人工智能的潛在好處，CAIS 強調安全開發和使用人工智能的必要性。儘管人工智能取得了顯著進展，但公司認爲許多基本的人工智能安全挑戰仍未得到解決。根據其網站，CAIS 的使命是通過開展安全研究、促進人工智能安全研究人員的社區，並倡導安全標準來降低風險。

“人工智能有許多‘重要和緊迫的風險’，不僅僅是滅絕的風險；例如，系統性偏見、錯誤信息、惡意使用、網絡攻擊和武器化。這些都是需要解決的重要風險。社會可以同時管理多種風險；這不是‘要麼/或者’而是‘是/和’。從風險管理的角度來看，優先考慮當前的危害是魯莽的，忽視它們也是魯莽的。”

CAIS 的主任 Dan Hendrycks 在推特上寫道。

在三月，超過1100名科技專家簽署了一封公開信，要求暫停超過 GPT-4 的人工智能系統訓練六個月。歐洲立法者最近也批准了更嚴格的草案立法，稱爲人工智能法案，規範 ChatGPT 等人工智能工具。該法案包括安全檢查、數據治理和基礎人工智能模型的風險緩解要求，並禁止操控技術和某些生物識別的使用等做法。

閱讀更多：

• OpenAI 揭示其確保人工智能安全的最新方法

• 谷歌會宣佈一款爲遊戲玩家提供的文本到頭像生成器嗎？

• 亞馬遜的 CodeWhisperer 爲開發人員在人工智能領域提供了所需的優勢

• Vitalik Buterin 和 MIRI 主任 Nate Soares 探討人工智能的危險

《人工智能專家和公衆人物對人工智能滅絕風險發出警告》一文最早出現在 Metaverse Post。