Anthropic AI的首席執行官達里奧·阿莫代伊(Dario Amodei),作爲人工智能行業的知名參與者,對先進人工智能技術可能帶來的後果表達了顯著的擔憂。在最近的一次採訪中,阿莫代伊估計,人工智能技術導致災難性事件的概率高達10%到25%,這將對人類文明產生深遠影響。這些擔憂源於人工智能系統故障的可能性以及人類或組織濫用人工智能技術的潛在風險。
風險和擔憂
阿莫代伊概述了與先進人工智能相關的風險的雙重性質:
1. 人工智能技術失控:第一類風險涉及技術本身。人工智能系統變得越來越複雜,其功能中的故障或不對齊可能導致無法預見的災難性後果。
2. 人類濫用:第二類風險圍繞着人類、組織或國家濫用人工智能技術的可能性。這種濫用可能包括以引發衝突或大規模傷害的方式部署人工智能。
全球對人工智能力量的擔憂
阿莫代伊的擔憂正值全球對人工智能的力量和影響的焦慮加劇之時。OpenAI最新版本的ChatGPT的發佈展示了人工智能卓越的寫作技能,在法律和技術寫作等領域接近人類水平,但速度卻快得多。
人工智能的光明面和潛力
儘管風險巨大,阿莫代伊也強調了如果負責任地利用人工智能技術,帶來積極變革的巨大潛力。他指出,如果人工智能技術順利發展,實現其好處的概率爲75%到90%。這些好處包括治癒癌症等疾病、延長人類壽命和解決心理健康問題等雄心勃勃的目標。
然而,阿莫代伊沒有提供關於人工智能如何實現這些雄心勃勃目標的具體細節,留下了對這些願望的實際實施的猜測空間。
醫療保健中的人工智能
儘管人工智能在早期診斷一些難以檢測的疾病(如某些類型的肺癌)方面顯示出希望,但醫學專家警告不要抱有過於樂觀的期望。他們指出,人工智能的能力也可能導致過度診斷,從而可能使醫療過程變得複雜,而不是簡化。
對強有力的人工智能監管的呼籲
阿莫代伊提出的擔憂與更廣泛的人工智能社區的情緒相呼應。今年早些時候,數百名人工智能行業領導者,包括OpenAI的創始人薩姆·阿爾特曼(Sam Altman),簽署了一封公開信,呼籲對人工智能技術進行更嚴格和更全面的監管。他們的共同呼聲強調了採取主動措施以減輕與人工智能演變相關的風險並確保其發展伴隨謹慎監管的必要性。
公開信強調,先進的人工智能有潛力在地球生命史上帶來深刻變化。因此,呼籲進行徹底的規劃和警惕的管理,以防止人工智能對人類構成生存威脅。
達里奧·阿莫代伊對先進人工智能技術相關風險的坦誠評估強調了人工智能對社會潛在影響的雙重性質。雖然人工智能承諾帶來革命性的進步,但它也帶來了重大的挑戰,要求仔細考慮和主動監管。
確認10%到25%災難性結果的風險,提醒我們負責任地開發和治理人工智能的重要性。隨着人工智能技術的不斷髮展,在利用其潛力帶來好處和減輕潛在危害之間取得適當平衡,仍然是行業和整個社會亟需關注的問題。
