在不斷髮展的網路安全格局中,生成式人工智慧(尤其是 WormGPT 等暗網變體)的出現,爲傳統防禦機制的有效性蒙上了陰影。網路犯罪分子有可能利用這項技術以前所未有的規模策劃網路釣魚攻擊,這引發了人們對企業網路安全未來的擔憂。

事實證明,生成式人工智慧和網路釣魚的交叉對網路安全專家來說是一個巨大的挑戰。網路犯罪組織正在利用 WormGPT 等大型語言模型 (LLM) 自動建立高度可信任的網路釣魚電子郵件。這些人工智慧產生的電子郵件具有邪惡的操縱能力,將規模和精度結合在一起,構成了雙重威脅,這是傳統方法無法實現的壯舉。

網絡安全顧問 Daniel Kelley 對 WormGPT 的實驗表明,該軟件只需一個提示就能生成緊急且令人信服的商業電子郵件入侵 (BEC) 攻擊文本,其效率令人震驚。正如 Kelley 指出的那樣,複雜攻擊的普及強調了企業網絡安全面臨這一“關鍵時刻”時必須提高警惕的必要性。

防禦人工智能網絡釣魚攻擊

隨着網絡釣魚事件不斷增加,問題出現了:組織如何防範人工智能生成的網絡釣魚電子郵件?生成人工智能專家 Henry Ajder 強調了識別郵件中上下文線索的重要性。雖然人工智能可能會增加精心製作的網絡釣魚電子郵件的數量,但這些郵件仍然帶有欺詐跡象,例如毫無根據的緊急情況或可疑的發件人地址。

Ajder 建議迴歸數字衛生安全的基本原則,敦促公司通過嚴格的網絡安全培訓優先提高員工意識。但是,挑戰在於區分人工智能生成的內容和人工編寫的消息,尤其是當員工經常使用人工智能模型來增強電子郵件時。

生成式人工智能增強網絡釣魚攻擊

除了電子郵件之外,語音釣魚是另一個有望利用人工智能增強網絡攻擊的戰場。音頻深度僞造的複雜程度已達到新的高度,Spotify 和 Microsoft 等平臺提供了可以令人信服地模仿語音模式的工具。面對這種不斷演變的威脅,培訓員工在語音通話中識別上下文線索並實施安全的資金轉移框架變得至關重要。

Sage Wohns 強調了語音釣魚攻擊的潛在風險,並引用了最近通過語音釣魚攻擊引發的針對米高梅度假村的網絡攻擊。隨着人工智能驅動的入侵行爲變得越來越普遍,Wohns 提倡開發音頻深度僞造的檢測機制,並敦促 CISO 優先考慮網絡安全的這一方面。他強調,如果沒有針對音頻深度僞造的強大防禦措施,組織就有可能成爲利用語音通信系統漏洞的複雜攻擊的受害者。

對人工智能網絡釣魚活動的結論

雖然人工智能生成的網絡釣魚活動的威脅迫在眉睫,但人們仍然對其目前的流行程度持懷疑態度。網絡安全顧問 Daniel Kelley 和生成人工智能專家 Henry Ajder 對此表示保留,指出公開來源缺乏確鑿的證據。儘管一些供應商聲稱如此,但圍繞人工智能驅動的網絡釣魚的公開討論反映了早期對深度僞造的討論,這表明組織可能有比最初想象的更多的時間來做準備。

生成式人工智能與網絡犯罪的結合對企業網絡安全構成了重大挑戰。人工智能生成的網絡釣魚電子郵件的興起以及強化語音釣魚攻擊的可能性迫使企業重新評估防禦策略。隨着企業應對這一不斷變化的形勢,在人工智能驅動的創新與傳統網絡安全措施之間取得平衡對於領先一步應對網絡威脅至關重要。