NCC Group 最近發布的一份報告對人工智慧 (AI) 和網路安全的交叉點進行了仔細審查，揭示了生成式 AI 在程式碼漏洞檢測方面的前景和局限性。該報告題為“安全、安保、隱私和提示：人工智慧時代的網路彈性”，對各種人工智慧網路安全用例進行了全面分析。

生成式人工智慧和程式碼漏洞

2022 年底，生成式 AI 技術的爆炸性成長引發了對其對網路安全影響的討論和擔憂。本次討論的一個焦點是產生式人工智慧聊天機器人帶來的潛在安全風險。這些風險包括無意中暴露敏感商業訊息，以及惡意行為者利用這些先進的自學習演算法來加強網路攻擊的可能性。

該報告感興趣的主要領域之一是使用生成式人工智慧聊天機器人進行程式碼漏洞評估的可行性。這些人工智慧系統在提供原始程式碼後能否進行互動式靜態分析並準確找出安全漏洞？該報告的調查結果顯示出好壞參半的結果。雖然生成式人工智慧在程式碼和軟體開發方面顯示出了前景並提高了生產力，但其檢測程式碼漏洞的有效性仍然存在變化。

另一方面，該報告強調了機器學習（ML）模型在網路安全領域的前景廣闊的應用。具體來說，機器學習模型有助於識別新型零日攻擊，從而實現自動回應以保護使用者免受惡意檔案的侵害。為了驗證這個概念，NCC 集團資助倫敦大學學院資料密集型科學博士培訓中心 (CDT DIS) 的碩士生開發用於識別惡意軟體的分類模型。

這項努力的結果是引人注目的。分類模型的準確率達到了 98.9%，令人印象深刻。這項成功凸顯了機器學習模型透過快速識別和緩解新出現的威脅來增強網路安全防禦的潛力。

透過人工智慧利用威脅情報

報告探討的另一個關鍵面向圍繞著威脅情報，這是主動網路安全的關鍵組成部分。威脅情報涉及對各種線上資料來源的持續監控，這些資料來源為新發現的漏洞、不斷演變的漏洞利用以及攻擊者行為的新興趨勢提供了寶貴的見解。這些資料通常以來自論壇、社群媒體和暗網的非結構化文字形式存在，可以成為資訊的金礦。

機器學習模型在處理這些資料、提取關鍵網路安全細微差別以及識別攻擊者策略、技術和程序 (TTP) 的模式和趨勢方面可以發揮至關重要的作用。有了這些見解，防禦者可以採取主動和先發製人的方法來實施額外的監控或控制系統，特別是當新威脅對其業務或技術環境構成重大風險時。

在科技快速進步的時代，人工智慧在網路安全中的作用不斷發展。雖然生成式人工智慧聊天機器人在程式碼開發的某些方面提供了希望，但它們檢測漏洞的可靠性仍然是一個持續探索的問題。另一方面，機器學習模型在識別和應對新型網路威脅方面表現出很高的潛力，使其成為防御者武器庫中的寶貴資產。

至關重要的是要承認網路安全中的人工智慧並不是萬能的解決方案。相反，它補充了人類的專業知識和警覺性。人類網路安全專業人員和人工智慧系統之間的合作對於在利用自動化的力量和維持應對不斷變化的威脅情勢所需的關鍵人類監督之間取得平衡至關重要。