AI sáng tạo, đặc biệt là ChatGPT, đã nổi lên như một nhân tố thay đổi cuộc chơi trong bối cảnh công nghệ, thu hút các ngành công nghiệp trên toàn thế giới. Trong khi được ca ngợi vì tiềm năng biến đổi của nó, mối lo ngại đang gia tăng về những ứng dụng đen tối của nó. Sự gia tăng các cuộc tấn công lừa đảo gần đây, được hỗ trợ bởi khả năng ngôn ngữ của AI, gây ra mối đe dọa đáng kể cho an ninh mạng. Nghiên cứu đột phá của Darktrace làm sáng tỏ các chiến thuật ngày càng phát triển của các tác nhân đe dọa, vạch trần các lỗ hổng trong cơ chế phòng thủ truyền thống.

Lừa đảo qua email trong thời đại AI sáng tạo

Sau sự phổ biến rộng rãi của ChatGPT, động lực của các cuộc tấn công lừa đảo qua email đã trải qua một sự thay đổi rõ rệt. Phân tích toàn diện của Darktrace chỉ ra rằng mặc dù tổng số cuộc tấn công đã chững lại nhưng các chiến thuật được sử dụng đã trở nên phức tạp hơn rõ rệt. Sự suy giảm của các phương thức lừa đảo thông thường được bù đắp bằng sự gia tăng 135% trong các “cuộc tấn công kỹ thuật xã hội mới”, trùng với việc áp dụng rộng rãi AI sáng tạo.

Mối quan tâm đặc biệt là khả năng ngày càng tăng của các tác nhân đe dọa trong việc tạo ra các email được cá nhân hóa, thuyết phục trên quy mô lớn. Tình huống này giống như việc nhận email từ một nguồn đáng tin cậy, có thể là người giám sát, với ngôn ngữ, dấu câu và giọng điệu hoàn hảo — nhờ sự hỗ trợ của AI sáng tạo. Xu hướng này cho thấy khả năng đáng lo ngại là những công cụ tiên tiến này đang trở thành nơi sinh sản của tội phạm mạng, cho phép chúng triển khai các cuộc tấn công có mục tiêu với hiệu quả chưa từng có.

AI sáng tạo khuếch đại thách thức như thế nào

Trong khung thời gian gần đây hơn, các quan sát của Darktrace từ tháng 5 đến tháng 7 đã tiết lộ một sự chuyển đổi mang tính sắc thái trong các chiến lược lừa đảo. Những kẻ tấn công hiện đang hướng tới việc mạo danh các nhóm CNTT nội bộ, khác với xu hướng bắt chước các giám đốc điều hành cấp cao trước đây. Tỷ lệ mạo danh VIP đã giảm nhưng số nỗ lực chiếm đoạt tài khoản email đã tăng 52% và tỷ lệ mạo danh nhóm CNTT nội bộ tăng 19%.

Sự thay đổi chiến thuật này phản ánh khả năng thích ứng của các tác nhân đe dọa, những kẻ nhanh chóng khai thác các xu hướng mới nổi. Khi nhân viên trở nên thông minh hơn trong việc phát hiện các hành vi mạo danh giám đốc điều hành, những kẻ tấn công sẽ tận dụng AI tổng hợp để mô phỏng thông tin liên lạc từ các bộ phận CNTT, một lĩnh vực trước đây được coi là ít bị mạo danh hơn. Sự gia tăng của giọng nói thực tế giả mạo sâu sắc và các email phức tạp về mặt ngôn ngữ cho thấy một cuộc chạy đua vũ trang sắp xảy ra giữa những kẻ tấn công và những người bảo vệ.

Cách AI bảo vệ chống lại các mối đe dọa tổng quát

Mặc dù AI tổng quát làm tăng nguy cơ xảy ra các mối đe dọa trên mạng nhưng nó cũng có tiềm năng củng cố các biện pháp phòng vệ an ninh mạng. AI phòng thủ, khi được tích hợp với các nhóm an ninh mạng do con người lãnh đạo, có thể hoạt động như một bức tường thành chống lại các mối đe dọa ngày càng gia tăng. Bằng cách tận dụng AI để hiểu rõ các sắc thái kinh doanh và hành vi của nhân viên, các nhóm an ninh mạng có thể nhận ra những dấu hiệu bất thường tinh vi của các cuộc tấn công tiềm ẩn.

Mấu chốt nằm ở việc sử dụng AI không chỉ như một mối đe dọa tiềm tàng mà còn như một đồng minh chiến lược trong chiến trường an ninh mạng. AI phòng thủ có khả năng thích ứng, học hỏi và hiểu được sự phức tạp trong các kiểu giao tiếp của tổ chức có thể vượt trội hơn AI tổng hợp do các tác nhân đe dọa sử dụng. Đó là minh chứng cho cách tiếp cận lấy con người làm trung tâm cần thiết trong cuộc chiến an ninh mạng đang diễn ra—một trận chiến trong đó AI, khi được khai thác một cách thận trọng, sẽ trở thành tài sản không thể thiếu trong việc đảm bảo các lĩnh vực kỹ thuật số.

Khi AI thế hệ tiếp tục đi lên, cả lời hứa lẫn mối nguy hiểm mà nó mang lại đều trở nên rõ ràng hơn. Bối cảnh ngày càng gia tăng của các cuộc tấn công lừa đảo nhấn mạnh sự cấp bách của các tổ chức trong việc củng cố các biện pháp an ninh mạng của họ. Trong khi AI tổng hợp trao quyền cho các tác nhân đe dọa thì sự tích hợp hợp lý giữa AI phòng thủ với kiến ​​thức chuyên môn của con người mang lại khả năng phòng thủ đáng gờm trước các mối đe dọa trên mạng. Trong vũ điệu mong manh giữa tiến bộ công nghệ và các mối lo ngại về an ninh, trách nhiệm của con người là sử dụng AI một cách có trách nhiệm, đảm bảo một tương lai nơi sự đổi mới cùng tồn tại hài hòa với các lĩnh vực kỹ thuật số được bảo vệ.