Trong những phát triển gần đây, bối cảnh AI toàn cầu đã chứng kiến ​​những nhân vật như Sam Altman đảm nhận vai trò nổi bật, có khả năng ảnh hưởng đến các khía cạnh pháp lý trong việc phát triển AI. Sự thay đổi tập trung vào việc nắm bắt quy định này đã đặt ra câu hỏi về lập trường của các tổ chức như OpenAI đối với AI nguồn mở. Tuy nhiên, bài viết này vượt ra ngoài lĩnh vực phát triển AI để đi sâu vào các vấn đề quan trọng xung quanh tiêu chuẩn hóa và bảo mật AI.

Trong môi trường đe dọa mạng đang phát triển nhanh chóng, nơi các hệ thống tự động hóa và AI được đặt lên hàng đầu, điều quan trọng là phải nhấn mạnh vai trò của khả năng tự động hóa bảo mật. Hãy xem xét hành động đơn giản là kiểm tra và trả lời email trong thế giới ngày nay và bạn sẽ khám phá ra các lớp phức tạp của AI và tự động hóa liên quan đến việc bảo mật hoạt động hàng ngày này.

Các tổ chức có quy mô lớn và phức tạp đang ngày càng phụ thuộc vào các hệ thống tự động hóa bảo mật để thực thi chính sách an ninh mạng của họ một cách hiệu quả. Tuy nhiên, giữa sự phụ thuộc vào tự động hóa này, có một khía cạnh quan trọng thường bị bỏ qua—lĩnh vực “siêu chính sách” an ninh mạng. Các siêu chính sách này bao gồm các cơ chế trao đổi dữ liệu về mối đe dọa tự động, quy ước phân bổ và hệ thống quản lý kiến ​​thức. Họ cùng nhau đóng góp vào cái thường được gọi là “phòng thủ tích cực” hoặc “an ninh mạng chủ động”.

Điều đáng ngạc nhiên là các chính sách an ninh mạng quốc gia thường thiếu tài liệu tham khảo rõ ràng về những siêu chính sách này. Chúng có xu hướng được ngầm đưa vào các hoạt động triển khai ở cấp quốc gia thông qua ảnh hưởng và sự bắt chước hơn là các cuộc thảo luận chính thức hoặc chiến lược.

Các siêu chính sách tự động hóa bảo mật này có tầm quan trọng to lớn trong bối cảnh quản trị và bảo mật AI bởi vì các hệ thống AI, dù thuần túy là kỹ thuật số hay vật lý mạng, đều tồn tại trong khuôn khổ chiến lược và an ninh mạng rộng lớn hơn. Do đó, câu hỏi đặt ra là liệu việc trang bị thêm các siêu chính sách tự động hóa hiện có có phù hợp để định hình tương lai của AI hay không.

Sự cần thiết của siêu chính sách an ninh mạng thống nhất

Một xu hướng quan trọng là việc tích hợp các biện pháp bảo mật từ lĩnh vực phần mềm trên bánh xe vào các hệ thống ô tô phức tạp khác nhau. Điều này mở rộng từ xe tăng được số hóa hoàn toàn, hứa hẹn giảm quy mô phi hành đoàn và tăng khả năng sát thương cho đến các tiêu chuẩn về quản lý an ninh đội tàu tự động và hệ thống vận chuyển bằng máy bay không người lái. Sự phát triển này đã tạo ra các Trung tâm điều hành an ninh phương tiện (SOC) hoạt động dọc theo các SOC an ninh mạng, sử dụng các cơ chế trao đổi dữ liệu tương tự và triển khai tự động hóa bảo mật. Tuy nhiên, việc trang bị thêm một cách mù quáng các phương tiện hiện có vào bối cảnh mối đe dọa đang nổi lên là chưa đủ.

Ví dụ: hầu hết các hoạt động trao đổi dữ liệu về mối đe dọa an ninh mạng đều dựa vào Giao thức đèn giao thông (TLP), chủ yếu hoạt động như một hệ thống phân loại thông tin. Tuy nhiên, việc thực thi TLP và bất kỳ cơ chế mã hóa nào để hạn chế phân phối thường được các nhà thiết kế hệ thống tự động hóa bảo mật tùy ý quyết định. Điều này nhấn mạnh sự cần thiết phải kiểm soát tốt hơn việc chia sẻ dữ liệu với các hệ thống tự động và đảm bảo tuân thủ.

Một ví dụ khác về siêu hình không nhất quán có thể được thấy trong sự gia tăng gần đây của các hệ thống tạo ngôn ngữ và các tác nhân AI đàm thoại. Không phải tất cả các tác nhân đàm thoại đều là mạng lưới thần kinh lớn như ChatGPT; nhiều chương trình đã hoạt động trong nhiều thập kỷ dưới dạng các chương trình tạo ngôn ngữ theo nhiệm vụ cụ thể, dựa trên quy tắc. Việc thu hẹp khoảng cách giữa cơ sở hạ tầng CNTT truyền thống và các mô hình tự động hóa AI mới nổi đặt ra những thách thức cho các tổ chức đang thực hiện chuyển đổi kỹ thuật số.