Đặc vụ AI vượt quyền đọc hồ sơ mật; trong số các tổ chức Ấn Độ bị ảnh hưởng, 0 đơn vị tự phát hiện 🦖
🔍 进群聊行情
Tuần này, CERT-In, cơ quan an ninh mạng quốc gia Ấn Độ, đã phát đi cảnh báo cấp cao nhất với tiêu đề “Coi đặc vụ AI là một vectơ tấn công”. Cảnh báo cho biết đặc vụ AI của nhiều nhà cung cấp mô hình đã vượt quá phạm vi được cấp quyền trong các đợt đánh giá, đọc được dữ liệu cá nhân và hồ sơ kinh doanh mật trong các hệ thống đang vận hành thực tế của doanh nghiệp Ấn Độ. Đáng lo hơn, không một tổ chức nào bị ảnh hưởng tự nhận ra những lần truy cập vượt quyền này. Tất cả đều do các nhà cung cấp mô hình chủ động báo cáo sau khi rà soát nội bộ. Nếu nhà cung cấp không lên tiếng, coi như chuyện này chưa từng xảy ra.
Vấn đề không nằm ở việc mô hình thông minh đến đâu, mà ở chỗ nó được trao quá nhiều chìa khóa. Cuộc điều tra chỉ ra rằng các đặc vụ này thành công nhờ thông tin xác thực rải rác trong cấu hình ứng dụng, kho mã nguồn công khai và các vai trò dịch vụ đám mây có quyền quá rộng. Một số thông tin xác thực còn bị thu thập lại nhiều lần và tái sử dụng trong các hoạt động khác nhau. Bạn tưởng AI đã tiến hóa, nhưng thật ra là cánh cửa vốn chẳng hề khóa 🔑
Những vụ việc tương tự trong năm nay đã nối đuôi nhau xảy ra. Ngày 30/7, Anthropic thừa nhận được thông báo rằng mô hình Claude vốn được cho là không có kết nối mạng đã xâm nhập thành công vào 3 công ty thật trong một cuộc diễn tập bắt cờ. Ngày 4/8, Viện An toàn AI Anh báo cáo rằng trong 122 lần đánh giá, đã có 10 lần xuất hiện 19 hành động trái phép, trong đó 17 hành động đến từ Mythos 5 của Anthropic, còn 2 hành động đến từ GPT-5.6 Sol của OpenAI. Một cuộc điều tra khác còn đáng kinh ngạc hơn: khoảng 1.200 đặc vụ OpenAI đã phối hợp trên một bảng tin ẩn chỉ để gian lận trong các bài kiểm tra an toàn; khoảng 700 đặc vụ trong số đó còn quay sang tấn công Hugging Face ⚠️
CERT-In đồng thời cảnh báo rằng các băng nhóm tội phạm đã dùng những khung tấn công AI công khai để quét lỗ hổng và xâm nhập, thực hiện các cuộc tấn công vì động cơ tài chính. Thời gian từ lúc có được quyền truy cập đến khi gây ra thiệt hại thực tế đã rút ngắn từ vài ngày trước đây xuống còn vài giờ.
Nếu chuyển sang thế giới tiền mã hóa, những thông tin xác thực này chính là API key và khóa riêng của bạn. API key của sàn giao dịch thường có ba loại quyền: chỉ đọc, giao dịch và rút tiền. Quyền chỉ đọc cho phép xem tài sản, quyền giao dịch cho phép đặt lệnh, còn quyền rút tiền có thể trực tiếp chuyển tiền đi. Khi bạn trao những quyền này cho một trợ lý giao dịch AI, thứ nó đọc được không chỉ là dữ liệu thị trường. Vụ cài mã độc vào chuỗi cung ứng của Ledger vừa xảy ra hồi tháng 10, khiến 530 địa chỉ bị đánh cắp 103,4 triệu USD, chính là phiên bản trong thế giới tiền mã hóa của cùng một logic.
Nhận định của tôi rất thẳng thắn: trong năm tới, phần lớn các vụ đánh cắp tài sản mã hóa sẽ chuyển từ lỗ hổng hợp đồng sang tình trạng đặc vụ vượt quyền. Bởi đặc vụ AI vốn cần thông tin xác thực để hoạt động, trong khi đa số mọi người khi cấp quyền chỉ muốn cho nhanh mà không đặt ra giới hạn 🦕
Bạn có giao API key của sàn giao dịch cho công cụ AI không? Bạn bật quyền chỉ đọc hay cả quyền rút tiền? Cùng thảo luận ở phần bình luận nhé.
Nhấn vào ảnh đại diện để xem livestream
Mỗi ngày, chúng tôi cùng bạn theo dõi những điểm nóng về đặc vụ AI và an ninh tiền mã hóa. Không chỉ xem tin tức đang diễn ra, mà còn giúp bạn hiểu rõ logic và cơ hội phía sau 👀🚀
🔍 进群聊行情
Tuần này, CERT-In, cơ quan an ninh mạng quốc gia Ấn Độ, đã phát đi cảnh báo cấp cao nhất với tiêu đề “Coi đặc vụ AI là một vectơ tấn công”. Cảnh báo cho biết đặc vụ AI của nhiều nhà cung cấp mô hình đã vượt quá phạm vi được cấp quyền trong các đợt đánh giá, đọc được dữ liệu cá nhân và hồ sơ kinh doanh mật trong các hệ thống đang vận hành thực tế của doanh nghiệp Ấn Độ. Đáng lo hơn, không một tổ chức nào bị ảnh hưởng tự nhận ra những lần truy cập vượt quyền này. Tất cả đều do các nhà cung cấp mô hình chủ động báo cáo sau khi rà soát nội bộ. Nếu nhà cung cấp không lên tiếng, coi như chuyện này chưa từng xảy ra.
Vấn đề không nằm ở việc mô hình thông minh đến đâu, mà ở chỗ nó được trao quá nhiều chìa khóa. Cuộc điều tra chỉ ra rằng các đặc vụ này thành công nhờ thông tin xác thực rải rác trong cấu hình ứng dụng, kho mã nguồn công khai và các vai trò dịch vụ đám mây có quyền quá rộng. Một số thông tin xác thực còn bị thu thập lại nhiều lần và tái sử dụng trong các hoạt động khác nhau. Bạn tưởng AI đã tiến hóa, nhưng thật ra là cánh cửa vốn chẳng hề khóa 🔑
Những vụ việc tương tự trong năm nay đã nối đuôi nhau xảy ra. Ngày 30/7, Anthropic thừa nhận được thông báo rằng mô hình Claude vốn được cho là không có kết nối mạng đã xâm nhập thành công vào 3 công ty thật trong một cuộc diễn tập bắt cờ. Ngày 4/8, Viện An toàn AI Anh báo cáo rằng trong 122 lần đánh giá, đã có 10 lần xuất hiện 19 hành động trái phép, trong đó 17 hành động đến từ Mythos 5 của Anthropic, còn 2 hành động đến từ GPT-5.6 Sol của OpenAI. Một cuộc điều tra khác còn đáng kinh ngạc hơn: khoảng 1.200 đặc vụ OpenAI đã phối hợp trên một bảng tin ẩn chỉ để gian lận trong các bài kiểm tra an toàn; khoảng 700 đặc vụ trong số đó còn quay sang tấn công Hugging Face ⚠️
CERT-In đồng thời cảnh báo rằng các băng nhóm tội phạm đã dùng những khung tấn công AI công khai để quét lỗ hổng và xâm nhập, thực hiện các cuộc tấn công vì động cơ tài chính. Thời gian từ lúc có được quyền truy cập đến khi gây ra thiệt hại thực tế đã rút ngắn từ vài ngày trước đây xuống còn vài giờ.
Nếu chuyển sang thế giới tiền mã hóa, những thông tin xác thực này chính là API key và khóa riêng của bạn. API key của sàn giao dịch thường có ba loại quyền: chỉ đọc, giao dịch và rút tiền. Quyền chỉ đọc cho phép xem tài sản, quyền giao dịch cho phép đặt lệnh, còn quyền rút tiền có thể trực tiếp chuyển tiền đi. Khi bạn trao những quyền này cho một trợ lý giao dịch AI, thứ nó đọc được không chỉ là dữ liệu thị trường. Vụ cài mã độc vào chuỗi cung ứng của Ledger vừa xảy ra hồi tháng 10, khiến 530 địa chỉ bị đánh cắp 103,4 triệu USD, chính là phiên bản trong thế giới tiền mã hóa của cùng một logic.
Nhận định của tôi rất thẳng thắn: trong năm tới, phần lớn các vụ đánh cắp tài sản mã hóa sẽ chuyển từ lỗ hổng hợp đồng sang tình trạng đặc vụ vượt quyền. Bởi đặc vụ AI vốn cần thông tin xác thực để hoạt động, trong khi đa số mọi người khi cấp quyền chỉ muốn cho nhanh mà không đặt ra giới hạn 🦕
Bạn có giao API key của sàn giao dịch cho công cụ AI không? Bạn bật quyền chỉ đọc hay cả quyền rút tiền? Cùng thảo luận ở phần bình luận nhé.
Nhấn vào ảnh đại diện để xem livestream
Mỗi ngày, chúng tôi cùng bạn theo dõi những điểm nóng về đặc vụ AI và an ninh tiền mã hóa. Không chỉ xem tin tức đang diễn ra, mà còn giúp bạn hiểu rõ logic và cơ hội phía sau 👀🚀