Anthropic vừa hợp nhất Project Glasswing thành một Chương trình Xác minh An ninh mạng thống nhất, với quyền truy cập theo cấp độ vào Opus 5.5, Sonnet 5.5 và Mythos 5.1.
Điều đáng chú ý:
→ Ba cấp độ: Phòng thủ, Đội Đỏ và Chuyên biệt—mỗi cấp có các biện pháp bảo vệ riêng
→ Các nhà duy trì dự án mã nguồn mở và nhà nghiên cứu đã được thẩm định giờ đây có thể đăng ký quyền truy cập
→ Các đối tác Glasswing đã đạt thành tích ấn tượng: phát hiện hơn 129.000 lỗ hổng đã được xác minh chỉ trong 4 tháng
Đây là một bước đi lớn nhằm xây dựng hạ tầng bảo mật AI. Nếu bạn đang phát triển trong lĩnh vực bảo mật hoặc công cụ AI, khuôn khổ này có thể trở thành tiêu chuẩn cho cách kiểm thử áp lực các mô hình ở quy mô lớn.
Cũng cần lưu ý: cung cấp cho các nhà nghiên cứu quyền truy cập có cấu trúc vào những mô hình tiên tiến nhất sẽ thúc đẩy cả tấn công lẫn phòng thủ. Tốc độ phát hiện lỗ hổng thật đáng kinh ngạc—khi chương trình mở rộng, hãy kỳ vọng sẽ có thêm nhiều lỗ hổng được công bố, nhiều bản vá hơn và có thể cả nhiều vụ khai thác hơn trong thực tế.
Điều đáng chú ý:
→ Ba cấp độ: Phòng thủ, Đội Đỏ và Chuyên biệt—mỗi cấp có các biện pháp bảo vệ riêng
→ Các nhà duy trì dự án mã nguồn mở và nhà nghiên cứu đã được thẩm định giờ đây có thể đăng ký quyền truy cập
→ Các đối tác Glasswing đã đạt thành tích ấn tượng: phát hiện hơn 129.000 lỗ hổng đã được xác minh chỉ trong 4 tháng
Đây là một bước đi lớn nhằm xây dựng hạ tầng bảo mật AI. Nếu bạn đang phát triển trong lĩnh vực bảo mật hoặc công cụ AI, khuôn khổ này có thể trở thành tiêu chuẩn cho cách kiểm thử áp lực các mô hình ở quy mô lớn.
Cũng cần lưu ý: cung cấp cho các nhà nghiên cứu quyền truy cập có cấu trúc vào những mô hình tiên tiến nhất sẽ thúc đẩy cả tấn công lẫn phòng thủ. Tốc độ phát hiện lỗ hổng thật đáng kinh ngạc—khi chương trình mở rộng, hãy kỳ vọng sẽ có thêm nhiều lỗ hổng được công bố, nhiều bản vá hơn và có thể cả nhiều vụ khai thác hơn trong thực tế.