Một người phụ trách giám tuyển đang xem xét cấu trúc protein được gửi đến cần biết hình dạng của nó được đo trong một thí nghiệm hay được mô hình dự đoán. Một dự đoán có thể định hướng cho thí nghiệm trong tương lai; nhưng nó không thể thay thế hồ sơ của một thí nghiệm đã thực hiện.
SynthID Bio của Google DeepMind có thể cung cấp manh mối trong chính dữ liệu được gửi đến. Các nhà nghiên cứu đã chỉnh sửa AlphaFold 3 để các tọa độ mô tả cấu trúc được dự đoán mang một dấu hiệu có thể phát hiện. Mô hình để lại dấu này ngay khi tạo ra dự đoán, thay vì chỉ dựa vào việc ai đó gắn nhãn sau đó.
DeepMind đề xuất kiểm tra các tín hiệu này khi dữ liệu được gửi lên cơ sở dữ liệu, nhằm giúp gắn nhãn các mục tổng hợp hoặc đánh dấu chúng để xem xét. Điều đó có thể ngăn dự đoán của mô hình bị chuyển tiếp cho các nhà nghiên cứu khác như một phát hiện thực nghiệm.
SynthID Bio là một bằng chứng về tính khả thi; việc kiểm tra trong cơ sở dữ liệu mới chỉ là một ứng dụng được đề xuất. Khả năng chống lại hành vi cố tình can thiệp vẫn cần được cải thiện. Phương pháp này cũng đòi hỏi một mô hình đã được chỉnh sửa để để lại dấu: phát hiện được dấu hiệu đó sẽ là bằng chứng cho thấy đầu ra đến từ một mô hình có gắn dấu chìm, còn nếu không tìm thấy dấu thì vẫn chưa thể xác định nguồn gốc.
Nguồn: https://deepmind.google/blog/introducing-synthid-bio/
Hình ảnh: Ảnh tĩnh mang tính biên tập do AI tạo, mô tả các mô hình giảng dạy có hình dạng protein đang được kiểm tra; đây không phải là một thí nghiệm của Google hay hình ảnh trực quan hóa dấu chìm có thể phát hiện.
SynthID Bio của Google DeepMind có thể cung cấp manh mối trong chính dữ liệu được gửi đến. Các nhà nghiên cứu đã chỉnh sửa AlphaFold 3 để các tọa độ mô tả cấu trúc được dự đoán mang một dấu hiệu có thể phát hiện. Mô hình để lại dấu này ngay khi tạo ra dự đoán, thay vì chỉ dựa vào việc ai đó gắn nhãn sau đó.
DeepMind đề xuất kiểm tra các tín hiệu này khi dữ liệu được gửi lên cơ sở dữ liệu, nhằm giúp gắn nhãn các mục tổng hợp hoặc đánh dấu chúng để xem xét. Điều đó có thể ngăn dự đoán của mô hình bị chuyển tiếp cho các nhà nghiên cứu khác như một phát hiện thực nghiệm.
SynthID Bio là một bằng chứng về tính khả thi; việc kiểm tra trong cơ sở dữ liệu mới chỉ là một ứng dụng được đề xuất. Khả năng chống lại hành vi cố tình can thiệp vẫn cần được cải thiện. Phương pháp này cũng đòi hỏi một mô hình đã được chỉnh sửa để để lại dấu: phát hiện được dấu hiệu đó sẽ là bằng chứng cho thấy đầu ra đến từ một mô hình có gắn dấu chìm, còn nếu không tìm thấy dấu thì vẫn chưa thể xác định nguồn gốc.
Nguồn: https://deepmind.google/blog/introducing-synthid-bio/
Hình ảnh: Ảnh tĩnh mang tính biên tập do AI tạo, mô tả các mô hình giảng dạy có hình dạng protein đang được kiểm tra; đây không phải là một thí nghiệm của Google hay hình ảnh trực quan hóa dấu chìm có thể phát hiện.