Trong một diễn biến bổ sung thêm một chiều hướng mới cho sự ngụy tạo chính trị, các cáo buộc đã xuất hiện trở lại cho rằng Tổng thống Nga Vladimir Putin có thể đang sử dụng người đóng thế trong các lần xuất hiện trước công chúng, được tăng cường thêm bằng các công nghệ AI tạo hình. Mặc dù tuyên bố này thiếu bằng chứng cụ thể và bị các quan chức Nga bác bỏ, nhưng nó nhấn mạnh khả năng tinh vi của AI hiện đại trong việc tạo ra các deepfake thuyết phục, đặt ra một thách thức phức tạp cho việc xác minh tính xác thực.
Sự gia tăng của việc mạo danh được hỗ trợ bởi AI
Các nhà nghiên cứu Nhật Bản đã đặt ra những nghi ngờ mới về tính xác thực của các lần xuất hiện trước công chúng của Putin, đưa ra phân tích cho thấy sự tồn tại của một số người giống hệt nhau đóng giả làm nhà lãnh đạo Nga. Trong khi Điện Kremlin bác bỏ những gợi ý này, cuộc trò chuyện lớn hơn xoay quanh nền tảng công nghệ cho phép những trò lừa bịp như vậy của AI deepfake.
Công nghệ Deepfake đã tiến bộ đến mức không chỉ là một công cụ giải trí vô hại mà còn trở thành phương tiện mạnh mẽ cho các hoạt động thao túng chính trị tiềm tàng. OpenAI đã tự định vị mình ở vị trí hàng đầu trong vấn đề này, báo cáo tỷ lệ thành công 99% trong việc phát hiện ra những sự bịa đặt như vậy. Bất chấp những tiến bộ này, các chuyên gia cảnh báo rằng quá trình nhận dạng vẫn phức tạp và sẽ trở nên phức tạp hơn nữa khi công nghệ AI phát triển.
Hình mờ so với hàng giả sâu: Sự không đầy đủ của các biện pháp bảo vệ hiện tại
Biện pháp bảo mật kỹ thuật số truyền thống là đóng dấu chìm, như được các công ty như Digimarc và nền tảng AI Vertix của Google trình bày, đang chứng tỏ là một giải pháp không hoàn hảo trước làn sóng nội dung do AI tạo ra. Vô hình với mắt thường và được thiết kế để bảo toàn chất lượng hình ảnh, hình chìm có mục đích biểu thị tính xác thực. Tuy nhiên, hiệu quả của việc đóng dấu chìm đang bị nghi ngờ, vì các công cụ AI tạo ra deepfake có thể không áp dụng tính năng bảo mật này trên toàn cầu.
Hơn nữa, bản chất mã nguồn mở của nhiều nền tảng AI đặt ra rào cản đáng kể trong việc bảo vệ nội dung số. Việc các nền tảng này dễ dàng được truy cập, thay đổi và phân phối có nghĩa là bất kỳ tính năng bảo mật nào cũng có thể dễ dàng bị những người có kiến thức và ý định làm như vậy bỏ qua.
Cuộc chạy đua vũ trang liên tục trong công nghệ AI
Khi các công cụ phát hiện được cải thiện, các kỹ thuật tạo deepfake cũng vậy, lôi kéo các công ty công nghệ và chuyên gia an ninh mạng vào trò chơi mèo vờn chuột không ngừng nghỉ. Trong khi các mô hình AI lớn hơn, được kiểm soát nhiều hơn cho thấy triển vọng trong việc ngăn chặn việc tạo ra và phát tán nội dung bất hợp pháp, các chuyên gia thừa nhận cần phải tiếp tục cảnh giác và cải tiến trong các phương pháp phát hiện.
Sự gia tăng của nội dung lạm dụng tình dục trẻ em (CSAM) do deepfake tạo ra đặc biệt đáng báo động, với các mô hình AI nguồn mở hỗ trợ việc phát tán nội dung như vậy. Internet Watch Foundation của Anh lưu ý rằng khó khăn trong việc phân biệt những hình ảnh do AI tạo ra này với những bức ảnh thực tế, làm phức tạp thêm công việc của các nhóm thực thi pháp luật và an toàn internet.
Ý nghĩa và mong đợi
Khi thế giới vật lộn với những tác động của công nghệ deepfake, cuộc thảo luận đã lan rộng ra các nền tảng toàn cầu, với các tổ chức như Liên Hợp Quốc nhấn mạnh tiềm năng của nội dung do AI tạo ra để kích động thù hận và phát tán thông tin sai lệch. Trong khi đó, bối cảnh pháp lý đang thay đổi, bằng chứng là các vụ kiện tụng nổi tiếng từ những người nổi tiếng tìm cách bảo vệ hình ảnh của họ khỏi việc sử dụng trái phép do AI tạo ra.
Với sự gia tăng của cuộc chạy đua vũ trang AI, tiềm năng gây hại hoặc chữa lành của công nghệ vẫn còn trong thế cân bằng. Khi ranh giới giữa thực và tổng hợp tiếp tục mờ nhạt, lời kêu gọi sử dụng AI có trách nhiệm chưa bao giờ cấp bách hơn thế, và cuộc đối thoại xung quanh vấn đề này trở nên phù hợp hơn. Việc tìm kiếm một giải pháp có thể vượt qua sự tiến bộ của công nghệ lừa dối tiếp tục thúc đẩy những người đổi mới và các bên liên quan, nhằm mục đích bảo vệ tính toàn vẹn của nội dung kỹ thuật số trong một thế giới ngày càng ảo.