Trong hơn một thập kỷ, các cơ quan thực thi pháp luật đã chuyển sang sử dụng phần mềm dự đoán chính sách với hy vọng khai thác sức mạnh của trí tuệ nhân tạo (AI) trong cuộc chiến chống tội phạm. Những phần mềm này hứa hẹn một tương lai nơi cảnh sát có thể đoán trước và ngăn chặn tội phạm trước khi chúng xảy ra, giống như tiền đề trong “Báo cáo thiểu số” của Philip K. Dick. Tuy nhiên, một cuộc điều tra chung gần đây của The Markup và Wired đã phát hiện ra hiệu suất kém cỏi của một phần mềm như vậy, Geolitica, ở Plainfield, New Jersey, làm sáng tỏ hiệu quả rộng hơn và ý nghĩa đạo đức của việc quản lý chính sách dự đoán.

Thí nghiệm xấu số

Geolitica, ban đầu được gọi là PredPol, đã được Sở cảnh sát Plainfield áp dụng cùng với một số cơ quan khác với mục đích giảm tội phạm thông qua phân tích dự đoán. Thuật toán của phần mềm, giống như thuật toán được sử dụng để dự đoán các dư chấn động đất, được giao nhiệm vụ dự báo các hoạt động tội phạm. Tuy nhiên, việc kiểm tra kỹ lưỡng 23.631 dự đoán do Geolitica đưa ra trong khoảng thời gian từ tháng 2 đến tháng 12 năm 2018 cho thấy tỷ lệ thành công ảm đạm chỉ dưới nửa phần trăm. Ít hơn 100 dự đoán được phân tích tương ứng với các vụ án hình sự thực tế. Phần mềm thể hiện khả năng dự đoán một số tội phạm tốt hơn một chút so với những phần mềm khác, với tỷ lệ thành công 0,6% trong việc dự đoán các vụ cướp hoặc hành hung nghiêm trọng, trái ngược với độ chính xác chỉ 0,1% đối với các vụ trộm.

Thất vọng và không sử dụng

Thực tế hoạt động của Geolitica hoàn toàn trái ngược với lời hứa của nó, dẫn đến việc nó không được sử dụng đúng mức ở Plainfield. Người đứng đầu sở cảnh sát Plainfield, Đại úy David Guarino, bày tỏ hy vọng ban đầu về việc nâng cao hiệu quả giảm tội phạm thông qua phần mềm. Tuy nhiên, tỷ lệ thành công ảm đạm đã dẫn đến việc cuối cùng nó không được sử dụng. Guarino thừa nhận: “Tôi không tin rằng chúng tôi thực sự sử dụng nó thường xuyên”, nêu bật sự thất vọng xung quanh khả năng của phần mềm. Bộ, nhận thấy sự kém hiệu quả của Geolitica, đã quyết định ngừng sử dụng nó và chuyển hướng kinh phí sang các chương trình cộng đồng có tiềm năng tác động hơn.

Phí tài chính

Việc áp dụng Geolitica đã gây ra tổn thất tài chính đáng kể cho Sở Cảnh sát Plainfield. Hợp đồng ban đầu yêu cầu phí đăng ký hàng năm là 20.500 USD, cộng thêm 15.500 USD khi gia hạn năm thứ hai. Thật không may, khoản đầu tư đáng kể này đã không chuyển thành những lợi ích dự kiến ​​trong việc giảm tội phạm, đặt ra câu hỏi về việc phân bổ công quỹ cho các sáng kiến ​​dựa trên công nghệ.

Chuyển đổi và di sản

Bất chấp những thiếu sót và quyết định cuối cùng của Geolitica là ngừng hoạt động vào cuối năm nay, câu chuyện về hoạt động trị an dự đoán vẫn chưa kết thúc ở đây. Nhân sự của Geolitica đã chuyển sang SoundThinking, trước đây gọi là ShotSpotter, một công ty phần mềm thực thi pháp luật khác. Quá trình chuyển đổi này cho thấy việc tiếp tục theo đuổi các giải pháp thực thi pháp luật được hỗ trợ bởi công nghệ, mặc dù có di chứng ám ảnh về sự thất bại của Geolitica.

Tình thế khó khăn về đạo đức

Nỗ lực thực hiện chính sách dự đoán không phải là không có những vấn đề khó khăn về mặt đạo đức. Các nhà phê bình cho rằng các hệ thống AI này, bắt nguồn từ dữ liệu có khả năng bị nhiễm các thành kiến ​​​​lịch sử, có thể kéo dài hoặc thậm chí làm trầm trọng thêm các hành vi phân biệt đối xử hiện có trong cơ quan thực thi pháp luật. Sự thất bại của Geolitica đóng vai trò như một lời nhắc nhở rõ ràng về những rào cản mà chính sách dự đoán phải đối mặt, không chỉ về hiệu quả kỹ thuật mà còn trong việc điều hướng các tác động đạo đức và xã hội đan xen với vai trò của AI trong việc thực thi pháp luật.

Việc làm sáng tỏ thí nghiệm kiểm soát dự đoán của Geolitica ở Plainfield đã làm sáng tỏ bối cảnh phức tạp nơi công nghệ giao thoa với việc thực thi pháp luật. Trong khi sức hấp dẫn của việc ngăn chặn tội phạm do AI thúc đẩy là rất hấp dẫn, trường hợp của Geolitica nhấn mạnh tầm quan trọng hàng đầu của việc đánh giá kỹ lưỡng, xem xét kỹ lưỡng về mặt đạo đức và các phương pháp tiếp cận lấy cộng đồng làm trung tâm trong việc tận dụng công nghệ vì an toàn công cộng.