Trí tuệ nhân tạo đang được quảng cáo là có tiềm năng định hình lại chân trời kỹ thuật số của chúng ta. Sự thật là, nhiều người trong không gian kỹ thuật số, bao gồm cả nghệ sĩ và người sáng tạo nội dung, đã nhận thấy các công cụ AI tổng quát hữu ích trong quá trình làm việc của họ. Tuy nhiên, có một khía cạnh mới của công nghệ đang được đưa ra ánh sáng, điều này đang làm dấy lên mối lo ngại về tính công bằng của AI trong tương lai.

Vấn đề thiên vị trong AI

Bằng cách nghiên cứu các tác phẩm nghệ thuật được hỗ trợ bởi AI của 15 nghệ sĩ trong một cuộc triển lãm gần đây tại Phòng trưng bày Ford Foundation có tiêu đề “Những mô hình nào tạo nên thế giới: Những tưởng tượng quan trọng của A.I.”, những người phụ trách triển lãm đã phát hiện ra rằng các công cụ công nghệ AI tái tạo định kiến ​​của con người đã mã hóa nó. Do đó, kết quả đầu ra của AI thường có những sai lệch có thể gây hại.

“Generative A.I. là mặt Janus. Một mặt, nó có thể đưa chúng ta tránh xa mô hình sáng tạo lấy con người làm trung tâm; mặt khác, nó thường hoạt động thông qua các hoạt động lao động khai thác và các tập dữ liệu thiên vị”, Mashinka Firunts Hakopian, đồng giám tuyển của chương trình, nói với Artnet News.

Trong một trong những tác phẩm nghệ thuật có tên "Những cuộc trò chuyện với Bina 48", nghệ sĩ đã cố gắng mô tả một tương tác với một robot xã hội. Con bot được thiết kế để bắt chước ý thức của một người phụ nữ da đen, nhưng nó không có sự hiểu biết có ý nghĩa về người da đen hay chủng tộc.

Có những tác phẩm khác, chẳng hạn như In Discriminate của Mandy Harris Williams và The Bend của Niama Safia Sandy, đã vạch trần sự thiên vị và phân biệt đối xử của thuật toán.

Tác phẩm video Moon-faced của Morehshin Allahyari sử dụng A.I. để xóa bỏ sự thiếu vắng đại diện của người Iran đồng tính trong kinh điển phương Tây.

Bất bình đẳng AI trong chăm sóc sức khỏe

Vấn đề thiên vị với các mô hình AI còn lan rộng hơn nữa đến các lĩnh vực khác mà công nghệ này được áp dụng, chẳng hạn như chăm sóc sức khỏe.

Vào tháng 8, các nhà nghiên cứu tại Viện Công nghệ Massachusetts (MIT) phát hiện ra rằng AI và máy học có xu hướng làm trầm trọng thêm sự bất bình đẳng trong chăm sóc sức khỏe giữa các nhóm nhỏ, thường không được đại diện đầy đủ. Điều này có thể ảnh hưởng đến cách các nhóm được chẩn đoán và điều trị.

Vấn đề thường bắt nguồn từ tập dữ liệu mà các mô hình AI sử dụng để đào tạo và khi vấn đề này mới được phát hiện ở giai đoạn này, Hakopian tin rằng nó có thể được khắc phục.

“Quỹ đạo của A.I. không được lập trình trước. Tương lai công nghệ tự động không phải là kết luận đã biết trước”, Hakopian nói thêm. “Có không gian để can thiệp vào tương lai đó”.