Kecerdasan buatan diberitakan berpotensi membentuk kembali cakrawala digital kita. Faktanya, banyak orang di dunia digital, termasuk artis dan pembuat konten, merasakan alat AI generatif berguna dalam proses kerja mereka. Namun, ada sisi baru dari teknologi yang terungkap, yang meningkatkan kekhawatiran mengenai kesetaraan AI di masa depan.

Masalah Bias dalam AI

Dengan mempelajari karya seni yang dibantu AI dari 15 seniman dalam pameran baru-baru ini di Ford Foundation Gallery bertajuk “What Models Make Worlds: Critical Imaginaries of A.I.,” kurator acara tersebut mengungkap bahwa alat teknologi AI mereplikasi prasangka manusia yang mengkodekannya. Akibatnya, sering kali terdapat bias dalam keluaran AI yang dapat merugikan.

“Kecerdasan buatan generatif berwajah seperti Janus. Di satu sisi, kecerdasan buatan ini dapat menjauhkan kita dari model kreativitas yang antroposentris; di sisi lain, kecerdasan buatan ini sering kali beroperasi melalui praktik kerja ekstraktif dan kumpulan data yang bias,” kata Mashinka Firunts Hakopian, salah satu kurator pameran tersebut, kepada Artnet News.

Dalam salah satu karya seni berjudul "Percakapan dengan Bina 48," sang seniman mencoba menggambarkan interaksi dengan robot sosial. Robot tersebut dirancang untuk meniru kesadaran seorang wanita kulit hitam, tetapi tidak memiliki pemahaman yang berarti tentang kehitaman atau ras.

Ada karya lain, seperti In Discriminate oleh Mandy Harris Williams dan The Bend oleh Niama Safia Sandy, yang mengungkap bias algoritmik dan diskriminasi.

Karya video Moon-faced karya Morehshin Allahyari menggunakan AI untuk menghilangkan kurangnya representasi kaum queer Iran dalam kanon Barat.

Ketimpangan AI dalam Layanan Kesehatan

Masalah bias pada model AI juga merembet ke berbagai area lain tempat teknologi tersebut diterapkan, misalnya perawatan kesehatan.

Pada bulan Agustus, para peneliti di Massachusetts Institute of Technology (MIT) menemukan bahwa AI dan pembelajaran mesin cenderung memperburuk ketidakadilan perawatan kesehatan di antara kelompok-kelompok yang sering kali kurang terwakili. Hal ini dapat memengaruhi cara kelompok-kelompok tersebut didiagnosis dan diobati.

Masalah ini biasanya berasal dari kumpulan data yang digunakan untuk melatih model AI, dan dengan masalah yang kini terungkap pada tahap ini, Hakopian yakin hal itu dapat diperbaiki.

“Lintasan AI tidak direncanakan sebelumnya. Masa depan teknologi otomatis bukanlah kesimpulan yang sudah pasti,” imbuh Hakopian. “Ada ruang untuk melakukan intervensi di masa depan tersebut.”