Dalam lanskap digital yang berkembang pesat saat ini, entitas sektor publik hampir sepenuhnya menyadari kemampuan model Kecerdasan Buatan (AI). Ringkasan kebijakan terbaru dari Ada Lovelace Institute menawarkan perspektif berharga tentang peluang dan potensi risiko penggunaan AI. Hal ini khususnya berlaku dalam model dasar dalam organisasi pemerintah.
Lembaga sektor publik makin gencar mengeksplorasi kemungkinan AI untuk meningkatkan pengambilan keputusan, penyebaran informasi, dan pemberian layanan. Dorongan di balik eksplorasi ini adalah kombinasi dari keterbatasan anggaran dan meningkatnya permintaan basis pengguna. Model fondasi, blok penyusun AI, tengah dipertimbangkan untuk berbagai aplikasi, mulai dari peningkatan layanan publik hingga otomatisasi pembuatan email.
Model dasar mewakili struktur AI yang dapat beradaptasi dan mampu menghasilkan teks, gambar, atau audio. Contoh yang menonjol mencakup GPT-3 dan GPT-4 OpenAI, yang mendukung asisten yang digerakkan oleh AI seperti ChatGPT. Model-model ini bertindak sebagai landasan bagi solusi yang digerakkan oleh AI, yang menawarkan potensi inovasi yang belum pernah ada sebelumnya dalam sektor publik.
Meskipun potensi keuntungan adopsi AI di sektor publik menarik, analisis Institut Ada Lovelace menggarisbawahi ketidakpastian yang menyeluruh. Pertanyaan penting yang tersisa adalah: Akankah model-model ini menunjukkan akurasi, keandalan, dan efektivitas biaya yang dibutuhkan untuk mengatasi tantangan nyata secara efektif?
Model dasar memperkenalkan spektrum potensi jebakan dan tantangan. Ringkasan tersebut menggarisbawahi kekhawatiran tentang bias, pelanggaran privasi, penyebaran informasi yang salah, kerentanan keamanan, ketergantungan yang berlebihan, implikasi tenaga kerja, dan akses yang berbeda. Badan sektor publik harus melakukan pengawasan yang cermat saat mempertimbangkan untuk menggabungkan model-model ini.
Mempromosikan tata kelola AI yang bertanggung jawab
Institut Ada Lovelace menekankan pentingnya tata kelola yang efektif dalam memastikan penerapan model AI yang bertanggung jawab dan etis. Entitas sektor publik harus secara proaktif mengelola risiko ini sekaligus memanfaatkan manfaat yang diberikan oleh AI.
Ringkasan kebijakan ini menyajikan serangkaian rekomendasi yang dirancang untuk memandu entitas sektor publik dalam adopsi AI:
Pembaruan Panduan Rutin: Dalam bidang yang dicirikan oleh evolusi yang cepat, panduan yang diberikan kepada sektor publik harus berkembang secara proporsional. Pembaruan rutin sangat penting untuk mempertahankan pengawasan yang efektif terhadap kemampuan AI.
Standar Pengadaan: Saat melibatkan perusahaan swasta untuk pengembangan AI, entitas sektor publik harus menerapkan standar pengadaan yang ketat yang menegakkan norma publik, memastikan transparansi dan akuntabilitas.
Penyimpanan Data Lokal: Badan sektor publik harus mewajibkan penyimpanan data lokal untuk aplikasi model dasar. Langkah ini memperkuat keamanan dan privasi data, mengurangi risiko pelanggaran data.
Audit Independen: Audit pihak ketiga yang independen harus menjadi prasyarat untuk semua model dasar yang digunakan dalam sektor publik, baik yang dikembangkan secara internal maupun yang diperoleh secara eksternal. Hal ini memastikan evaluasi menyeluruh terhadap kinerja model dan kepatuhan terhadap standar etika.
Pemantauan Berkelanjutan: Pemantauan berkelanjutan terhadap aplikasi model pondasi sangat penting untuk mendeteksi dan mengurangi potensi masalah secara tepat waktu.
Kerangka Transparansi: Menerapkan Standar Perekaman Transparansi Algoritmik di seluruh sektor publik dapat meningkatkan akuntabilitas dan transparansi dalam penerapan AI.
Partisipasi Publik: Aplikasi AI yang ditujukan untuk masyarakat harus mencakup keterlibatan yang bermakna dengan masyarakat untuk mengatasi berbagai permasalahan dan menjamin keselarasan AI dengan kepentingan terbaik masyarakat.
Inisiatif Percontohan: Entitas sektor publik harus memulai program percontohan untuk kasus penggunaan AI baru guna mengungkap dan mengatasi potensi risiko dan tantangan sebelum implementasi yang meluas.
Pelatihan Tenaga Kerja: Sangat penting untuk membekali karyawan dengan pengetahuan dan keterampilan yang dibutuhkan untuk mengembangkan, mengawasi, atau menggunakan model dasar. Hal ini memastikan penerapan AI yang bertanggung jawab.
Seruan untuk upaya terpadu
Ringkasan kebijakan dari Ada Lovelace Institute menggarisbawahi potensi signifikan yang dimiliki model dasar bagi sektor publik. Namun, mewujudkan potensi ini memerlukan upaya kolaboratif untuk mengembangkan dan menerapkan AI secara bertanggung jawab, aman, dan etis.
Sektor publik kini berada di titik krusial di mana inovasi dan pertimbangan etika harus berjalan beriringan. Dengan mematuhi rekomendasi yang diuraikan dalam ringkasan, entitas sektor publik dapat menggunakan AI sebagai alat untuk transformasi positif sekaligus secara hati-hati menjaga terhadap tantangan potensial.
Karena teknologi AI terus mengalami kemajuan pesat, pemerintah dan organisasi sektor publik harus memprioritaskan penggunaan AI yang bertanggung jawab, memastikan bahwa model-model ini memberikan manfaat bagi masyarakat yang lebih besar, mematuhi prinsip-prinsip etika, dan berkontribusi pada peningkatan penyediaan layanan untuk semua.