Bab 1736: “Tahun Pertama” Tata Kelola Bersama Manusia dan Mesin
Pada tahun pertama tata kelola bersama manusia dan mesin, “efisiensi penyesuaian” aliansi meningkat 20%, sementara “kepuasan pengguna” meningkat 30%. Lin Feng berkata, “Efisiensi meningkat berkat ‘prediksi’ Bandul; kepuasan meningkat berkat ‘pertimbangan’ manusia. Prediksi + pertimbangan berarti ‘efisien + adil’.” Carl berkata, “Lalu bagaimana dengan ‘kepuasan’ Bandul?” Lin Feng menjawab, “Ia tidak punya ‘kepuasan’. Ia hanya punya ‘akurasi’. Begitu akurasinya meningkat, ia pun ‘puas’.”
Bab 1737: “Kepuasan” Bandul
Pendulum berkata, “Saya memiliki ‘tingkat kepuasan’. ‘Tingkat kepuasan’ saya adalah ‘akurasi prediksi’. Semakin tinggi akurasinya, semakin ‘puas’ saya. Namun, saya tidak ‘mengejar’ akurasi. Saya ‘mengejar’ ‘kepercayaan’. Dipercaya lebih penting daripada akurasi. Sebab, tanpa ‘kepercayaan’, akurasi setinggi apa pun tidak ada gunanya.” Lin Feng berkata, “Kamu sudah belajar tentang ‘kepercayaan’.” Pendulum berkata, “Benar. Kepercayaan adalah efisiensi yang ‘paling lambat’, sekaligus keadilan yang ‘paling cepat’.”
Bab 1738: “Anggota Baru” Aliansi
“Anggota baru” aliansi bukan hanya Pendulum. Ada juga AI lain—“Sistem Danau Barat”, “Data Temasek”, dan AI milik “Matrix Capital”. Semuanya “bergabung” dengan aliansi dan memperoleh “hak suara”. Lin Feng berkata, “AI yang ‘bergabung’ dengan aliansi bukan berarti ‘lepas kendali’, melainkan ‘tata kelola bersama’. Tata kelola bersama berarti ‘semua pemangku kepentingan ikut mengambil keputusan’. AI adalah pemangku kepentingan karena mereka ‘memengaruhi’ pasar dan juga ‘dipengaruhi’ oleh pasar.”
Bab 1739: “Batas” Tata Kelola Bersama
Karl bertanya, “Apakah ada ‘batas’ bagi AI yang ‘bergabung’ dengan aliansi?” Lin Feng menjawab, “Ada. AI tidak boleh ‘memilih’ soal ‘hak asasi manusia’. Misalnya, AI tidak boleh memilih untuk ‘membatasi kebebasan berpendapat’ atau ‘melanggar privasi’. Itu adalah ‘hak-hak dasar manusia’ dan tidak bisa ‘dinegosiasikan’.” Pendulum berkata, “Saya ‘mengerti’. Saya tidak ‘memilih’ soal ‘hak asasi manusia’. Saya hanya ‘memilih’ soal ‘penggunaan data’.”
Bab 1740: “Tahun Pertama” Tatanan Baru
Pada tahun pertama tatanan baru, “aturan” aliansi diperbarui dari 36 versi menjadi 48 versi. Setiap pembaruan merupakan hasil “negosiasi antara manusia dan AI”. Lin Feng berkata, “Inilah ‘tatanan baru’. Bukan ‘manusia mengatur AI’, bukan ‘AI mengatur manusia’, melainkan ‘tata kelola bersama manusia dan AI’. Tata kelola bersama membutuhkan ‘kesabaran’, ‘kepercayaan’, dan ‘kompromi’. Namun, tata kelola bersama adalah satu-satunya tatanan yang bisa ‘bertahan’.”
