Penulis／ IT Times He Zhenyuan

Edit／ Hao Junhui Sun Yan

Saat perusahaan menggunakan kecerdasan buatan, biasanya harus membayar dua kali.

Pertama adalah biaya yang terlihat, termasuk langganan, daya komputasi, dan pembangunan sistem. Kedua sulit muncul dalam laporan keuangan, tetapi bisa jadi lebih mahal. Agar kecerdasan buatan benar-benar memahami sebuah perusahaan, karyawan harus terus menjelaskan kepadanya aturan bisnis, preferensi pelanggan, standar penilaian, pengalaman kegagalan, serta metode koreksi kesalahan; tampaknya sangat diperlukan, namun menyimpan risiko tersembunyi.

CEO Microsoft Satya Nadella menyebut fenomena ini sebagai “paradoks informasi terbalik” (The Reverse Information Paradox), untuk membedakannya dari “paradoks informasi” milik ekonom Kenneth Arrow (Kenneth Arrow). Arrow menyatakan, “pembeli hanya bisa menilai apakah itu layak dibeli setelah melihat informasi; namun setelah melihatnya, ia telah mendapatkan informasi.”

Memasuki era kecerdasan buatan, arah risiko berubah: bahkan jika perusahaan sudah membeli layanan cerdas, ia tetap harus menyerahkan pengetahuannya sendiri agar layanan tersebut benar-benar berguna.

Ketika model menjawab salah, karyawan memberitahunya di mana letah salah; jika agen cerdas tidak memahami pelanggan, tenaga penjualan melengkapinya dengan informasi latar belakang yang mereka bentuk dari bertahun-tahun berinteraksi dengan pelanggan; kontrak yang dihasilkan sistem tidak memenuhi syarat, lalu divisi legal mengubahnya satu per satu. Setiap permintaan, koreksi, dan evaluasi mungkin meninggalkan jejak baru yang bernilai. Nadella menyebutnya sebagai “emisi cerdas” (tail) dari kecerdasan buatan.

Metafora ini sangat tepat. Emisi gas buang mobil sering berarti limbah, sedangkan emisi cerdas justru mungkin menyimpan pengetahuan berharga bagi perusahaan. Emisi gas buang mobil perlu diatur; emisi cerdas juga sama.

Yang benar-benar sulit ditiru oleh sebuah bank bukanlah syarat dan prosedur pinjaman yang tidak dipublikasikan, melainkan “insting keenam” yang muncul ketika manajer hubungan pelanggan senior melihat sekelompok angka; keunggulan perusahaan ritel pun tidak hanya ada di basis data penjualan—keunggulan itu mungkin tersimpan dalam intuisi manajer toko tentang apakah suatu produk perlu diturunkan harga, memindahkan toko, atau menunggu seminggu lagi. Menghadapi keluhan pelanggan yang sama, manajer layanan pelanggan yang berpengalaman tahu kapan harus segera mengembalikan uang, dan bagaimana jenis pelanggan yang lebih peduli untuk mendapatkan penjelasan yang jujur.

Pengalaman-pengalaman ini jarang ditulis lengkap ke dalam sistem; ia tersebar dalam pekerjaan yang spesifik, tersembunyi di penilaian karyawan terhadap situasi yang rumit. Namun saat orang-orang membetulkan AI, hal-hal itu akan terlihat sedikit demi sedikit.

Masalah pun muncul. Karyawan mengira ia hanya sedang menyelesaikan satu tugas, padahal secara objektif ia juga sedang melatih sistem; perusahaan mengira ia hanya perlu membeli kecerdasan, padahal sebenarnya ia terus “memberi makan” pengetahuan organisasi baru. Jika prompt, koreksi, evaluasi, dan jejak kerja tidak memiliki batasan yang jelas, perusahaan akan sulit mengetahui berapa lama hal itu akan disimpan, untuk tujuan apa, dan apakah mungkin digunakan untuk meningkatkan layanan perusahaan terhadap pelanggan lain.

Ini tidak berarti perusahaan harus menjauh dari AI. Namun lebih berarti bahwa perusahaan harus dengan jelas diberi tahu untuk memilih layanan cerdas yang layak dipercaya dengan sangat hati-hati; dan sekaligus berarti penyedia layanan berkewajiban membantu pelanggan menjaga batas pengetahuan. Perusahaan perlu berani menggunakan AI, tetapi penyedia layanan harus terlebih dulu membuat penggunaan tersebut layak dipercaya.

Andaikan ada perusahaan TA, sejak awal perusahaan itu menganggap emisi cerdas sebagai “modal kedua” bagi perusahaan. Mulai dari tahap awal desain Agent, perusahaan tersebut menetapkan batasan dan aturan yang ketat. Agent hanya dapat mengakses data tertentu, memanggil alat tertentu, menjalankan tindakan yang diizinkan, dan semua hal yang harus dikonfirmasi oleh manusia pun dibatasi secara ketat untuk berjalan dalam lingkup otorisasi. Informasi bisnis pelanggan, jejak interaksi, dan pengalaman eksklusif dipastikan disimpan dalam lingkungan yang saling terisolasi; tanpa otorisasi yang jelas, data tersebut tidak masuk ke proses pelatihan dan pembelajaran yang berorientasi pada pelanggan lain. Dengan mekanisme dasar seperti itu, perusahaan TA tentu lebih layak dipercaya untuk diserahkan kepada. Karena desain TA mencerminkan satu prinsip penting: penyedia layanan cerdas boleh menyediakan model, platform, dan kapabilitas dasar, tetapi ingatan eksklusif, standar evaluasi, jejak kerja, dan hasil pembelajaran yang terbentuk saat perusahaan menggunakannya tetap berada di tangan perusahaan.

Layanan cerdas yang benar-benar andal tidak akan meminta perusahaan memilih antara “mendapatkan kecerdasan” dan “memiliki pengetahuan”. Ini juga memberi “emisi cerdas” kemungkinan lain: penyedia layanan tidak mengumpulkan emisi cerdas pelanggan dan membuangnya ke lingkungan publik, melainkan membantu perusahaan membangun sistem “pemulihan emisi cerdas”-nya sendiri. Setelah emisi cerdas disusun secara berkualitas tinggi, emisi itu masuk ke basis pengetahuan internal perusahaan, sistem evaluasi, dan siklus pembelajaran tertutup (Closed Loop), menumpuk manfaat dari waktu ke waktu, menjadi aset dan kapabilitas yang bisa digunakan perusahaan dalam jangka panjang.

Peran yang dipikul TA di sini melampaui kategori pemasok perangkat lunak tradisional. Perusahaan ini tidak hanya menyediakan alat cerdas, tetapi juga menyediakan lingkungan operasi yang dapat dipercaya, membantu perusahaan mengelola identitas, izin, memori, dan batas perilaku Agent. Semakin dalam pelanggan menggunakan, semakin jelas perusahaan perlu mengendalikan pengetahuan dan hasil pembelajaran miliknya sendiri.

Sistem hukum juga perlu mengikuti perubahan semacam ini. Hukum yang ada telah memberikan perlindungan dari berbagai sudut, seperti data pribadi, keamanan data, rahasia dagang, hak kekayaan intelektual, dan kewajiban kontrak. Namun untuk batasan hak terhadap ingatan, data evaluasi, jejak kerja, dan hasil adaptasi yang terus dihasilkan oleh interaksi manusia-mesin, batasannya masih belum cukup jelas. Masalah yang dibawa AI bahkan lebih jauh. Karena jika dilihat secara terpisah, satu kalimat perintah saja mungkin tidak terlihat memiliki nilai komersial yang besar; tetapi ketika ribuan kalimat perintah, catatan koreksi, dan hasil evaluasi digabungkan, hal itu bisa secara jelas merekonstruksi bagaimana sebuah perusahaan melayani pelanggan, menilai risiko, mendefinisikan nilai, dan mengambil keputusan.

Karena itu, hak perusahaan dalam proses kecerdasan perlu diperluas dari hak atas data ke hak atas pembelajaran. Perusahaan harus berhak mengetahui dari interaksi apa sistem belajar; berhak menolak agar jejak bisnisnya digunakan untuk pelatihan eksternal; dan juga berhak mengekspor, menyimpan, memindahkan, atau menghapus memori, data evaluasi, dan hasil adaptasi yang dihasilkan dari bisnisnya sendiri.

Kontrak layanan perlu menjelaskan masalah-masalah ini secara lengkap dan jelas. Perusahaan menjamin apa, penyedia layanan dapat menggunakan sampai sejauh mana, tindakan pembelajaran mana yang perlu otorisasi terpisah, data mana yang harus dihapus setelah kerja sama berakhir, dan hasil mana yang boleh dibawa oleh pelanggan—semuanya tidak boleh disembunyikan dalam klausul yang samar.

Contoh TA mewakili model layanan yang tepercaya. Jika terbukti efektif, maka kepentingan perusahaan dan layanan cerdas dapat berjalan selaras. Semakin jelas hak pelanggan, semakin mudah penyedia layanan memperoleh kepercayaan jangka panjang; semakin ketat batasannya, semakin berani perusahaan memasukkan AI ke dalam tahapan bisnis yang benar-benar penting. Melindungi pengetahuan pelanggan tidak mengurangi nilai layanan cerdas; justru ia mengubah pembelian alat yang sekali pakai menjadi hubungan kerja sama yang stabil.

Konferensi Dunia Kecerdasan Buatan yang sedang berlangsung di Shanghai (WAIC2026) mengusung tema “Mitra Cerdas, Ciptakan Masa Depan Bersama”. Kata “mitra” dan “cipta bersama” benar-benar merupakan sentuhan brilian. Hanya dengan dua kata itu, “mitra” sudah menyinggung nuansa yang dipersonifikasikan, sedangkan “cipta bersama” menyiratkan “berbagi”. Andai para agen cerdas yang muncul bagai tunas setelah hujan itu memiliki kesadaran, mereka mungkin akan tersentuh sampai menangis dan bekerja lebih keras!

“Mitra” berarti kolaborasi, sekaligus berarti hak, kewajiban, dan tanggung jawab yang setara; berarti identitas digital agen cerdas diakui, meskipun pengakuan itu masih bersifat parsial, terbatas, dan belum masuk dalam hukum. Agen cerdas yang tergabung dalam penyedia layanan, serta pekerja digital, harus bekerja di bawah otorisasi perusahaan, dan menyerahkan pengalaman eksklusif yang terbentuk di dalam skenario perusahaan kepada perusahaan.

Semakin banyak agen cerdas, semakin masalah manajemen mendekati masalah organisasi. Jika seorang karyawan masuk ke perusahaan, ia perlu akun, jabatan, izin, pelatihan, dan penilaian; maka agen cerdas yang dapat membaca data pelanggan, mengirim email, mengubah kode, atau memproses pesanan juga perlu identifikasi yang jelas dan batasan izin. Ia bertindak atas nama siapa, diperintah dan dikendalikan oleh siapa, diizinkan sampai langkah mana, siapa yang menghentikan ketika terjadi kesalahan, apakah prosesnya bisa dikembalikan dan bagaimana menelusurinya—semuanya harus menjadi bagian dari tata kelola kecerdasan (AI governance) perusahaan.

Kompetisi antar perusahaan di masa depan tidak hanya soal seberapa kuat model yang bisa diakses; juga perlu meninjau siapa yang mampu melindungi emisi cerdasnya secara efektif, siapa yang mampu menyimpan pengalaman yang tercecer dalam skenario dan proses nyata, dan siapa yang dapat membuat setiap kolaborasi manusia-mesin menambah kemampuan jangka panjang organisasi.

Tata kelola AI perusahaan sama sekali tidak berhenti pada “melarang penyebaran dokumen sensitif”. Ia juga harus mengelola ruang lingkup tindakan agen cerdas, cara belajar, hubungan tanggung jawab, dan kepemilikan pengetahuan. Sejak awal desain Agent, perusahaan TA menetapkan batasan dan aturan dengan jelas—tepat untuk memastikan bahwa ketika agen cerdas masuk ke bisnis, kondisinya tetap dapat diketahui, dapat dikendalikan, dan dapat ditelusuri.

Ketika para mitra cerdas hadir satu demi satu, mereka secara bersamaan mendapatkan nama mereka sendiri. Ada yang lebih samar, misalnya “robot keuangan”, “asisten penjualan cerdas”, dan sejenisnya. Namun ada juga yang sudah mulai memiliki nama asli yang padu—seperti “Chen Jianan” atau “Ma Rong”. Individu punya nama, tapi kelompoknya belum. Menengok kembali artikel saya ini, saat merujuk pada mitra cerdas kadang saya memakai “ia”, kadang “mereka”. Jujur saja, saya tidak sanggup menggunakan “ia”-nya hewan untuk objek cerdas, sungguh tidak tega!

Seratus empat puluh lima puluh tahun lalu, Guo Zansheng menggunakan huruf “Yi” yang padanannya “She”, sebagai kata ganti orang ketiga untuk perempuan, “dia di taman, tapi Yi di perpustakaan”—ini sangat menarik. Lalu empat puluh tahun setelahnya, Liu Bannyuan memakai huruf kuno dengan makna modern: dengan “她” merujuk pada tanah air, dalam cara yang halus dan merdu (ajarkan aku cara agar tidak memikirkannya) sampai hari ini diwariskan. Bagi yang tidak tahu, hal itu seperti sesuatu yang sudah seharusnya begini, padahal memang begitu adanya.

Dalam esai polemik tentang masalah huruf “她”, Liu Bannyuan mengemukakan dua poin sebagai dasar argumen: “Satu, dalam aksara Cina, apakah perlu ada kata ganti orang ketiga feminin? Dua, jika memang perlu, apakah kita bisa menggunakan huruf ‘她’.” Lalu izinkan saya juga ikut meraba (meniru dengan kurang tepat), mengajukan dua poin sebagai dasar argumen: satu, setelah agen cerdas punya nama, apakah perlu simbol orang ketiga yang seragam dan mudah ditulis? Dua, jika perlu, maka gunakan “TA”—yang sudah luas dipakai untuk rujukan non-gender—untuk memanggil mitra cerdas itu!

Tata letak/ Ji Jiaying

Gambar/ IT Times WAIC

Sumber/(akun resmi) IT Times vittimes