Semua orang membicarakan cara melindungi data pribadi.
Saya pikir masalah yang lebih sulit justru dimulai setelah data sudah terlindungi.
Enkripsi menyelesaikan tantangan penting.
Ini menjaga informasi tetap tersembunyi saat berpindah melalui jaringan dan saat tersimpan di penyimpanan.
Namun, sistem keuangan tidak mengenkripsi data hanya untuk menguncinya agar tetap tersembunyi selamanya.
Pada akhirnya, seseorang harus mengambil keputusan.
Di situlah privasi menjadi lebih rumit dari yang diduga.
Bayangkan sebuah agen AI yang meninjau transaksi perbendaharaan perusahaan.
Permintaan ini mencakup neraca keuangan yang bersifat rahasia, batas risiko internal, dan catatan kepatuhan.
Semuanya dienkripsi sebelum keluar dari perusahaan.
Tidak ada pihak luar yang bisa membacanya.
Penyimpanan tetap aman.
Transmisi tetap aman.
Dari luar, masalah privasi tampak sudah teratasi.
Namun kemudian, permintaan otorisasi tiba.
Seseorang, atau sesuatu, harus mengevaluasi apakah transaksi itu seharusnya terjadi.
Saat sebuah keputusan menjadi perlu, muncullah pertanyaan yang sulit.
Dapatkah sebuah sistem membuat keputusan yang tepat tanpa mengekspos informasi yang ada di baliknya?
Saya pikir ini adalah salah satu tantangan yang paling jarang dibahas dalam AI institusional.
Kebanyakan percakapan menganggap privasi sebagai masalah penyimpanan.
Institusi merasakannya sebagai masalah keputusan.
Menyembunyikan rahasia hanyalah permulaan.
Tantangan sebenarnya adalah memutuskan siapa yang harus mempelajari rahasia-rahakarta itu sebelum otorisasi menjadi mungkin.
Sistem tradisional biasanya menerima kompromi yang sederhana.
Sebelum sebuah kebijakan dapat dievaluasi, informasi yang mendasarinya menjadi terlihat bagi siapa pun yang melakukan verifikasi.
Pendekatan itu berhasil.
Namun, hal itu diam-diam menciptakan asumsi kepercayaan lain.
Anda tidak lagi mempercayai kebijakan saja.
Anda mempercayai orang-orang dan infrastruktur yang sementara mendapatkan akses ke informasi tersebut.
Asumsi itu menjadi semakin tidak nyaman ketika AI mulai menangani catatan medis, keuangan perusahaan, portofolio yang ditokenisasi, penyaringan sanksi, dan verifikasi identitas.
Nilai data meningkat.
Begitu juga biaya untuk mengeksposnya.
Saat menjelajahi arsitektur otorisasi yang berbeda, @newton_xyz mendekati masalah ini dengan cara yang berbeda.
Alih-alih menganggap enkripsi sebagai lapisan perlindungan terakhir, ia memperluas privasi ke proses otorisasi itu sendiri.
Informasi sensitif dienkripsi di klien sebelum masuk ke jaringan.
Daripada mengirim plaintext ke evaluasi kebijakan, klien mengunggah SecureEnvelopes terenkripsi dan menerima pengenal referensi.
Referensi-referensi tersebut menjadi bagian dari permintaan otorisasi, alih-alih mengekspos data aslinya.
Desain itu menciptakan lapisan perlindungan menarik lainnya.
Informasi terenkripsi saja tidak cukup.
Newton juga mengikat otorisasi pada maksud pengguna dan persetujuan aplikasi melalui model tanda tangan ganda.
Meskipun referensi terenkripsi ada, referensi itu tidak dapat begitu saja digunakan ulang dalam konteks lain tanpa rantai otorisasi yang diperlukan.
Privasi tidak lagi hanya melekat pada data.
Ia melekat pada keputusan yang dimaksudkan agar data tersebut mendukung.
Itu terasa seperti pergeseran penting.
Alih-alih bertanya,
"Siapa pemilik informasi ini?"
Sistem juga bertanya,
"Siapa yang diizinkan menggunakan informasi ini, untuk keputusan ini, dalam kondisi spesifik yang spesifik ini?"
Itu adalah pertanyaan yang sangat berbeda.
Dan saya pikir keuangan institusional akan semakin peduli pada yang kedua.
Jika privasi pada akhirnya harus mendukung sebuah keputusan, maka setiap sistem otorisasi menghadapi dilema yang sama.
Haruskah ia mengungkapkan informasi sensitif untuk membuat keputusan yang lebih baik?
Atau haruskah ia melindungi informasi bahkan jika itu membuat evaluasi menjadi lebih sulit?
Tidak ada pilihan yang sempurna.
Mengekspos data meningkatkan keyakinan pada keputusan, tetapi juga meningkatkan paparan.
Menyembunyikan semuanya melindungi kerahasiaan, tetapi dapat membatasi apa yang mampu diverifikasi oleh sistem.
Privasi tidak menghilangkan kepercayaan. Privasi mengubah tempat kepercayaan harus ada.
Itu bisa menjadi salah satu pertanyaan yang menentukan bagi keuangan yang digerakkan oleh AI.
Sistem tradisional biasanya menyelesaikannya dengan mempercayai siapa pun yang melakukan verifikasi.
Seseorang mendekripsi informasi itu.
Seseorang memeriksa kebijakan.
Seseorang menyetujui permintaan.
Model itu telah bekerja selama bertahun-tahun.
Namun AI mengubah skalanya.
Beribu-ribu keputusan otomatis dapat terjadi setiap jam.
Setiap titik tambahan di mana informasi sensitif menjadi terlihat juga menjadi titik lain yang harus dipercaya.
Karena itulah saya pikir masa depan privasi bukan sekadar enkripsi yang lebih kuat.
Evaluasi yang lebih cerdas.
Arsitektur Newton mencerminkan arah tersebut.
Untuk banyak beban kerja, operator dapat secara kolektif mengevaluasi informasi yang dilindungi tanpa bergantung pada satu pihak tepercaya. Saat kebutuhan privasi menjadi semakin menuntut, arsitektur juga mengeksplorasi pendekatan yang mengurangi seberapa banyak informasi sensitif perlu diekspos selama evaluasi itu sendiri.
Gagasan pentingnya bukan bahwa satu teknologi memecahkan setiap masalah.
Itu berarti privasi menjadi bagian dari otorisasi, bukan berakhir sebelum otorisasi dimulai.
Pertimbangkan contoh lain.
Bayangkan sebuah dana real estat yang ditokenisasi menggunakan AI untuk menyetujui penarikan investor.
Dompet memiliki izin.
Transaksi tersebut ditandatangani dengan benar.
Kebijakannya valid.
Namun persetujuan juga bergantung pada catatan kepemilikan yang bersifat rahasia, pemeriksaan kepatuhan, dan batas internal dana.
Jika setiap pengulas harus terlebih dahulu membaca semua informasi itu, privasi melemah setiap kali sebuah keputusan dibuat.
Jika proses otorisasi dapat mengevaluasi permintaan sambil membatasi paparan yang tidak perlu, sistem melindungi lebih dari sekadar data.
Itu melindungi keputusan itu sendiri.
Hal itu menciptakan pergeseran penting dalam cara institusi mungkin menilai infrastruktur blockchain.
Selama bertahun-tahun, privasi diukur oleh satu pertanyaan.
"Bisakah sistem ini menjaga informasi tetap rahasia?"
Saya pikir pertanyaan berikutnya akan jauh lebih sulit.
"Bisakah sistem ini membuat keputusan yang tepat sambil mengekspos sesedikit mungkin informasi?"
Itu adalah standar yang benar-benar berbeda.
Langkah pertama adalah penyimpanan.
Yang kedua mengukur tata kelola.
Yang pertama melindungi informasi.
Yang kedua melindungi pengambilan keputusan.
Perbedaan itu akan semakin penting ketika AI mulai mengelola catatan layanan kesehatan, treasury perusahaan, dana yang ditokenisasi, identitas digital, dan aset keuangan terregulasi.
Sistem yang paling berharga mungkin bukan yang mengenkripsi data paling banyak.
Merekalah yang mungkin mengungkapkan informasi paling sedikit sambil tetap menghasilkan keputusan yang dapat dipercaya.
Mungkin itulah transisi sesungguhnya yang terjadi di balik percakapan privasi saat ini.
Selama bertahun-tahun, kami bertanya,
"Bisakah data ini tetap privat?"
Institusi generasi berikutnya mungkin akan bertanya sesuatu yang jauh lebih penting.
"Berapa banyak privasi yang harus dikorbankan sebelum keputusan ini menjadi mungkin?"
Karena masa depan privasi mungkin tidak dimiliki oleh sistem yang menyembunyikan informasi paling lama.
Mungkin itu milik sistem yang mengungkapkan sesedikit mungkin, namun tetap membuat keputusan yang tepat.
