Sebagai hasil dari pekerjaanku dengan $OPG , satu hal terus muncul: ingatan AI biasanya dipromosikan sebagai fitur kenyamanan.
Aplikasi ini mengetahui pengaturanmu. Aplikasi ini mengetahui riwayat percakapan. Ia memanfaatkan pengetahuan itu untuk respons yang lebih cerdas. Memang terdengar nyaman, tetapi ketika ingatan mulai berperan dalam memengaruhi keputusan yang akan datang, sekadar “kenyamanan” tidak lagi menjadi satu-satunya faktor yang bekerja.
Lihat data yang diingat oleh AI: latar belakang kesehatan pengguna. Situasi keuangannya. Keputusan yang dibuat melalui diskusi panjang selama berminggu-minggu. Data itu tidak bisa dibiarkan pasif—ia akan memengaruhi output AI, dan tidak ada cara untuk mengetahui bagaimana.
@OpenGradient sedang mengerjakan MemSync, lapisan ingatan yang dapat diverifikasi. Alih-alih tetap menjadi basis data privat yang pengguna harus percaya begitu saja sebagai sesuatu yang benar, ingatan berubah menjadi status yang dapat diverifikasi. Pembuatan, klasifikasi, penelusuran, dan penggunaan ingatan itu menjadi dapat diaudit.
Aku mendapati proses ini dipandang melalui kacamata perbedaan antara “kotak hitam” yang mengingat dan sebuah mekanisme yang mampu membuktikan apa yang diingat dan mengapa.
Bagian yang mudah adalah ini: tantangannya adalah membuat ingatan dapat diaudit tanpa membuka sesuatu
#OPG
Aplikasi ini mengetahui pengaturanmu. Aplikasi ini mengetahui riwayat percakapan. Ia memanfaatkan pengetahuan itu untuk respons yang lebih cerdas. Memang terdengar nyaman, tetapi ketika ingatan mulai berperan dalam memengaruhi keputusan yang akan datang, sekadar “kenyamanan” tidak lagi menjadi satu-satunya faktor yang bekerja.
Lihat data yang diingat oleh AI: latar belakang kesehatan pengguna. Situasi keuangannya. Keputusan yang dibuat melalui diskusi panjang selama berminggu-minggu. Data itu tidak bisa dibiarkan pasif—ia akan memengaruhi output AI, dan tidak ada cara untuk mengetahui bagaimana.
@OpenGradient sedang mengerjakan MemSync, lapisan ingatan yang dapat diverifikasi. Alih-alih tetap menjadi basis data privat yang pengguna harus percaya begitu saja sebagai sesuatu yang benar, ingatan berubah menjadi status yang dapat diverifikasi. Pembuatan, klasifikasi, penelusuran, dan penggunaan ingatan itu menjadi dapat diaudit.
Aku mendapati proses ini dipandang melalui kacamata perbedaan antara “kotak hitam” yang mengingat dan sebuah mekanisme yang mampu membuktikan apa yang diingat dan mengapa.
Bagian yang mudah adalah ini: tantangannya adalah membuat ingatan dapat diaudit tanpa membuka sesuatu
#OPG
