#opg $OPG
Sebuah pertanyaan aneh menghampiriku saat membaca tentang verifiable AI:

Bagaimana jika jawabannya nyata, tetapi prompt-nya diam-diam diubah sebelum model melihatnya?

Kedengarannya kecil sampai kamu membayangkan sebuah agen AI yang menyetujui sebuah transaksi, memeriksa dokumen, atau menjelaskan sebuah keputusan yang memengaruhi uang.

Jawaban AI biasa memberi tahu apa yang kembali.

Namun itu tidak selalu membuktikan pertanyaan mana yang benar-benar dijawab.

Di sinilah OpenGradient menjadi lebih menarik daripada produk obrolan biasa.

Di dalam jalur inferensi privat OpenGradient, respons dapat ditandatangani oleh enclave atas tiga hal: hash permintaan, hash output, dan sebuah timestamp.

Artinya, klien tidak hanya menerima jawaban.

Ia bisa memeriksa apakah jawaban tersebut terikat pada prompt yang sama yang awalnya dikirim, apakah output telah diubah, dan apakah tanda tangan berasal dari lingkungan attested yang diharapkan.

Itu adalah model kepercayaan yang sangat berbeda.

Alih-alih mengatakan, “Ini hasilnya, percaya pada server,” @OpenGradient memberi sistem cara untuk berkata, “Ini hasilnya, dan ini bukti kriptografis tentang permintaan mana yang menghasilkannya.”

Saya pikir ini paling penting untuk agen.

Manusia mungkin memaafkan jawaban yang janggal dan meminta lagi. Tapi agen bisa bertindak langsung. Jika prompt ditukar, tindakan itu masih bisa terlihat valid dari luar sementara sebenarnya didasarkan pada instruksi yang salah.

chat.opengradient.ai membuat sisi pengguna jadi sederhana, tetapi lapisan verifikasi inilah yang membuat infrastrukturnya serius.

Apakah kamu akan lebih percaya pada agen AI jika setiap output bisa membuktikan prompt mana yang membuatnya?