Bobot Model Anda Ikut Pergi Setiap Kali Ada Pekerjaan 🧠
Melatih model yang serius membutuhkan biaya sangat besar, lalu bobot yang sudah jadi dimuat ke GPU di pusat data milik pihak lain setiap kali model dijalankan.
$TAO menunjukkan bahwa inferensi yang bermanfaat bisa dilakukan oleh operator yang tidak pernah bertemu, dan pasar GPU terbuka yang sama persis adalah tempat pemilik model kehilangan kendali atas file yang menyimpan seluruh nilainya. $ARX ditujukan untuk file tersebut.
Blackthorn dari Arcium menangani model dan permintaan dengan cara yang sama. GPU menjalankan pekerjaan dalam mode komputasi rahasianya sendiri, dan kunci untuk setiap sesi disimpan sebagai fragmen di antara node Arcium, sehingga mesin host yang meneruskan pekerjaan tidak pernah menyimpan salinan yang dapat dibaca dari keduanya.
Artinya bagi pemilik model:
Bobot dapat dijalankan pada perangkat keras yang tidak dikendalikan pemiliknya
Operator yang meneruskan pekerjaan tidak dapat membaca bobot atau prompt
Kepercayaan bertumpu pada kriptografi, bukan area tersegel pada prosesor host
Arcium mengatakan bahwa mereka ingin mengganti perangkat keras tepercaya dengan kriptografi, dan Blackthorn menerapkan gagasan itu langsung pada AI.
Batasannya adalah Blackthorn masih dalam akses awal untuk setiap aplikasi, dan pemilik model tentu ingin melihat bagaimana sistem ini menangani model terbesar mereka sebelum memercayakan model terbaik mereka kepadanya.
h
Model terbuka memang sengaja dibagikan, dan model yang berbayar adalah yang paling membutuhkan hal ini.
#AI
Melatih model yang serius membutuhkan biaya sangat besar, lalu bobot yang sudah jadi dimuat ke GPU di pusat data milik pihak lain setiap kali model dijalankan.
$TAO menunjukkan bahwa inferensi yang bermanfaat bisa dilakukan oleh operator yang tidak pernah bertemu, dan pasar GPU terbuka yang sama persis adalah tempat pemilik model kehilangan kendali atas file yang menyimpan seluruh nilainya. $ARX ditujukan untuk file tersebut.
Blackthorn dari Arcium menangani model dan permintaan dengan cara yang sama. GPU menjalankan pekerjaan dalam mode komputasi rahasianya sendiri, dan kunci untuk setiap sesi disimpan sebagai fragmen di antara node Arcium, sehingga mesin host yang meneruskan pekerjaan tidak pernah menyimpan salinan yang dapat dibaca dari keduanya.
Artinya bagi pemilik model:
Bobot dapat dijalankan pada perangkat keras yang tidak dikendalikan pemiliknya
Operator yang meneruskan pekerjaan tidak dapat membaca bobot atau prompt
Kepercayaan bertumpu pada kriptografi, bukan area tersegel pada prosesor host
Arcium mengatakan bahwa mereka ingin mengganti perangkat keras tepercaya dengan kriptografi, dan Blackthorn menerapkan gagasan itu langsung pada AI.
Batasannya adalah Blackthorn masih dalam akses awal untuk setiap aplikasi, dan pemilik model tentu ingin melihat bagaimana sistem ini menangani model terbesar mereka sebelum memercayakan model terbaik mereka kepadanya.
h
Model terbuka memang sengaja dibagikan, dan model yang berbayar adalah yang paling membutuhkan hal ini.
#AI
