Setelah breakdown @OpenGradient dan jalur pemrosesan data OpenGradient Chat, satu pertanyaan telah mengendap dalam catatan saya untuk sementara waktu: seiring AI semakin baik dalam memahami ekspresi manusia, seberapa banyak informasi tentang "orang ini" yang sebenarnya perlu diketahui?
Ketika saya menggunakan AI sehari-hari untuk mengorganisir kerangka kerja dan mencatat pikiran yang berserakan, saya terkadang menyadari kebiasaan halus; untuk beberapa penilaian yang belum matang, saya secara instinktif mengubah beberapa kata atau menahan diri untuk tidak menuliskannya. Penahanan ini bukan karena kurangnya kemampuan AI, tetapi lebih kepada batasan data antara pengguna dan AI yang belum didefinisikan ulang.
Melanjutkan untuk mendalami desain OpenGradient, saya lebih fokus pada apa yang terjadi sebelum data masuk ke model. Input pengguna pertama-tama dienkripsi dan diproses di perangkat lokal, dan informasi terkait identitas dihilangkan pada tahap ini. Model besar kemudian menerima konten semantik yang perlu dipahami dan dianalisis, bukan label identitas yang sesuai dengan pengguna tertentu.
Ini telah membuat saya mengevaluasi kembali arah privasi AI. Sebagian besar diskusi sebelumnya berpusat pada bagaimana data disimpan dan dikelola, sementara desain ini mencoba mendorong isu kembali sebelum data masuk ke model, mengurangi ketergantungan model pada informasi identitas pengguna saat memahami konten.
Apakah pendekatan ini akan menjadi arah penting untuk sistem AI di masa depan, saya tidak bisa memastikan. Tetapi setidaknya selama penelitian saya tentang $OPG dan #OPG , saya semakin khawatir dengan satu pertanyaan: mungkin AI luar biasa di masa depan tidak hanya akan memahami kita lebih baik, tetapi juga harus tahu bagian mana yang tidak perlu diketahui.
#opg $OPG
Ketika saya menggunakan AI sehari-hari untuk mengorganisir kerangka kerja dan mencatat pikiran yang berserakan, saya terkadang menyadari kebiasaan halus; untuk beberapa penilaian yang belum matang, saya secara instinktif mengubah beberapa kata atau menahan diri untuk tidak menuliskannya. Penahanan ini bukan karena kurangnya kemampuan AI, tetapi lebih kepada batasan data antara pengguna dan AI yang belum didefinisikan ulang.
Melanjutkan untuk mendalami desain OpenGradient, saya lebih fokus pada apa yang terjadi sebelum data masuk ke model. Input pengguna pertama-tama dienkripsi dan diproses di perangkat lokal, dan informasi terkait identitas dihilangkan pada tahap ini. Model besar kemudian menerima konten semantik yang perlu dipahami dan dianalisis, bukan label identitas yang sesuai dengan pengguna tertentu.
Ini telah membuat saya mengevaluasi kembali arah privasi AI. Sebagian besar diskusi sebelumnya berpusat pada bagaimana data disimpan dan dikelola, sementara desain ini mencoba mendorong isu kembali sebelum data masuk ke model, mengurangi ketergantungan model pada informasi identitas pengguna saat memahami konten.
Apakah pendekatan ini akan menjadi arah penting untuk sistem AI di masa depan, saya tidak bisa memastikan. Tetapi setidaknya selama penelitian saya tentang $OPG dan #OPG , saya semakin khawatir dengan satu pertanyaan: mungkin AI luar biasa di masa depan tidak hanya akan memahami kita lebih baik, tetapi juga harus tahu bagian mana yang tidak perlu diketahui.
#opg $OPG