#opg $OPG Semakin Banyak AI Dibatasi, Semakin Penting Verifikasi
Saya sedang membaca tentang aturan penggunaan beberapa model AI canggih dan itu membuat saya berpikir tentang sesuatu yang tidak banyak dibicarakan orang.
Kebanyakan orang berpikir tentang siapa yang memiliki model AI tersebut.
Saya terus berpikir tentang siapa yang bisa memeriksa apa yang sebenarnya dilakukan model itu.
Industri AI sekarang dikuasai oleh perusahaan-perusahaan besar. Mereka mengendalikan model, sistem, pembaruan, dan sering kali aturan tentang siapa yang bisa menggunakannya. Ketika aturan baru muncul, baik untuk keselamatan, kebijakan, atau hukum, pengguna biasanya harus menerimanya.
Saat itulah saya memperhatikan OpenGradient.
Yang berbeda tentang OpenGradient bukanlah janji mereka untuk AI. Banyak proyek yang menjanjikan itu. Hal menariknya adalah mereka ingin menciptakan sistem di mana kita bisa memeriksa apa yang dilakukan AI, alih-alih hanya mempercayainya. Sistem ini dirancang sehingga kita bisa melihat apa yang dilakukan AI, memiliki komputer untuk ini, dan menggunakan kode rahasia untuk memverifikasi hal-hal, alih-alih mengandalkan satu orang untuk memimpin.
Masih ada beberapa pertanyaan.
Memeriksa apa yang dilakukan AI terdengar seperti ide yang baik, tetapi seberapa banyak pengguna yang benar-benar akan melakukannya? Apakah pengembang akan baik-baik saja dengan jika itu menjadi lebih rumit jika lebih mudah menggunakan perusahaan besar? Bisakah sistem yang tidak dikendalikan oleh satu perusahaan bersaing dengan perusahaan AI yang menghabiskan banyak uang untuk sistem?
Saya telah melihat banyak proyek yang menggunakan kode mengklaim bahwa mereka adil, tetapi mereka hanya menciptakan kembali masalah yang sama yang seharusnya mereka selesaikan.
Fokus OpenGradient pada pengguna yang mengendalikan informasi mereka, dapat memeriksa apa yang dilakukan AI, dan dapat memindahkan informasi AI mereka terasa seperti upaya nyata untuk melakukan sesuatu yang berbeda.
Uji sebenarnya adalah apakah orang akhirnya akan memutuskan bahwa mempercayai sesuatu tidaklah cukup.
Jika AI mulai digunakan untuk hal-hal seperti uang, perawatan kesehatan, siapa kita, dan sistem publik, haruskah kita dapat memeriksa apa yang dilakukannya?
Apakah kita bergerak menuju masa depan di mana kemampuan untuk memeriksa AI sama pentingnya dengan AI itu sendiri? @OpenGradient
Saya sedang membaca tentang aturan penggunaan beberapa model AI canggih dan itu membuat saya berpikir tentang sesuatu yang tidak banyak dibicarakan orang.
Kebanyakan orang berpikir tentang siapa yang memiliki model AI tersebut.
Saya terus berpikir tentang siapa yang bisa memeriksa apa yang sebenarnya dilakukan model itu.
Industri AI sekarang dikuasai oleh perusahaan-perusahaan besar. Mereka mengendalikan model, sistem, pembaruan, dan sering kali aturan tentang siapa yang bisa menggunakannya. Ketika aturan baru muncul, baik untuk keselamatan, kebijakan, atau hukum, pengguna biasanya harus menerimanya.
Saat itulah saya memperhatikan OpenGradient.
Yang berbeda tentang OpenGradient bukanlah janji mereka untuk AI. Banyak proyek yang menjanjikan itu. Hal menariknya adalah mereka ingin menciptakan sistem di mana kita bisa memeriksa apa yang dilakukan AI, alih-alih hanya mempercayainya. Sistem ini dirancang sehingga kita bisa melihat apa yang dilakukan AI, memiliki komputer untuk ini, dan menggunakan kode rahasia untuk memverifikasi hal-hal, alih-alih mengandalkan satu orang untuk memimpin.
Masih ada beberapa pertanyaan.
Memeriksa apa yang dilakukan AI terdengar seperti ide yang baik, tetapi seberapa banyak pengguna yang benar-benar akan melakukannya? Apakah pengembang akan baik-baik saja dengan jika itu menjadi lebih rumit jika lebih mudah menggunakan perusahaan besar? Bisakah sistem yang tidak dikendalikan oleh satu perusahaan bersaing dengan perusahaan AI yang menghabiskan banyak uang untuk sistem?
Saya telah melihat banyak proyek yang menggunakan kode mengklaim bahwa mereka adil, tetapi mereka hanya menciptakan kembali masalah yang sama yang seharusnya mereka selesaikan.
Fokus OpenGradient pada pengguna yang mengendalikan informasi mereka, dapat memeriksa apa yang dilakukan AI, dan dapat memindahkan informasi AI mereka terasa seperti upaya nyata untuk melakukan sesuatu yang berbeda.
Uji sebenarnya adalah apakah orang akhirnya akan memutuskan bahwa mempercayai sesuatu tidaklah cukup.
Jika AI mulai digunakan untuk hal-hal seperti uang, perawatan kesehatan, siapa kita, dan sistem publik, haruskah kita dapat memeriksa apa yang dilakukannya?
Apakah kita bergerak menuju masa depan di mana kemampuan untuk memeriksa AI sama pentingnya dengan AI itu sendiri? @OpenGradient