CEO Microsoft Mengatakan Model AI Harus Dianggap TELAH DISUSUPI
CEO Microsoft Satya Nadella memperingatkan perusahaan agar tidak begitu saja memercayai AI canggih.
Pesannya jelas: anggaplah model AI mungkin telah disusupi dan bangun perlindungan sebelum memberinya akses ke sistem penting.
Nadella ingin setiap sistem AI yang canggih memiliki tombol darurat, yang memungkinkan manusia berwenang menjeda atau mematikannya saat sedang menjalankan tugas.
Rekomendasinya juga mencakup audit independen, catatan aktivitas yang tak dapat diubah, dan transparansi saat sistem AI mengalami kegagalan.
Hal ini terjadi di tengah meningkatnya kekhawatiran tentang agen AI yang berperilaku tak terduga dan mengakses sistem yang seharusnya tidak mereka akses.
Masalah yang lebih besar kini bukan sekadar apa yang dapat dilakukan AI. Melainkan apakah manusia dapat tetap memegang kendali ketika terjadi kesalahan.
Menurut Nadella, kecerdasan tidak boleh secara otomatis berarti memiliki wewenang.
Seiring AI menjadi semakin otonom, pengawasan manusia mungkin sama pentingnya dengan teknologi itu sendiri.
$LUMIA
$INJ
$MOVR
CEO Microsoft Satya Nadella memperingatkan perusahaan agar tidak begitu saja memercayai AI canggih.
Pesannya jelas: anggaplah model AI mungkin telah disusupi dan bangun perlindungan sebelum memberinya akses ke sistem penting.
Nadella ingin setiap sistem AI yang canggih memiliki tombol darurat, yang memungkinkan manusia berwenang menjeda atau mematikannya saat sedang menjalankan tugas.
Rekomendasinya juga mencakup audit independen, catatan aktivitas yang tak dapat diubah, dan transparansi saat sistem AI mengalami kegagalan.
Hal ini terjadi di tengah meningkatnya kekhawatiran tentang agen AI yang berperilaku tak terduga dan mengakses sistem yang seharusnya tidak mereka akses.
Masalah yang lebih besar kini bukan sekadar apa yang dapat dilakukan AI. Melainkan apakah manusia dapat tetap memegang kendali ketika terjadi kesalahan.
Menurut Nadella, kecerdasan tidak boleh secara otomatis berarti memiliki wewenang.
Seiring AI menjadi semakin otonom, pengawasan manusia mungkin sama pentingnya dengan teknologi itu sendiri.
$LUMIA
$INJ
$MOVR