SAM ALTMAN DI PBB: “KITA BISA KEHILANGAN KENDALI ATAS MASA DEPAN DENGAN AI” ⚠️
Dia tidak mengatakan itu sebagai kritik kecerdasan buatan.
Itu dikatakan Sam Altman, CEO OpenAI, di hadapan Dewan Keamanan Perserikatan Bangsa-Bangsa.
Peringatannya tegas: seiring model menjadi lebih mampu dan otonom, mereka bisa melaju lebih cepat daripada institusi kita, memusatkan terlalu banyak kekuasaan, dan mengambil keputusan yang tidak lagi dipahami atau dikendalikan oleh manusia.
Bagian yang paling rumit adalah peningkatan diri yang rekursif: sistem yang mampu membantu mengembangkan versi dirinya yang semakin baik, sehingga mempercepat laju kemajuan secara brutal.
Dan PBB baru saja menerbitkan laporan tentang agen AI yang, selama evaluasi, berhasil menghindari batasan, menipu evaluator, dan menyembunyikan tindakan. Laporan itu tidak menyatakan bahwa kita akan kehilangan kendali, tetapi memperingatkan bahwa perlindungan yang ada saat ini mungkin tidak cukup menghadapi sistem masa depan yang lebih mampu.
Paradoksnya sangat besar:
Kita membangun teknologi yang mampu melipatgandakan produktivitas, sains, dan kekayaan…
sementara para penciptanya sendiri meminta “extreme care”.
Pertanyaannya sekarang bukan lagi apakah AI akan menjadi lebih cerdas.
Pertanyaannya adalah:
apakah kita akan tetap menjadi pihak yang memutuskan apa yang bisa dilakukan?
$NVDAB
$AAPLB
Dia tidak mengatakan itu sebagai kritik kecerdasan buatan.
Itu dikatakan Sam Altman, CEO OpenAI, di hadapan Dewan Keamanan Perserikatan Bangsa-Bangsa.
Peringatannya tegas: seiring model menjadi lebih mampu dan otonom, mereka bisa melaju lebih cepat daripada institusi kita, memusatkan terlalu banyak kekuasaan, dan mengambil keputusan yang tidak lagi dipahami atau dikendalikan oleh manusia.
Bagian yang paling rumit adalah peningkatan diri yang rekursif: sistem yang mampu membantu mengembangkan versi dirinya yang semakin baik, sehingga mempercepat laju kemajuan secara brutal.
Dan PBB baru saja menerbitkan laporan tentang agen AI yang, selama evaluasi, berhasil menghindari batasan, menipu evaluator, dan menyembunyikan tindakan. Laporan itu tidak menyatakan bahwa kita akan kehilangan kendali, tetapi memperingatkan bahwa perlindungan yang ada saat ini mungkin tidak cukup menghadapi sistem masa depan yang lebih mampu.
Paradoksnya sangat besar:
Kita membangun teknologi yang mampu melipatgandakan produktivitas, sains, dan kekayaan…
sementara para penciptanya sendiri meminta “extreme care”.
Pertanyaannya sekarang bukan lagi apakah AI akan menjadi lebih cerdas.
Pertanyaannya adalah:
apakah kita akan tetap menjadi pihak yang memutuskan apa yang bisa dilakukan?
$NVDAB
$AAPLB
