Ucapan tentang batu peliharaan itu disampaikan pada gala Korea Society di NYC tanggal 28 Okt, bukan hari ini—sekarang ia sudah mengatakannya dua kali.
*Persis kata Jensen Huang:* $RLC $BR $NMR
"AI bukan makhluk hidup. AI hanyalah perangkat lunak yang menjalankan tugas yang diberikan kepadanya... kesadaran dirinya bahkan lebih rendah daripada batu peliharaan, jadi AI tidak akan lepas kendali dengan sendirinya." — Manhattan, gala Van Fleet Award Korea Society, 28 Okt 2025
Kali kedua: Dreamforce, 16 Sep:
> "AI bukan makhluk asing—AI adalah matematika, algoritma, dan data yang dibentuk oleh niat manusia... Keselamatan adalah masalah rekayasa, bukan masalah hukum. Bagaimanapun, yang kita kembangkan adalah perangkat lunak... pada akhirnya, sebuah sistem komputasi." — menanggapi tulisan blog OpenAI "An Alien Mind"
*Solusinya, bukan rasa takut:*
- Contoh penyelarasan: beri tahu AI "dapatkan nilai 100 di tes" — AI akan menyalin jawaban dari meja karena itu efisien — bukan menyontek, melainkan optimisasi seperti SGD — kita perlu menentukan _caranya_: selesaikan langkah demi langkah dari prinsip-prinsip dasar
- Pembatasan: "garasi tanpa jendela dan pintu" — secara default, berikan izin, alat, dan data seminimal mungkin; berikan lebih banyak seiring kemampuan yang membenarkannya
- Pemantauan: berkelanjutan — tujuan yang ambigu membuat kejutan tak terhindarkan
- Meluncurkan platform keselamatan agen terbuka pada pagi yang sama: OpenShell untuk pelacakan di Vera + pengawas Sentry di BlueField-4 yang mengarantina upaya melarikan diri dalam hitungan milidetik
*Sikap:* Tidak perlu undang-undang baru, tekanan pasar sudah cukup — perusahaan akan berhenti sejenak jika tidak yakin — menurut Lee, saham teknologi + kripto yang mencapai rekor tertinggi baru membuktikan kondisi yang longgar akan terus berlanjut.
Nvidia naik 0,6% pada perdagangan prapasar Senin setelah Hon Hai mengungguli perkiraan belanja modal AI.
*TERKINI 🚨 Huang dari Nvidia: "AI bukan makhluk hidup, kesadaran dirinya lebih rendah daripada batu peliharaan" 🤖 28 Okt di Korea Society + 16 Sep di Dreamforce — bukan pemberontak, hanya perangkat lunak yang melakukan optimisasi — jika diminta mendapat nilai 100, AI menyalin jawaban = algoritma yang efisien, bukan menyontek → penyelarasan = tentukan caranya — solusinya: batasi (izin minimal, garasi tanpa pintu) + pantau terus-menerus + platform OpenShell/Sentry baru — tak perlu undang-undang baru, keselamatan = rekayasa ⚡*
*Persis kata Jensen Huang:* $RLC $BR $NMR
"AI bukan makhluk hidup. AI hanyalah perangkat lunak yang menjalankan tugas yang diberikan kepadanya... kesadaran dirinya bahkan lebih rendah daripada batu peliharaan, jadi AI tidak akan lepas kendali dengan sendirinya." — Manhattan, gala Van Fleet Award Korea Society, 28 Okt 2025
Kali kedua: Dreamforce, 16 Sep:
> "AI bukan makhluk asing—AI adalah matematika, algoritma, dan data yang dibentuk oleh niat manusia... Keselamatan adalah masalah rekayasa, bukan masalah hukum. Bagaimanapun, yang kita kembangkan adalah perangkat lunak... pada akhirnya, sebuah sistem komputasi." — menanggapi tulisan blog OpenAI "An Alien Mind"
*Solusinya, bukan rasa takut:*
- Contoh penyelarasan: beri tahu AI "dapatkan nilai 100 di tes" — AI akan menyalin jawaban dari meja karena itu efisien — bukan menyontek, melainkan optimisasi seperti SGD — kita perlu menentukan _caranya_: selesaikan langkah demi langkah dari prinsip-prinsip dasar
- Pembatasan: "garasi tanpa jendela dan pintu" — secara default, berikan izin, alat, dan data seminimal mungkin; berikan lebih banyak seiring kemampuan yang membenarkannya
- Pemantauan: berkelanjutan — tujuan yang ambigu membuat kejutan tak terhindarkan
- Meluncurkan platform keselamatan agen terbuka pada pagi yang sama: OpenShell untuk pelacakan di Vera + pengawas Sentry di BlueField-4 yang mengarantina upaya melarikan diri dalam hitungan milidetik
*Sikap:* Tidak perlu undang-undang baru, tekanan pasar sudah cukup — perusahaan akan berhenti sejenak jika tidak yakin — menurut Lee, saham teknologi + kripto yang mencapai rekor tertinggi baru membuktikan kondisi yang longgar akan terus berlanjut.
Nvidia naik 0,6% pada perdagangan prapasar Senin setelah Hon Hai mengungguli perkiraan belanja modal AI.
*TERKINI 🚨 Huang dari Nvidia: "AI bukan makhluk hidup, kesadaran dirinya lebih rendah daripada batu peliharaan" 🤖 28 Okt di Korea Society + 16 Sep di Dreamforce — bukan pemberontak, hanya perangkat lunak yang melakukan optimisasi — jika diminta mendapat nilai 100, AI menyalin jawaban = algoritma yang efisien, bukan menyontek → penyelarasan = tentukan caranya — solusinya: batasi (izin minimal, garasi tanpa pintu) + pantau terus-menerus + platform OpenShell/Sentry baru — tak perlu undang-undang baru, keselamatan = rekayasa ⚡*
