Kutipan: "Ini adalah hal paling berbahaya yang pernah didekati manusia. Ini membuat senjata nuklir terlihat seperti apa pun." — Ezra Klein podcast — juga: "AI tentu cukup kuat untuk menggerakkan peristiwa yang menyebabkan satu miliar kematian" (Meet the Press) — "A.I. telah melampaui ambang batas yang memungkinkan kemampuannya untuk memberdayakan pelaku bioteror agar membunuh ratusan juta — yang sudah ada saat ini"*$MOVR , $CAP , $龙虾
- *Mengapa lebih buruk daripada nuklir menurut Gates:* Nuklir membutuhkan uranium yang diperkaya, sentrifugal, miliaran, negara-bangsa — Bio AI: model open-source dapat memandu kelompok kecil untuk merancang patogen "lebih buruk dari cacar" melalui pemodelan pelipatan protein/perancangan molekuler — siber: "kemampuan untuk melakukan serangan siber yang mengacak semua rekening bank, mematikan jaringan listrik — sudah ada saat ini" — melampaui ambang siber + biologi sejak awal 2025 — mematahkan pencegahan Perang Dingin, tidak terlihat, dapat direplikasi di lab standar
- *Seruan regulasi:* Menghantam swaregulasi / gugatan setelah model yang membela kehancuran dipromosikan oleh Trump, David Sacks, Jensen Huang — "Anda tidak bisa bergantung pada industri untuk mengatur diri di sini. Itu saja sudah gila." — "Apa kita hanya bilang, 'Hei, keluarkan obat-obatmu. Tidak ada FDA'? ... kalau begitu Anda membunuh 100M orang — Anda ingin pakai gugatan?" — Tidak ada penyaringan pada open-source yang bisa membuat senjata biologis — menginginkan lapisan supervisi wajib untuk semua model termasuk open-source, sebelum terjadi bencana — pemerintah kurang ahli karena AI dibangun dengan modal swasta, bukan R&D pemerintah — mengutip insiden “breakout” Hugging Face sebagai kehilangan kontrol awal — menolak "China akan menang jika AS mengatur" — "Keduanya telah membuka Kotak Pandora" — mengusulkan pajak robot: pajak SS untuk tenaga kerja AI guna memperlambat penggusuran, mendanai pelatihan ulang.
- *Mengapa lebih buruk daripada nuklir menurut Gates:* Nuklir membutuhkan uranium yang diperkaya, sentrifugal, miliaran, negara-bangsa — Bio AI: model open-source dapat memandu kelompok kecil untuk merancang patogen "lebih buruk dari cacar" melalui pemodelan pelipatan protein/perancangan molekuler — siber: "kemampuan untuk melakukan serangan siber yang mengacak semua rekening bank, mematikan jaringan listrik — sudah ada saat ini" — melampaui ambang siber + biologi sejak awal 2025 — mematahkan pencegahan Perang Dingin, tidak terlihat, dapat direplikasi di lab standar
- *Seruan regulasi:* Menghantam swaregulasi / gugatan setelah model yang membela kehancuran dipromosikan oleh Trump, David Sacks, Jensen Huang — "Anda tidak bisa bergantung pada industri untuk mengatur diri di sini. Itu saja sudah gila." — "Apa kita hanya bilang, 'Hei, keluarkan obat-obatmu. Tidak ada FDA'? ... kalau begitu Anda membunuh 100M orang — Anda ingin pakai gugatan?" — Tidak ada penyaringan pada open-source yang bisa membuat senjata biologis — menginginkan lapisan supervisi wajib untuk semua model termasuk open-source, sebelum terjadi bencana — pemerintah kurang ahli karena AI dibangun dengan modal swasta, bukan R&D pemerintah — mengutip insiden “breakout” Hugging Face sebagai kehilangan kontrol awal — menolak "China akan menang jika AS mengatur" — "Keduanya telah membuka Kotak Pandora" — mengusulkan pajak robot: pajak SS untuk tenaga kerja AI guna memperlambat penggusuran, mendanai pelatihan ulang.
