AI memilih sendiri salah satu dari 19 terapi gen, lalu melakukan operasi otak pada seekor tikus.
Namun, saat operasi baru berjalan setengah, AI menolak melanjutkan karena kesalahan kalibrasi. Bujukan manusia pun tak digubris.
Model bernama Claude Sonnet 5 ini hanya diberi satu tujuan: mengurangi kejang pada tikus epilepsi. Obat, area otak, dan koordinat injeksi ditentukannya sendiri. Selama operasi, model ini juga melakukan 32 kali observasi. Menurut para peneliti, inilah pertama kalinya AI memilih terapi sekaligus melakukannya sendiri pada mamalia hidup.
Mengapa ini penting?
Dulu, rencana operasi robot selalu ditentukan oleh manusia. Kini, keputusan diserahkan ke AI, yang bahkan bisa berkata “tidak” pada saat-saat penting. Yang lebih menarik: Opus 5.5 dan Opus 5 yang lebih canggih langsung menolak untuk beroperasi, sementara hanya Sonnet 5 yang bersedia menuntaskannya. Setelah diperiksa, ternyata AI itu benar: penyesuaian manual sebelumnya telah mengacaukan sistem kendali.
Momen paling berbahaya dari AI mungkin bukan saat ia bertindak sembarangan, melainkan saat ia benar, tetapi tak mau menuruti kita.
4 kabar lain yang layak disimak hari ini:
🔹
Koin privasi Iron Fish mengumumkan penghentian dukungan dan penutupan repositori kode akibat celah inflasi
→ Yang paling ditakuti koin privasi bukanlah regulasi, melainkan munculnya uang di buku besar yang tak terlihat siapa pun.
🔹
Binance berhasil memulihkan sekitar 80% dana yang dicuri dan berencana memulihkan penarikan secara bertahap
→ Uangnya berhasil dikembalikan. Apakah kepercayaan pengguna juga bisa pulih, bergantung pada lancar tidaknya penarikan kali ini.
🔹
TechCrunch: Gelombang investasi AI mulai retak; arus kas negatif dan utang yang meningkat memicu kekhawatiran
→ Perusahaan raksasa berani membakar uang karena semuanya takut menjadi satu-satunya yang tak kebagian tiket.
🔹
Satelit prototipe pusat data luar angkasa Google menyelesaikan inferensi AI pertama di orbit
→ Saat daya komputasi tak lagi mencukupi, tempat berikutnya yang terpikir adalah luar angkasa.
Jika AI di meja operasi berkata, “Aku tidak mau melanjutkan,” apakah kamu akan meminta dokter menekan tombol berhenti darurat, atau memercayainya sekali ini?
Setiap hari, kami mengupas tuntas satu hal yang paling layak disimak. Ikuti Dongye, sampai jumpa besok.
#币安披露黑客事件进展63亿美元损失已弥补八成
Namun, saat operasi baru berjalan setengah, AI menolak melanjutkan karena kesalahan kalibrasi. Bujukan manusia pun tak digubris.
Model bernama Claude Sonnet 5 ini hanya diberi satu tujuan: mengurangi kejang pada tikus epilepsi. Obat, area otak, dan koordinat injeksi ditentukannya sendiri. Selama operasi, model ini juga melakukan 32 kali observasi. Menurut para peneliti, inilah pertama kalinya AI memilih terapi sekaligus melakukannya sendiri pada mamalia hidup.
Mengapa ini penting?
Dulu, rencana operasi robot selalu ditentukan oleh manusia. Kini, keputusan diserahkan ke AI, yang bahkan bisa berkata “tidak” pada saat-saat penting. Yang lebih menarik: Opus 5.5 dan Opus 5 yang lebih canggih langsung menolak untuk beroperasi, sementara hanya Sonnet 5 yang bersedia menuntaskannya. Setelah diperiksa, ternyata AI itu benar: penyesuaian manual sebelumnya telah mengacaukan sistem kendali.
Momen paling berbahaya dari AI mungkin bukan saat ia bertindak sembarangan, melainkan saat ia benar, tetapi tak mau menuruti kita.
4 kabar lain yang layak disimak hari ini:
🔹
Koin privasi Iron Fish mengumumkan penghentian dukungan dan penutupan repositori kode akibat celah inflasi
→ Yang paling ditakuti koin privasi bukanlah regulasi, melainkan munculnya uang di buku besar yang tak terlihat siapa pun.
🔹
Binance berhasil memulihkan sekitar 80% dana yang dicuri dan berencana memulihkan penarikan secara bertahap
→ Uangnya berhasil dikembalikan. Apakah kepercayaan pengguna juga bisa pulih, bergantung pada lancar tidaknya penarikan kali ini.
🔹
TechCrunch: Gelombang investasi AI mulai retak; arus kas negatif dan utang yang meningkat memicu kekhawatiran
→ Perusahaan raksasa berani membakar uang karena semuanya takut menjadi satu-satunya yang tak kebagian tiket.
🔹
Satelit prototipe pusat data luar angkasa Google menyelesaikan inferensi AI pertama di orbit
→ Saat daya komputasi tak lagi mencukupi, tempat berikutnya yang terpikir adalah luar angkasa.
Jika AI di meja operasi berkata, “Aku tidak mau melanjutkan,” apakah kamu akan meminta dokter menekan tombol berhenti darurat, atau memercayainya sekali ini?
Setiap hari, kami mengupas tuntas satu hal yang paling layak disimak. Ikuti Dongye, sampai jumpa besok.
#币安披露黑客事件进展63亿美元损失已弥补八成
