#AnthropicCEO呼吁放缓AI发展 Orang bilang yang dimaksud “melambat” bukan berhenti AI, tapi memberi jeda pada kemampuan paling canggih: model sudah bisa menulis kode, menjalankan agent, ikut membantu membangun model generasi berikutnya, tetapi penyesuaian/pengujian belum menyusul;
Lihat dalam tiga lapis:
Dari sisi teknis: perbaikan diri berulang + kolaborasi multi-agent, sehingga risikonya bergeser dari “salah bicara” menjadi “aksi mandiri / menyerang sistem”.
Dari sisi bisnis: Anthropic menjual “model frontier paling aman”, menjadikan keamanan sebagai merek dan penghalang; evaluasi onsite oleh pihak ketiga menguntungkan perusahaan besar, sementara startup/open source jadi lebih tertekan.
Dari sisi geopolitik: jika AS hanya menghentikan dan China tidak, AS yang rugi; jadi dia di satu sisi menyerukan perlambatan, di sisi lain mendukung pembatasan chip, serta mengajak negara-negara demokrasi untuk berkoordinasi lebih dulu.
Kesimpulannya, ini bukan sekadar pemasaran kiamat, juga bukan murni tindakan altruistik—melainkan tumpukan: risiko yang makin dekat + regulasi akan datang + perusahaan besar berebut standar.
Lihat dalam tiga lapis:
Dari sisi teknis: perbaikan diri berulang + kolaborasi multi-agent, sehingga risikonya bergeser dari “salah bicara” menjadi “aksi mandiri / menyerang sistem”.
Dari sisi bisnis: Anthropic menjual “model frontier paling aman”, menjadikan keamanan sebagai merek dan penghalang; evaluasi onsite oleh pihak ketiga menguntungkan perusahaan besar, sementara startup/open source jadi lebih tertekan.
Dari sisi geopolitik: jika AS hanya menghentikan dan China tidak, AS yang rugi; jadi dia di satu sisi menyerukan perlambatan, di sisi lain mendukung pembatasan chip, serta mengajak negara-negara demokrasi untuk berkoordinasi lebih dulu.
Kesimpulannya, ini bukan sekadar pemasaran kiamat, juga bukan murni tindakan altruistik—melainkan tumpukan: risiko yang makin dekat + regulasi akan datang + perusahaan besar berebut standar.