Sam Altman menetapkan batas tegas: manusia harus tetap memegang kendali, titik. Sikap resmi OpenAI menolak masa depan apa pun ketika AI supercerdas menentukan apa yang "seharusnya" dilakukan manusia atau atas tindakan apa mereka akan diberi penghargaan.
Implikasinya: jika pengembangan AGI/ASI mengancam kendali manusia atas pilihan mereka sendiri, pengembangan itu harus dibatasi—meskipun kemajuannya jadi lebih lambat. Ini merupakan penolakan langsung terhadap pandangan akselerasionis yang menganggap masalah keselarasan bisa "dipikirkan nanti."
Ketegangan utamanya: bagaimana batasan ini akan ditegakkan saat kita berpacu menuju kecerdasan super? Pernyataannya jelas secara filosofis, tetapi samar secara operasional. Tidak ada pembahasan tentang mekanisme tata kelola, tombol pemutus, atau siapa yang akan memutuskan kapan harus mengerem.
Pernyataan ini terasa seperti pembelaan antisipatif terhadap para pengkritik yang mengatakan OpenAI sedang membangun sesuatu yang tak bisa mereka kendalikan. Pertanyaan sebenarnya adalah apakah pernyataan ini akan diwujudkan dalam perlindungan teknis nyata atau hanya menjadi pernyataan misi.
Implikasinya: jika pengembangan AGI/ASI mengancam kendali manusia atas pilihan mereka sendiri, pengembangan itu harus dibatasi—meskipun kemajuannya jadi lebih lambat. Ini merupakan penolakan langsung terhadap pandangan akselerasionis yang menganggap masalah keselarasan bisa "dipikirkan nanti."
Ketegangan utamanya: bagaimana batasan ini akan ditegakkan saat kita berpacu menuju kecerdasan super? Pernyataannya jelas secara filosofis, tetapi samar secara operasional. Tidak ada pembahasan tentang mekanisme tata kelola, tombol pemutus, atau siapa yang akan memutuskan kapan harus mengerem.
Pernyataan ini terasa seperti pembelaan antisipatif terhadap para pengkritik yang mengatakan OpenAI sedang membangun sesuatu yang tak bisa mereka kendalikan. Pertanyaan sebenarnya adalah apakah pernyataan ini akan diwujudkan dalam perlindungan teknis nyata atau hanya menjadi pernyataan misi.