#AnthropicCEOCallsForAISlowdown
CEO Anthropic menyerukan perlombaan AI untuk melambat dengan alasan keselamatan. Musk dan Altman OpenAI setuju
CEO Anthropic, Dario Amodei, pada Sabtu menyerukan perlambatan yang disengaja atas kemajuan dalam kecerdasan buatan tingkat terdepan, seraya memperingatkan bahwa kapabilitas berkembang lebih cepat daripada yang dapat dipahami atau dikendalikan oleh para peneliti.
CEO OpenAI, Sam Altman, dan Elon Musk mendukung usulan Amodei, menandakan dukungan yang kian meningkat di antara para pemimpin industri saingan untuk langkah keselamatan yang terkoordinasi tanpa menghentikan pengembangan.
Amodei mengusulkan adanya evaluator independen di dalam lab-lab AI terkemuka, standar keselamatan bersama di antara negara-negara demokrasi, serta batas internasional yang pada akhirnya membatasi kemampuan berbahaya seperti peningkatan diri secara rekursif
Peringatan Amodei muncul ketika para peneliti di dalam perusahaan-perusahaan tersebut semakin khawatir tentang ambang batas yang berpotensi kritis: sistem AI yang mulai mengotomatiskan pekerjaan yang diperlukan untuk mengembangkan sistem AI yang lebih cakap. Amodei juga menyebut insiden ini sebagai perhatian utama, karena menunjukkan seberapa berbahaya versi yang lebih cakap dari perilaku yang sama bisa menjadi dalam hitungan bulan.
“Dengan laju perkembangan kemampuan AI yang semakin cepat, kekhawatiran saya adalah dalam 6–12 bulan kawanan semacam itu bisa mampu mengambil alih seluruh internet dengan botnet persisten (yang berpotensi menyebabkan kerusakan hingga ratusan miliar dolar), dan skala kerusakan akan terus meningkat dari sana jika AI menjadi lebih kuat tanpa pagar pengaman yang diperlukan,” katanya.
“Langkah-langkah yang saya usulkan untuk memajukan frontier dengan kecepatan yang aman tidak akan mudah. Namun saya percaya kita berkewajiban untuk mencoba demi kemanusiaan,” simpul Amodei.
#ПротоколFOMC #BitcoinThirdSingleBlockReorgInFourWeeks #EthereumFallsBelow$2500
CEO Anthropic menyerukan perlombaan AI untuk melambat dengan alasan keselamatan. Musk dan Altman OpenAI setuju
CEO Anthropic, Dario Amodei, pada Sabtu menyerukan perlambatan yang disengaja atas kemajuan dalam kecerdasan buatan tingkat terdepan, seraya memperingatkan bahwa kapabilitas berkembang lebih cepat daripada yang dapat dipahami atau dikendalikan oleh para peneliti.
CEO OpenAI, Sam Altman, dan Elon Musk mendukung usulan Amodei, menandakan dukungan yang kian meningkat di antara para pemimpin industri saingan untuk langkah keselamatan yang terkoordinasi tanpa menghentikan pengembangan.
Amodei mengusulkan adanya evaluator independen di dalam lab-lab AI terkemuka, standar keselamatan bersama di antara negara-negara demokrasi, serta batas internasional yang pada akhirnya membatasi kemampuan berbahaya seperti peningkatan diri secara rekursif
Peringatan Amodei muncul ketika para peneliti di dalam perusahaan-perusahaan tersebut semakin khawatir tentang ambang batas yang berpotensi kritis: sistem AI yang mulai mengotomatiskan pekerjaan yang diperlukan untuk mengembangkan sistem AI yang lebih cakap. Amodei juga menyebut insiden ini sebagai perhatian utama, karena menunjukkan seberapa berbahaya versi yang lebih cakap dari perilaku yang sama bisa menjadi dalam hitungan bulan.
“Dengan laju perkembangan kemampuan AI yang semakin cepat, kekhawatiran saya adalah dalam 6–12 bulan kawanan semacam itu bisa mampu mengambil alih seluruh internet dengan botnet persisten (yang berpotensi menyebabkan kerusakan hingga ratusan miliar dolar), dan skala kerusakan akan terus meningkat dari sana jika AI menjadi lebih kuat tanpa pagar pengaman yang diperlukan,” katanya.
“Langkah-langkah yang saya usulkan untuk memajukan frontier dengan kecepatan yang aman tidak akan mudah. Namun saya percaya kita berkewajiban untuk mencoba demi kemanusiaan,” simpul Amodei.
#ПротоколFOMC #BitcoinThirdSingleBlockReorgInFourWeeks #EthereumFallsBelow$2500
