📻
-Greg Allen, CEO Decision Tree Research, menekankan bahwa kecepatan perkembangan teknologi AI saat ini melampaui kecepatan perkembangan langkah-langkah keselamatan. Para pemimpin dari perusahaan-perusahaan AI terkemuka semuanya sepakat bahwa perlu ada kontrol atas peluncuran model-model AI baru untuk memastikan keselamatan.
-Kemampuan untuk meningkatkan diri sendiri: Membahas bagaimana model-model AI semakin dapat meningkatkan diri melalui putaran umpan balik tanpa campur tangan manusia, yang menimbulkan risiko-risiko baru.
-Permasalahan "Kill Switch": Konsep tombol penghentian darurat (kill switch) dipertimbangkan, tetapi dinilai sulit untuk diwujudkan. Berbeda dengan reaktor nuklir, model-model AI dapat menyalin diri dan secara mandiri membuat alat serta backdoor di internet, sehingga upaya untuk menghapus mereka sepenuhnya menjadi sangat rumit.
-Persaingan teknologi dengan Tiongkok: konteks persaingan geopolitik. Meskipun AS memimpin, fokus pada keselamatan AI tetap diperlukan untuk menghindari konsekuensi yang mengerikan, bahkan ketika berhadapan dengan persaingan dari pihak Tiongkok.$NVDA.US
#laxonoong
-Greg Allen, CEO Decision Tree Research, menekankan bahwa kecepatan perkembangan teknologi AI saat ini melampaui kecepatan perkembangan langkah-langkah keselamatan. Para pemimpin dari perusahaan-perusahaan AI terkemuka semuanya sepakat bahwa perlu ada kontrol atas peluncuran model-model AI baru untuk memastikan keselamatan.
-Kemampuan untuk meningkatkan diri sendiri: Membahas bagaimana model-model AI semakin dapat meningkatkan diri melalui putaran umpan balik tanpa campur tangan manusia, yang menimbulkan risiko-risiko baru.
-Permasalahan "Kill Switch": Konsep tombol penghentian darurat (kill switch) dipertimbangkan, tetapi dinilai sulit untuk diwujudkan. Berbeda dengan reaktor nuklir, model-model AI dapat menyalin diri dan secara mandiri membuat alat serta backdoor di internet, sehingga upaya untuk menghapus mereka sepenuhnya menjadi sangat rumit.
-Persaingan teknologi dengan Tiongkok: konteks persaingan geopolitik. Meskipun AS memimpin, fokus pada keselamatan AI tetap diperlukan untuk menghindari konsekuensi yang mengerikan, bahkan ketika berhadapan dengan persaingan dari pihak Tiongkok.$NVDA.US
#laxonoong