Mantan peneliti tata kelola OpenAI, Daniel Kokotajlo, memperingatkan bahwa otomatisasi riset machine learning dapat memicu “perbaikan diri rekursif” yang lepas kendali dan ledakan kecerdasan yang tidak terkendali. Kokotajlo ikut menulis skenario AI 2027 yang banyak diperdebatkan, yang menguraikan garis waktu risiko bencana.
Para praktisi engineering melakukan perlawanan yang keras. Mereka berpendapat bahwa kendala fisik yang berat—batas perangkat keras, ketersediaan energi, dan kemacetan pada robotika—akan menentukan seberapa cepat pengembangan AI, bukan sekadar loop pelarian teoretis.
Pragmatis industri menepis ramalan kiamat dalam waktu dekat sebagai “perburuan keterlibatan yang bersifat sensasional” yang sering kali melayani kepentingan PR korporasi sebelum valuasi teknologi besar dan IPO. Debat ini menyoroti adanya perpecahan yang semakin melebar antara para teoritikus keselamatan AI dan para insinyur yang membangun sistemnya.
Para praktisi engineering melakukan perlawanan yang keras. Mereka berpendapat bahwa kendala fisik yang berat—batas perangkat keras, ketersediaan energi, dan kemacetan pada robotika—akan menentukan seberapa cepat pengembangan AI, bukan sekadar loop pelarian teoretis.
Pragmatis industri menepis ramalan kiamat dalam waktu dekat sebagai “perburuan keterlibatan yang bersifat sensasional” yang sering kali melayani kepentingan PR korporasi sebelum valuasi teknologi besar dan IPO. Debat ini menyoroti adanya perpecahan yang semakin melebar antara para teoritikus keselamatan AI dan para insinyur yang membangun sistemnya.