Menurut CNBC, OpenAI pada Senin mengunggah proposal untuk keamanan dan keselamatan dalam pengembangan kecerdasan buatan tingkat lanjut (frontier AI), dengan fokus pada riset penyelarasan (alignment research) dan peningkatan diri rekursif, atau RSI. Perusahaan itu mengatakan kerja sama internasional diperlukan untuk mengembangkan standar tingkat lanjut dan mendesak regulator agar membangun upaya dari institusi-institusi keselamatan AI yang sudah ada di seluruh dunia. OpenAI mengatakan standar tersebut harus berpusat pada model AI tingkat lanjut dan pengembangnya, serta mencakup pengelolaan manfaat-risiko bagi peneliti AI otomatis, termasuk RSI. Perusahaan itu menyatakan RSI yang sepenuhnya otonom tidak terjadi saat ini dan tidak boleh dikejar kecuali dapat dilakukan dengan aman, dengan memperingatkan bahwa hal itu bisa membuat manusia kehilangan kontrol praktis atas perkembangan AI. Minggu lalu, Anthropic merilis gagasannya sendiri untuk pengembangan yang aman dari model-model AI tingkat lanjut.
