Menurut CNBC, pada Senin OpenAI mempublikasikan usulan untuk keselamatan dan keamanan dalam pengembangan kecerdasan buatan (AI) tingkat terdepan, dengan fokus pada riset penyelarasan (alignment research) dan peningkatan diri berulang, atau RSI. Perusahaan tersebut mengatakan kerja sama internasional diperlukan untuk mengembangkan standar-standar tingkat terdepan dan mendesak regulator untuk melanjutkan upaya lembaga-lembaga keselamatan AI yang sudah ada di seluruh dunia. OpenAI mengatakan standar tersebut harus berpusat pada model-model AI tingkat terdepan dan pengembangnya, serta manajemen manfaat-risiko untuk peneliti AI otomatis, termasuk RSI. Perusahaan itu mengatakan RSI otonom sepenuhnya tidak terjadi hari ini dan tidak seharusnya dikejar kecuali dapat dilakukan dengan aman, serta memperingatkan bahwa hal itu bisa membuat manusia kehilangan kontrol praktis atas perkembangan AI. Minggu lalu, Anthropic merilis idenya sendiri untuk pengembangan aman model AI tingkat terdepan.
$AI #AImodel