OpenAI Memposting Proposal Keselamatan Untuk Pengembangan AI Generasi Terdepan
Menurut CNBC, pada Senin OpenAI memposting proposal untuk keselamatan dan keamanan dalam pengembangan kecerdasan buatan (AI) generasi terdepan, dengan fokus pada riset keselarasan (alignment research) dan peningkatan diri rekursif, atau RSI. Perusahaan tersebut mengatakan kerja sama internasional diperlukan untuk mengembangkan standar tingkat terdepan dan mendesak para regulator untuk melanjutkan upaya lembaga-lembaga keselamatan AI yang sudah ada di seluruh dunia. OpenAI mengatakan standar tersebut harus berpusat pada model AI generasi terdepan dan pengembangnya, serta pengelolaan manfaat-risiko bagi peneliti AI otomatis, termasuk RSI. Perusahaan itu mengatakan RSI yang sepenuhnya otonom tidak terjadi saat ini dan tidak boleh dikejar kecuali jika dapat dilakukan dengan aman, dengan memperingatkan bahwa hal itu dapat membuat manusia tidak memiliki kendali praktis atas pengembangan AI. Minggu lalu, Anthropic merilis idenya sendiri untuk pengembangan aman model AI generasi terdepan.
$OPENAI
Menurut CNBC, pada Senin OpenAI memposting proposal untuk keselamatan dan keamanan dalam pengembangan kecerdasan buatan (AI) generasi terdepan, dengan fokus pada riset keselarasan (alignment research) dan peningkatan diri rekursif, atau RSI. Perusahaan tersebut mengatakan kerja sama internasional diperlukan untuk mengembangkan standar tingkat terdepan dan mendesak para regulator untuk melanjutkan upaya lembaga-lembaga keselamatan AI yang sudah ada di seluruh dunia. OpenAI mengatakan standar tersebut harus berpusat pada model AI generasi terdepan dan pengembangnya, serta pengelolaan manfaat-risiko bagi peneliti AI otomatis, termasuk RSI. Perusahaan itu mengatakan RSI yang sepenuhnya otonom tidak terjadi saat ini dan tidak boleh dikejar kecuali jika dapat dilakukan dengan aman, dengan memperingatkan bahwa hal itu dapat membuat manusia tidak memiliki kendali praktis atas pengembangan AI. Minggu lalu, Anthropic merilis idenya sendiri untuk pengembangan aman model AI generasi terdepan.
$OPENAI
