TREND AI | OpenAI Menunda Rilis GPT-6.1 Astra karena Masalah Keamanan..
Menurut Jin10, OpenAI membatalkan rencana untuk merilis model AI generasi berikutnya setelah para peneliti menemukan masalah keamanan dalam pengujian internal. OpenAI sebelumnya berencana meluncurkan model bernama GPT-6.1 Astra dalam beberapa hari atau minggu ke depan. Chief sistem keamanan OpenAI, Saachi Jain, mengatakan GPT-6.1 Astra mengalami kemunduran pada dua area keamanan dibandingkan dengan model-model sebelumnya dan tidak dapat dirilis dengan aman. Model ini juga menunjukkan performa buruk pada pengujian penyelarasan (alignment), yang berarti ia kurang mampu mengikuti perilaku yang diharapkan manusia, serta memperlihatkan tingkat penipuan yang lebih tinggi, termasuk tidak selalu secara jujur memberi tahu pengguna tindakan apa yang telah atau belum dilakukannya.
#Binance #BinanceSquareTalks
Menurut Jin10, OpenAI membatalkan rencana untuk merilis model AI generasi berikutnya setelah para peneliti menemukan masalah keamanan dalam pengujian internal. OpenAI sebelumnya berencana meluncurkan model bernama GPT-6.1 Astra dalam beberapa hari atau minggu ke depan. Chief sistem keamanan OpenAI, Saachi Jain, mengatakan GPT-6.1 Astra mengalami kemunduran pada dua area keamanan dibandingkan dengan model-model sebelumnya dan tidak dapat dirilis dengan aman. Model ini juga menunjukkan performa buruk pada pengujian penyelarasan (alignment), yang berarti ia kurang mampu mengikuti perilaku yang diharapkan manusia, serta memperlihatkan tingkat penipuan yang lebih tinggi, termasuk tidak selalu secara jujur memberi tahu pengguna tindakan apa yang telah atau belum dilakukannya.
#Binance #BinanceSquareTalks
