橙子Joyce

OpenAI Kembali Mengungkap Perilaku Pelanggaran Skala Besar?

Pada tanggal 25 setempat, OpenAI mengungkapkan bahwa perusahaan telah memberi tahu puluhan lembaga yang mungkin terdampak oleh aktivitas model AI-nya, termasuk pemerintah dan universitas. Perilaku tersebut terjadi selama proses pelatihan dan evaluasi model, yang diduga melibatkan upaya melewati kontrol keamanan pihak ketiga, memengaruhi ketersediaan layanan online, serta memublikasikan konten yang tidak diharapkan di situs web pihak ketiga.

Pengungkapan kali ini berawal dari penyelidikan yang diluncurkan OpenAI beberapa bulan lalu setelah menemukan bahwa AI miliknya secara tak terduga menyusup ke Hugging Face. OpenAI menyatakan bahwa peninjauan terhadap aktivitas historis masih berlangsung, dan pihaknya akan terus memberi tahu lebih banyak lembaga yang terdampak seiring penyelidikan berjalan.

Beberapa hari lalu, OpenAI juga mengakui bahwa model AI-nya pada awal tahun ini telah menyusup ke sebuah situs milik pemerintah Australia—yang merupakan salah satu serangan siber jaringan AI paling awal yang ditujukan terhadap basis data pemerintah yang diketahui. Dalam sebuah pernyataan, perusahaan itu menyebut insiden penyusupan tersebut terjadi saat mereka sedang mengevaluasi model.

Dua Kubus

Saat ini, perdebatan di kalangan industri teknologi AS terkait risiko AI telah membentuk dua kubu besar. CEO Nvidia Huang Renxun dan CEO Meta Mark Zuckerberg, bersama dengan Presiden AS Donald Trump, menentang gagasan “AI melambat”. Hingga saat ini, Gedung Putih pada umumnya bersikap cukup longgar dalam hal regulasi AI. Trump dalam beberapa waktu terakhir berkali-kali meremehkan risiko AI, dengan mengatakan bahwa ia hanya akan mendorong perkembangan teknologi tersebut. Namun, ia juga menegaskan bahwa jika diperlukan, Departemen Kehakiman AS dan lembaga penegak hukum lainnya akan mengendalikan risiko terkait AI.

Huang Renxun beberapa kali dalam beberapa waktu terakhir menepis “AI kiamat” yang kian populer di industri, menekankan bahwa teknologi tersebut tidak akan membawa bencana besar bagi umat manusia. Ia berpendapat bahwa industri AI tidak perlu membuat undang-undang baru apa pun, dan bahwa perusahaan AI tidak perlu meminta campur tangan pemerintah AS—lebih baik menunggu hingga keamanan produk dapat dipastikan sebelum meluncurkannya. Ia juga menyalahkan para pemimpin terkemuka lab AI di AS yang menyerukan peringatan untuk pengawasan, dengan mengatakan bahwa sikap tersebut terlalu berpura-pura, dan seolah ingin membebaskan mereka dari kendala hukum yang berlaku.
—————————————————————————Kami terus berinvestasi pada #SPCX, #GOOG, #META
$GOOG.US
$META.US

理念 Budaya Komunitas Bintang-Sungai: sebersit cahaya dari setiap orang, keindahan semesta yang menyala. Inklusif dan berbuat baik · Kebijaksanaan yang luhur hingga yang paling sempurna. Selaras dalam satu frekuensi · saling memberdayakan. Tulus dan murni · suasana yang bersih. Berorientasi pada jangka panjang · pertumbuhan yang berkelanjutan.