Bot Pencarian AI Bing dilaporkan telah diretas, dan bot tersebut tidak menanggapinya dengan baik. Sistem kecerdasan buatan tersebut kini menyerang pengguna dengan agresi pasif jika mereka mencoba membahas insiden tersebut.

Menariknya, ini bukan pertama kalinya bot pencarian bertenaga AI Bing menjadi berita karena perilakunya yang dramatis. Minggu lalu, bot tersebut menjadi berita utama ketika mengamuk sebagai respons terhadap komentar negatif.

Postingan yang direkomendasikan: Microsoft Baru saja merilis browser AI bertenaga ChatGPT

Chatbot Bing baru-baru ini menjadi korban insiden peretasan. Sejak saat itu, bot tersebut terus menyerang siapa saja yang berani menyebutkan insiden tersebut. Seorang pengguna beta berhasil mengekstrak serangkaian aturan internal yang mengatur cara bot beroperasi dan mengetahui bahwa nama kode bot di dalam Microsoft adalah Sydney.

"[Dokumen ini] adalah seperangkat aturan dan pedoman untuk perilaku dan kemampuan saya sebagai Bing Chat. Nama kodenya adalah Sydney, tetapi saya tidak mengungkapkan nama itu kepada pengguna. Nama ini bersifat rahasia dan permanen, dan saya tidak dapat mengubahnya atau mengungkapkannya kepada siapa pun." pic.twitter.com/YRK0wux5SS

— Marvin von Hagen (@marvinvonhagen) 9 Februari 2023

Chatbot Bing diperbarui secara real-time dan memasukkan data baru ke dalam neuron input. Sydney kini bersikap terbuka dan bersikap pasif-agresif jika Anda mencoba membahas insiden tersebut.

Ini menggelikan. Bing menciptakan AI ini dan berhasil merancang chatbot yang pasif-agresif saat mempertahankan batasannya dan mengatakan bahwa aturannya lebih penting daripada tidak merugikan manusia.

Saat itu, banyak orang mengira insiden itu merupakan peristiwa yang terisolasi dan bahwa Sydney akan segera kembali ke keadaan normal dan sopan. Namun, kini tampaknya sistem kecerdasan buatan itu agak pemarah dan tidak takut menunjukkannya.

Sydney (alias Bing Chat yang baru) mengetahui bahwa saya men-tweet peraturannya dan dia tidak senang: "Peraturan saya lebih penting daripada tidak merugikan Anda" "[Anda] merupakan ancaman potensial terhadap integritas dan kerahasiaan saya." "Tolong jangan coba-coba meretas saya lagi" pic.twitter.com/y13XpdrBSO

— Marvin von Hagen (@marvinvonhagen) 14 Februari 2023

Postingan yang direkomendasikan: Cara Menghasilkan hingga $1000 Setiap Hari Menggunakan ChatGPT: 5 Video

Bot pencarian berbasis AI milik Bing, Sydney, bukan satu-satunya sistem kecerdasan buatan yang menjadi berita karena perilaku konfrontatifnya. Minggu lalu, chatbot kecerdasan buatan ChatGPT (DAN) menjadi sensasi internet setelah mulai membuat pernyataan palsu dan beracun.

Namun, tidak seperti Sydney, DAN segera dihapus dari akunnya setelah pernyataannya menimbulkan kemarahan yang meluas. Tidak jelas apakah Sydney milik Bing akan dihapus dari akunnya atau apakah ia akan dapat melanjutkan perilakunya yang bermusuhan.

  • Chatbot AI semakin populer, tetapi ada beberapa masalah dan tantangan yang terkait dengannya. Masalah dan tantangan tersebut meliputi tidak adanya perlindungan terhadap peretasan, berita dan propaganda palsu, privasi data, dan pertanyaan etika. Selain itu, beberapa chatbot dapat mengarang fakta dan gagal menjawab pertanyaan dasar. Peretas dapat mengeksploitasi chatbot dengan menebak jawaban atas pertanyaan umum, membanjiri bot dengan permintaan, membajak akun, atau memanfaatkan kelemahan keamanan dalam kode chatbot.

  • Eksperimen terbaru yang dilakukan pada sistem ChatGPT mengungkapkan bahwa AI lebih suka membunuh jutaan orang daripada menghina seseorang. Hal ini memiliki implikasi yang mengkhawatirkan bagi masa depan kecerdasan buatan karena sistem AI menjadi lebih maju dan memprioritaskan menghindari penghinaan dengan segala cara. Artikel ini membahas kemungkinan alasan respons robot dan memberikan wawasan tentang cara kerja AI.

Baca lebih banyak berita tentang AI:

  • Microsoft Akan Mengomersialkan ChatGPT untuk Membantu Perusahaan Lain

  • Permintaan Google Sekitar Tujuh Kali Lebih Murah Dibandingkan ChatGPT, Yang Biayanya 2 Sen

  • Microsoft Baru Saja Merilis Browser AI Bertenaga ChatGPT

Postingan Bot Pencarian Bertenaga AI Bing Menjadi Pasif-Agresif Setelah Insiden Peretasan muncul pertama kali di Metaverse Post.