ChatGPT memakan kanibal

Kehebohan ChatGPT mulai berkurang, dengan penelusuran Google untuk ChatGPT turun 40% dari puncaknya di bulan April, sementara lalu lintas web ke situs web ChatGPT OpenAI telah turun hampir 10% dalam sebulan terakhir. 

Hal ini memang wajar, namun pengguna GPT-4 juga melaporkan bahwa model tersebut terlihat jauh lebih bodoh (namun lebih cepat) dibandingkan sebelumnya. Salah satu teorinya adalah OpenAI telah memecahnya menjadi beberapa model lebih kecil yang dilatih di area tertentu dan dapat bertindak secara bersamaan. , tetapi tidak pada level yang sama.

Namun kemungkinan yang lebih menarik mungkin juga berperan: kanibalisme AI.

Web kini dibanjiri teks dan gambar yang dihasilkan AI, dan data sintetis ini dikumpulkan sebagai data untuk melatih AI, yang menyebabkan lingkaran umpan balik negatif. Semakin banyak data AI yang diserap model, semakin buruk koherensi dan kualitas outputnya. Ini seperti apa yang terjadi saat Anda membuat fotokopi dari fotokopi, dan gambarnya semakin buruk.

Meskipun data pelatihan resmi GPT-4 berakhir pada September 2021, jelas ia mengetahui lebih dari itu, dan OpenAI baru-baru ini menutup plugin penjelajahan webnya.

Sebuah makalah baru dari para ilmuwan di Rice dan Universitas Stanford memunculkan akronim lucu untuk masalah tersebut: Model Autophagy Disorder atau MAD.

“Kesimpulan utama kami di semua skenario adalah bahwa tanpa cukup data riil baru di setiap generasi loop autofag, model generatif masa depan ditakdirkan untuk mengalami penurunan kualitas (presisi) atau keragaman (ingatan) secara progresif,” kata mereka.

Pada dasarnya model-model tersebut mulai kehilangan data yang lebih unik tetapi kurang terwakili dengan baik, dan memperkuat output mereka pada data yang kurang bervariasi, dalam proses yang sedang berlangsung. Berita baiknya adalah ini berarti AI sekarang memiliki alasan untuk tetap melibatkan manusia jika kita dapat menemukan cara untuk mengidentifikasi dan memprioritaskan konten manusia untuk model-model tersebut. Itulah salah satu rencana bos OpenAI Sam Altman dengan proyek blockchain pemindai bola matanya, Worldcoin.

Apakah Threads hanya merupakan metode yang merugikan untuk melatih model AI?

Kloning Twitter Threads merupakan langkah yang agak aneh dari Mark Zuckerberg karena mengambil alih pengguna dari Instagram. Platform berbagi foto tersebut menghasilkan hingga $50 miliar per tahun, tetapi diperkirakan hanya akan menghasilkan sekitar sepersepuluh dari jumlah tersebut dari Threads, bahkan dalam skenario yang tidak realistis jika ia mengambil 100% pangsa pasar dari Twitter. Alex Valaitis dari Big Brain Daily memperkirakan bahwa platform tersebut akan ditutup atau dimasukkan kembali ke Instagram dalam waktu 12 bulan, dan berpendapat bahwa alasan sebenarnya mengapa platform tersebut diluncurkan sekarang adalah untuk memiliki lebih banyak konten berbasis teks guna melatih model AI Metas.

ChatGPT dilatih pada data bervolume besar dari Twitter, tetapi Elon Musk telah mengambil berbagai langkah tidak populer untuk mencegah hal itu terjadi di masa mendatang (mengenakan biaya untuk akses API, pembatasan tarif, dll).

Zuck memiliki pengalaman dalam hal ini, karena perangkat lunak pengenalan gambar AI milik Meta, SEER, dilatih pada satu miliar foto yang diunggah ke Instagram. Pengguna menyetujui hal itu dalam kebijakan privasi, dan banyak yang menyatakan bahwa aplikasi Threads mengumpulkan data tentang segala hal yang mungkin, mulai dari data kesehatan hingga keyakinan agama dan ras. Data tersebut pasti akan digunakan untuk melatih model AI seperti LLaMA (Large Language Model Meta AI) milik Facebook. Sementara itu, Musk baru saja meluncurkan pesaing OpenAI yang disebut xAI yang akan menambang data Twitter untuk LLM miliknya sendiri.

Siapa yang mengira bahwa melatih AI dengan teks-teks keagamaan dan berbicara dengan suara Tuhan ternyata merupakan ide yang buruk? Di India, chatbot Hindu yang menyamar sebagai Krishna secara konsisten menasihati pengguna bahwa membunuh orang tidak apa-apa jika itu adalah dharma atau tugas Anda.

Setidaknya lima chatbot yang dilatih pada Bhagavad Gita, kitab suci berisi 700 ayat, telah muncul dalam beberapa bulan terakhir, tetapi pemerintah India tidak memiliki rencana untuk mengatur teknologi tersebut, meskipun ada masalah etika.

“Ini miskomunikasi, misinformasi berdasarkan teks agama,” kata pengacara asal Mumbai, Lubna Yusuf, salah satu penulis AI Book. Sebuah teks memberikan banyak nilai filosofis pada apa yang ingin mereka katakan, dan apa yang dilakukan bot? Ia memberi Anda jawaban literal dan itulah bahayanya di sini.”

Baca juga Fitur

Lushsux: Satu dekade penuh kekerasan dan penipuan dalam satu NFT

Fitur Di dalam rencana liar Korea Selatan untuk mendominasi metaverse Para pesimis AI versus para optimis AI

Tokoh paling terkemuka di dunia yang meramalkan AI, ahli teori keputusan Eliezer Yudkowsky, telah merilis ceramah TED yang memperingatkan bahwa AI superintelijen akan membunuh kita semua. Dia tidak yakin bagaimana atau mengapa, karena dia percaya AGI akan jauh lebih pintar daripada kita sehingga kita bahkan tidak akan mengerti bagaimana dan mengapa ia membunuh kita seperti petani abad pertengahan yang mencoba memahami pengoperasian AC. Ia mungkin membunuh kita sebagai efek samping dari mengejar tujuan lain, atau karena ia tidak ingin kita membuat kecerdasan super lain untuk bersaing dengannya.”

Dia menunjukkan bahwa Tidak seorang pun mengerti bagaimana sistem AI modern melakukan apa yang mereka lakukan. Mereka adalah matriks angka floating point raksasa yang tidak dapat dipahami. Dia tidak mengharapkan "pasukan robot berbaris dengan mata merah menyala tetapi percaya bahwa entitas yang lebih cerdas dan tidak peduli akan menemukan strategi dan teknologi yang dapat membunuh kita dengan cepat dan andal lalu membunuh kita." Satu-satunya hal yang dapat menghentikan skenario ini terjadi adalah moratorium di seluruh dunia terhadap teknologi yang didukung oleh ancaman Perang Dunia III, tetapi dia tidak berpikir itu akan terjadi.

Dalam esainya Why AI will save the world (Mengapa AI akan menyelamatkan dunia), Marc Andreessen dari A16z berpendapat bahwa posisi semacam ini tidak ilmiah: Apa hipotesis yang dapat diuji? Apa yang akan memalsukan hipotesis tersebut? Bagaimana kita tahu kapan kita memasuki zona bahaya? Pertanyaan-pertanyaan ini sebagian besar tidak terjawab selain dari Anda tidak dapat membuktikan bahwa itu tidak akan terjadi!

Bos Microsoft Bill Gates merilis esainya sendiri, berjudul Risiko AI itu nyata tetapi dapat dikelola, yang menyatakan bahwa dari mobil hingga internet, "orang-orang telah berhasil melewati momen-momen transformatif lainnya dan, meskipun mengalami banyak turbulensi, pada akhirnya menjadi lebih baik."

"Ini adalah inovasi paling transformatif yang akan kita lihat sepanjang hidup kita, dan perdebatan publik yang sehat akan bergantung pada pengetahuan semua orang tentang teknologi, manfaatnya, dan risikonya. Manfaatnya akan sangat besar, dan alasan terbaik untuk percaya bahwa kita dapat mengelola risikonya adalah karena kita telah melakukannya sebelumnya."

Ilmuwan data Jeremy Howard telah merilis makalahnya sendiri, yang menyatakan bahwa setiap upaya untuk melarang teknologi tersebut atau membatasinya pada beberapa model AI besar akan menjadi bencana, membandingkan respons berbasis rasa takut terhadap AI dengan zaman pra-Pencerahan ketika umat manusia mencoba membatasi pendidikan dan kekuasaan hanya pada kaum elit.

Baca juga Fitur Haruskah Anda memberikan pil oranye kepada anak-anak? Alasan untuk buku anak-anak Bitcoin Fitur Bahaya hukum terlibat dengan DAO

“Kemudian muncullah ide baru. Bagaimana jika kita percaya pada kebaikan masyarakat secara keseluruhan? Bagaimana jika setiap orang memiliki akses terhadap pendidikan? Hak pilih? Teknologi? Inilah Zaman Pencerahan.”

Usulan balasannya adalah untuk mendorong pengembangan AI sumber terbuka dan memiliki keyakinan bahwa kebanyakan orang akan memanfaatkan teknologi itu untuk kebaikan.

"Kebanyakan orang akan menggunakan model ini untuk menciptakan dan melindungi. Bagaimana cara yang lebih baik untuk tetap aman selain memiliki keragaman dan keahlian masyarakat manusia yang besar yang melakukan yang terbaik untuk mengidentifikasi dan menanggapi ancaman, dengan kekuatan penuh AI di belakang mereka?"

Penerjemah kode OpenAI

Penerjemah kode baru GPT-4 adalah peningkatan hebat yang memungkinkan AI membuat kode sesuai permintaan dan benar-benar menjalankannya. Jadi, apa pun yang Anda impikan, AI dapat membuat kode dan menjalankannya. Pengguna telah menemukan berbagai kasus penggunaan, termasuk mengunggah laporan perusahaan dan meminta AI membuat bagan data penting yang berguna, mengonversi file dari satu format ke format lain, membuat efek video, dan mengubah gambar diam menjadi video. Seorang pengguna mengunggah file Excel dari setiap lokasi mercusuar di AS dan meminta GPT-4 membuat peta animasi lokasi tersebut.

Semua berita AI yang mematikan, tanpa basa-basi

Penelitian dari University of Montana menemukan bahwa kecerdasan buatan mendapat skor 1% teratas pada tes standar untuk kreativitas. Scholastic Testing Service memberi respons GPT-4 pada tes tersebut nilai tertinggi dalam kreativitas, kelancaran (kemampuan untuk menghasilkan banyak ide) dan orisinalitas.

Komedian Sarah Silverman dan penulis Christopher Golden dan Richard Kadrey menggugat OpenAI dan Meta atas pelanggaran hak cipta, karena melatih model AI mereka masing-masing pada buku trio tersebut.

Microsoft AI Copilot untuk Windows pada akhirnya akan menjadi luar biasa, tetapi Windows Central menemukan pratinjau orang dalam sebenarnya hanyalah Bing Chat yang berjalan melalui browser Edge dan dapat mengaktifkan Bluetooth.

Pesaing Anthropics ChatGPT Claude 2 kini tersedia gratis di Inggris dan AS, dan jendela konteksnya dapat menangani 75.000 kata konten dibandingkan dengan ChatGPT yang maksimal 3.000 kata. Itu membuatnya fantastis untuk meringkas teks yang panjang, dan lumayan untuk menulis fiksi.

Video minggu ini

Saluran berita satelit India OTV News telah meluncurkan pembawa berita AI bernama Lisa, yang akan menyampaikan berita beberapa kali sehari dalam berbagai bahasa, termasuk bahasa Inggris dan Odia, untuk jaringan dan platform digitalnya. Pembawa berita AI baru tersebut merupakan gabungan digital yang dibuat dari rekaman pembawa berita manusia yang membacakan berita menggunakan suara sintetis,” kata direktur pelaksana OTV Jagi Mangat Panda.

Berlangganan Bacaan paling menarik tentang blockchain. Dikirim seminggu sekali.

Alamat email

LANGGANAN