Seorang matematikawan NYU yang mengatakan salah satu model OpenAI berhasil mencapai hasil penelitiannya yang belum dipublikasikan dalam sehari setelah mengetahui namanya, kini tidak lagi memasukkan gagasan orisinalnya ke alat AI perusahaan itu. OpenAI mengatakan bahwa prompt-nya tidak mungkin memengaruhi sistem mereka.

Tristan Buckmaster menyampaikan peringatan itu beberapa hari setelah OpenAI merilis 722 makalah matematika yang ditulis AI. Menurutnya, salah satu akunnya masih mengaktifkan pelatihan model secara default.

Apa Kata Buckmaster tentang yang Terjadi pada Karyanya yang Belum Dipublikasikan

Buckmaster dan Levent Alpöge, seorang matematikawan di Anthropic, pesaing OpenAI, menghabiskan sebagian besar waktu selama setahun untuk mengerjakan satu langkah menuju penyelesaian Navier-Stokes, teka-teki tentang aliran fluida yang hadiahnya bernilai $1 juta.

Buckmaster mengerjakan riset itu melalui Codex, asisten pemrograman OpenAI, menggunakan akun pribadi berbayar. Draf mereka tersimpan di server OpenAI.

Ia mengatakan kepada CNBC bahwa OpenAI belum membuat kemajuan sebelum ia mengungkapkan namanya. Setelah itu, katanya, agen-agen OpenAI mencapai “titik yang persis sama dengan kami” dalam sehari.

Pada September, Buckmaster mengatakan bahwa ia tidak menuduh siapa pun, menurut laporan BeInCrypto. Kini ia menyebut waktu kejadiannya mencurigakan.

“Sebelum mereka tahu nama saya, tidak ada kemajuan. Setelah mereka tahu nama saya, mereka tiba-tiba mulai dari titik yang kami capai… Saya merasa ini mencurigakan,” katanya.

Sebelum OpenAI mengumumkan pembuktiannya atas persamaan Navier-Stokes pada 8 September, Buckmaster mengatakan, perusahaan itu menawarkan kepengarangan tunggal kepadanya jika ia menghapus Alpöge sebagai penulis. Ia menolak.

OpenAI menyangkal adanya hubungan apa pun dengan datanya.

“Kami dapat menyatakan secara tegas bahwa mustahil prompt Codex Dr. Buckmaster selama dua bulan terakhir memengaruhi sistem dengan cara apa pun, termasuk melalui pelatihan,” ABC melaporkan, mengutip juru bicara OpenAI.

Buckmaster mengatakan rentang waktu itu terus berubah. Pernyataan perusahaan yang muncul belakangan menetapkan tanggalnya pada 3 Juli.

Mengapa Kini Buckmaster Meminta Para Peneliti untuk Tidak Memasukkan Gagasan ke AI

Buckmaster masih menggunakan Codex, tetapi tidak lagi memasukkan gagasan yang ingin ia jaga agar tetap orisinal.

Ia mengatakan bahwa penilai hibah sering menempelkan proposal penelitian ke alat AI untuk membuat ringkasan, sehingga rencana yang belum dipublikasikan diserahkan kepada perusahaan AI.

Peluncuran OpenAI pada Oktober mengambil bahan dari 4.000 masalah yang belum terpecahkan. Buckmaster mengatakan hal itu mematikan program penelitian para matematikawan di awal karier.

Peneliti utama OpenAI Sébastien Bubeck mengatakan kepada The New York Times bahwa tawaran-tawarannya dimaksudkan untuk membantu Buckmaster.

Seorang juru bicara mengatakan OpenAI telah membuat “kemajuan substansial” dalam masalah lain yang berhadiah $1 juta.