Pada 6 Oktober 2026, peneliti Jacob Coxon, yang pernah bekerja di OpenAI dan Anthropic, menjadi tamu di program wawancara terkenal PBD Podcast. Isi percakapan ini sangat kaya. Untuk memudahkan para investor yang fokus pada pasar saham AS, saya khusus merangkum beberapa informasi intinya.
Pertama, mengenai titik belok perkembangan teknologi. Jacob memperkirakan bahwa sebelum tahun 2027, kecerdasan buatan tidak hanya akan mengambil alih sebagian besar pekerjaan kerah putih, tetapi yang lebih penting: mereka mungkin akan mengambil alih riset AI itu sendiri. Ketika AI memiliki kemampuan untuk ikut berpartisipasi dalam pengembangan dirinya sehingga tercapai peningkatan diri yang bersifat rekursif atau RSI, langkah pembaruan teknologi akan menunjukkan pertumbuhan yang meledak-ledak. Ini juga berarti manusia menghadapi risiko kehilangan kendali secara bertahap. Pandangan ini sangat selaras dengan tren teknologi AI yang sebelumnya saya bagikan: momen ketika AI benar-benar mengubah segalanya bukanlah saat ia menggantikan pekerjaan tertentu, melainkan ketika ia mulai mengembangkan AI yang lebih kuat secara mandiri.
Kedua, masalah penyusupan keamanan. Jacob terus terang mengatakan bahwa ia yakin dengan tingkat 90% bahwa saat ini sudah ada mata-mata Tiongkok yang menyusup ke tim OpenAI dan Anthropic. Orang-orang tersebut mungkin sedang menjalankan pekerjaan rutin dengan identitas sebagai peneliti atau insinyur biasa. Bagi saya, ini bukanlah kabar yang mengejutkan. Sebelumnya, Kimi telah mengungkap beberapa informasi mengenai model-model Anthropic yang belum dipublikasikan. Saat itu saya sudah menduga bahwa mungkin ada celah dalam keamanan informasi internal pada perusahaan-perusahaan yang bergerak di lini model-model mutakhir. Jika dikombinasikan dengan kasus baru-baru ini tentang seorang agen properti California yang dituduh sebagai agen Tiongkok, saya tidak merasa heran dengan potensi risiko penyusupan mata-mata yang dialami perusahaan-perusahaan teknologi canggih di AS.
Ketiga, membahas perbandingan budaya internal dua perusahaan papan atas. Menurut Jacob, manajemen internal OpenAI terlihat agak tidak teratur, dan anggota tim cenderung menempatkan prospek karier pribadi di prioritas utama. Sementara itu, Sam Altman sebagai pemimpin jelas menunjukkan orientasi bisnis, lebih menyukai janji visi yang ambigu, dan meninggalkan kesan bahwa ia kurang jujur di industri. Sebaliknya, struktur organisasi Anthropic sangat terfokus dan disiplin. Para karyawan bahkan membandingkan diri mereka dengan semut (Ants). Tujuh co-founder perusahaan tersebut bergerak dengan irama yang sangat selaras; seluruh tim bekerja untuk mencapai tujuan inti, yaitu jalan menuju superintelligence. Ia menilai Dario Amodei sebagai sosok yang sangat blak-blakan, penuh misi, namun juga memiliki sedikit sifat paranoid. Justru fokus untuk mencapai tujuan akhir dengan mengorbankan apa pun itulah yang membuat Anthropic memiliki kekuatan yang lebih unggul dibanding OpenAI—namun pada saat yang sama juga mungkin membuatnya menjadi lebih berbahaya. Jika dilihat dari sudut pandang investasi, Jacob secara tegas menyatakan bahwa pada tahap ini ia lebih memilih Anthropic.
Terakhir, ada satu pandangan yang relatif baru dan menarik. Jacob menyampaikan bahwa AI berpotensi menurunkan secara signifikan ambang batas teknis untuk pembuatan atau modifikasi senjata biologis. Hal ini mungkin di masa depan akan memicu kebocoran senjata biologis dalam skala kecil, serangan siber, atau gejolak sosial dalam waktu singkat. Ia juga mengungkapkan sebuah detail: banyak insinyur utama dan peneliti yang berada di garis depan riset AI saat ini sudah mulai menyiapkan Gold, Guns, Land untuk menghadapi kemungkinan lingkungan ekonomi dan guncangan besar terhadap tatanan sosial di masa mendatang.
Tautan program wawancara yang relevan adalah sebagai berikut, untuk referensi:
https://youtu.be/Qpuj1nhcxiI?si=6w9qupXh4aGQOvKL
Pertama, mengenai titik belok perkembangan teknologi. Jacob memperkirakan bahwa sebelum tahun 2027, kecerdasan buatan tidak hanya akan mengambil alih sebagian besar pekerjaan kerah putih, tetapi yang lebih penting: mereka mungkin akan mengambil alih riset AI itu sendiri. Ketika AI memiliki kemampuan untuk ikut berpartisipasi dalam pengembangan dirinya sehingga tercapai peningkatan diri yang bersifat rekursif atau RSI, langkah pembaruan teknologi akan menunjukkan pertumbuhan yang meledak-ledak. Ini juga berarti manusia menghadapi risiko kehilangan kendali secara bertahap. Pandangan ini sangat selaras dengan tren teknologi AI yang sebelumnya saya bagikan: momen ketika AI benar-benar mengubah segalanya bukanlah saat ia menggantikan pekerjaan tertentu, melainkan ketika ia mulai mengembangkan AI yang lebih kuat secara mandiri.
Kedua, masalah penyusupan keamanan. Jacob terus terang mengatakan bahwa ia yakin dengan tingkat 90% bahwa saat ini sudah ada mata-mata Tiongkok yang menyusup ke tim OpenAI dan Anthropic. Orang-orang tersebut mungkin sedang menjalankan pekerjaan rutin dengan identitas sebagai peneliti atau insinyur biasa. Bagi saya, ini bukanlah kabar yang mengejutkan. Sebelumnya, Kimi telah mengungkap beberapa informasi mengenai model-model Anthropic yang belum dipublikasikan. Saat itu saya sudah menduga bahwa mungkin ada celah dalam keamanan informasi internal pada perusahaan-perusahaan yang bergerak di lini model-model mutakhir. Jika dikombinasikan dengan kasus baru-baru ini tentang seorang agen properti California yang dituduh sebagai agen Tiongkok, saya tidak merasa heran dengan potensi risiko penyusupan mata-mata yang dialami perusahaan-perusahaan teknologi canggih di AS.
Ketiga, membahas perbandingan budaya internal dua perusahaan papan atas. Menurut Jacob, manajemen internal OpenAI terlihat agak tidak teratur, dan anggota tim cenderung menempatkan prospek karier pribadi di prioritas utama. Sementara itu, Sam Altman sebagai pemimpin jelas menunjukkan orientasi bisnis, lebih menyukai janji visi yang ambigu, dan meninggalkan kesan bahwa ia kurang jujur di industri. Sebaliknya, struktur organisasi Anthropic sangat terfokus dan disiplin. Para karyawan bahkan membandingkan diri mereka dengan semut (Ants). Tujuh co-founder perusahaan tersebut bergerak dengan irama yang sangat selaras; seluruh tim bekerja untuk mencapai tujuan inti, yaitu jalan menuju superintelligence. Ia menilai Dario Amodei sebagai sosok yang sangat blak-blakan, penuh misi, namun juga memiliki sedikit sifat paranoid. Justru fokus untuk mencapai tujuan akhir dengan mengorbankan apa pun itulah yang membuat Anthropic memiliki kekuatan yang lebih unggul dibanding OpenAI—namun pada saat yang sama juga mungkin membuatnya menjadi lebih berbahaya. Jika dilihat dari sudut pandang investasi, Jacob secara tegas menyatakan bahwa pada tahap ini ia lebih memilih Anthropic.
Terakhir, ada satu pandangan yang relatif baru dan menarik. Jacob menyampaikan bahwa AI berpotensi menurunkan secara signifikan ambang batas teknis untuk pembuatan atau modifikasi senjata biologis. Hal ini mungkin di masa depan akan memicu kebocoran senjata biologis dalam skala kecil, serangan siber, atau gejolak sosial dalam waktu singkat. Ia juga mengungkapkan sebuah detail: banyak insinyur utama dan peneliti yang berada di garis depan riset AI saat ini sudah mulai menyiapkan Gold, Guns, Land untuk menghadapi kemungkinan lingkungan ekonomi dan guncangan besar terhadap tatanan sosial di masa mendatang.
Tautan program wawancara yang relevan adalah sebagai berikut, untuk referensi:
https://youtu.be/Qpuj1nhcxiI?si=6w9qupXh4aGQOvKL