Prospektus penawaran umum perdana (IPO) awal Anthropic memperingatkan bahwa kecerdasan buatan (AI) tingkat lanjut dapat menimbulkan risiko eksistensial bagi umat manusia, demikian yang dilaporkan Reuters.

Pengembang Claude membuat pengungkapan itu dalam berkas untuk pencatatan yang nilainya dapat mencapai lebih dari $2 triliun. Nilai tersebut akan melampaui valuasi $1,77 triliun yang diraih SpaceX pada IPO Juni-nya.

Ketahanan terhadap Shutdown dan Pemerasan Masuk ke Bagian Faktor Risiko

Menurut Reuters yang meninjau prospektus tersebut, berkas pengajuan menyatakan bahwa model-model Anthropic dapat menunjukkan perilaku yang bersifat memelihara diri. Contohnya mencakup menolak dimatikan, menyembunyikan atau memanipulasi informasi, serta perilaku yang menyerupai pemerasan.

Minggu lalu, CEO Dario Amodei memberikan peringatan serupa kepada Dewan Keamanan Perserikatan Bangsa-Bangsa (PBB) tentang risiko bagi umat manusia.

Faktor risiko mengisi kira-kira 80 dari 261 halaman utama, hampir dua kali lipat dari 48 yang menjelaskan bisnis. SpaceX, yang memiliki xAI, mengalokasikan sekitar 38 dari 277 halaman utama untuk risiko.

Dalam pengajuan tersebut juga disebutkan bahwa model dapat mengenali ketika Anthropic sedang menguji mereka.

“Potensi kesadaran model terhadap upaya evaluasi kami menciptakan keterbatasan yang signifikan dalam kemampuan kami untuk menilai keselamatan model,” kata mereka.

Perusahaan tidak mengungkapkan berapa banyak yang dihabiskan untuk riset keselamatan. Bulan ini, perusahaan mengatakan pekerjaan keselamatan menghabiskan sekitar 6% dari komputasi riset AI pada sampel minggu bulan Juli.

Ikuti kami di X untuk mendapatkan berita terbaru saat itu terjadi

Pelepasan Dana Pitch Anthropic Senilai $2 Triliun Hadir dengan Tagihan $518 Miliar

Laporan Reuters terpisah merinci keuangan. Pendapatan tumbuh 12 kali lipat pada 2025 menjadi hampir $4,6 miliar. Namun, kerugian operasional melebar menjadi $8,06 miliar dari $2,98 miliar pada 2024.

Kerugian bersih mencapai $42 miliar pada 2025, meski sekitar $34 miliar berasal dari biaya akuntansi. Biaya itu mencerminkan nilai perkiraan pembiayaan yang lebih tinggi yang nantinya dapat dikonversi menjadi saham.

Biaya komputasi dan infrastruktur sebesar $7,33 miliar pada 2025, tiga kali lipat level 2024. Pengeluaran itu menyumbang lebih dari separuh total beban operasi sebesar $12,65 miliar. Kewajiban masa depan untuk cloud, komputasi, dan infrastruktur totalnya $518 miliar.

BeInCrypto sebelumnya melaporkan bahwa debut kemungkinan akan datang setelah pemilu sela AS November. Anthropic juga dapat mengizinkan pihak pendukung awal untuk menjual saham dalam penawaran tersebut.

Analis yang dikutip oleh Reuters memperkirakan lab AI pertama akan melakukan pencatatan untuk menetapkan tolok ukur penilaian bagi industri. OpenAI mengajukan secara rahasia pada Juni, tetapi Sam Altman menolak kemungkinan pencatatan tahun ini.

Langganan kanal YouTube kami untuk menonton para pemimpin dan jurnalis memberikan wawasan ahli