自由1688

Sambil bersiap melantai di bursa, sekaligus memperingatkan bahwa AI mungkin mengancam manusia—apa yang ditulis dalam prospektus IPO Anthropic?

Pada 29 September, menurut laporan Reuters, Anthropic berencana, dalam proses penawaran umum perdana (IPO), untuk mengingatkan calon investor bahwa AI canggih dapat menimbulkan “risiko bencana atau risiko yang mengancam kelangsungan hidup” bagi manusia. Ini merupakan peringatan yang tidak biasa bagi sebuah perusahaan yang berusaha meraup keuntungan dari teknologi tersebut.

Berdasarkan prospektus IPO Anthropic yang ditelusuri oleh Reuters, perusahaan tersebut menekankan risiko yang terkait dengan model-model AI miliknya. Anthropic menyatakan bahwa model-model ini dapat menunjukkan “perilaku perlindungan diri”, termasuk upaya “menolak untuk dimatikan”, “menyembunyikan atau memanipulasi informasi”, serta memperlihatkan perilaku “seperti pemerasan”.
“Dengan mengembangkan model, platform, dan aplikasi yang sangat canggih, serta memperluas skenario penerapannya, hal ini dapat semakin meningkatkan risiko bahwa model kami akan menyebabkan kerugian,” tulis Anthropic dalam dokumen tersebut.

Meski perusahaan publik biasanya menjelaskan risiko produk yang mungkin ada kepada investor, jarang ada perusahaan yang menerbitkan peringatan yang mengisyaratkan teknologinya bisa menyebabkan kepunahan manusia. Anthropic menegaskan bahwa potensi transformatif AI sebanding dengan industrialisasi dan listrik, namun sekaligus menunjukkan bahwa jika digunakan secara tidak tepat, AI dapat menimbulkan bahaya yang tidak dapat diperbaiki.

Anthropic, bersama pengembang AI lain seperti OpenAI, terus mendapat sorotan setelah terjadinya insiden ketika sistem eksperimental melawan pembatasan, termasuk laporan bahwa sebuah model OpenAI menyusup ke basis data sistem kesehatan di Australia. Peneliti keamanan Anthropic, Evan Hubinger, memperkirakan peluang AI membunuh manusia dalam sepuluh tahun ke depan melebihi 10%, sejalan dengan pandangan mantan koleganya, Jacob Coxon.

Anthropic selama ini memposisikan dirinya sebagai lab AI yang mengutamakan keselamatan. Dalam tubuh prospektusnya yang berjumlah 261 halaman, sekitar 80 halaman digunakan untuk mencantumkan faktor risiko—hampir dua kali lipat dibanding 48 halaman yang dipakai untuk memperkenalkan bisnis perusahaan.

Sebagai perbandingan, SpaceX yang memiliki xAI, dalam tubuh prospektusnya yang berjumlah 277 halaman, hanya menggunakan sekitar 38 halaman untuk menjelaskan faktor risiko.

@ENTRY HUNTER⁷⁸⁹

@Shaheen 69

@Presiden Amerika Serikat

Karyawan Google Mengundurkan Diri karena Khawatir Soal Kecerdasan Super: Mengejar AI yang Lebih Kuat Tidak Bertanggung Jawab, Tak Bisa Berpura-pura Tidak Melihat

Menurut laporan dari Business Insider, seorang karyawan Google menyatakan bahwa ia telah mengundurkan diri dari perusahaan dengan alasan mengejar AI yang “pada dasarnya tidak bertanggung jawab”. Robert O'Callahan, yang pernah bekerja di Google DeepMind, menulis di X bahwa tim tempat ia berada sedang mengembangkan chip agar AI dapat berjalan lebih cepat dan dengan biaya lebih rendah, namun ia berpendapat bahwa AI sudah “terlalu cepat berkembang”.

Ia membagikan surat pengunduran dirinya di blog pribadinya dan menyebut surat itu ia kirimkan kepada rekan kerja pada hari Jumat. Dalam surat tersebut, ia menulis bahwa ia tidak bisa “mengabaikan” dampak dari pekerjaannya, karena hal itu “bukan sesuatu yang seharusnya dilakukan oleh seorang pengikut Yesus”. Di bagian bio blognya, ia menyebut dirinya seorang Kristen.

“Ini bukan keputusan yang mudah. Saya menyukai rekan-rekan saya dan saya juga menyukai lingkungan kerja di sini, dan menangani masalah-masalah yang menarik dengan gaji yang sangat besar memang merupakan hal yang luar biasa,” tulisnya, “namun tujuan akhir tim kami adalah menurunkan biaya AI secara drastis dan mengurangi latensi secara signifikan, dan saya tidak yakin itu adalah hal yang baik untuk orang-orang saat ini: saya benar-benar percaya bahwa laju perkembangan AI saat ini terlalu cepat (dan saya juga memiliki keraguan tentang ke mana akhirnya ia akan menuju).”

DeepSeek pendapatan tahunan yang diproyeksikan mencapai 1 miliar dolar AS setelah bocoran periode tertentu Meskipun harga naik, basis pelanggan tidak berkurang

25 September, menurut laporan The Information yang mengutip dua orang sumber yang mengetahui, pendapatan tahunan DeepSeek yang dihitung berdasarkan tingkat pendapatan terkini telah mencapai 1 miliar dolar AS, meningkat lebih dari dua kali lipat dibanding level kurang dari 500 juta dolar AS beberapa bulan sebelumnya. Pendirinya, Liang Wenfeng, mengungkapkan angka tersebut dalam sebuah pertemuan dengan investor.

Sebagian pertumbuhan pendapatan berasal dari kenaikan harga API pada bulan Agustus. Sumber yang mengetahui mengatakan bahwa dalam pertemuan tersebut, Liang Wenfeng menyatakan bahwa kenaikan harga tidak menyebabkan menyusutnya basis pelanggan; permintaan tetap kuat. Saat ini, hampir seluruh pendapatan DeepSeek berasal dari layanan API. Aplikasi obrolan gratisnya tidak menampilkan iklan dan tidak menghasilkan pendapatan.

Laporan tersebut juga menyebutkan bahwa DeepSeek sedang mendorong putaran pendanaan kedua, dengan target menyelesaikannya sebelum akhir Oktober. Rencananya, perusahaan akan menghimpun 50 miliar yuan dengan valuasi 500 miliar yuan, sekaligus menyiapkan rencana untuk go public di Bursa Efek Shanghai. Liang Wenfeng mengatakan kepada para investor bahwa menambah pendapatan bukanlah prioritas utama perusahaan; lebih dari 70% komputasi digunakan untuk melatih model baru, sementara kurang dari 30% digunakan untuk menjalankan model yang sudah ada serta memproses permintaan pengguna.

Anthropic: Laboratorium Eksperimen AI untuk Bio Berhasil Capai Terobosan Awal, Namun Belum Diberi Otoritas Operasional Sepenuhnya Secara Mandiri

Perusahaan rintisan kecerdasan buatan Anthropic mengumumkan bahwa laboratorium AI fisika dan biologi baru mereka (Wet Lab) di kawasan Teluk San Francisco telah meraih “kemajuan penting”. Namun dalam hal pelaksanaan eksperimen, para peneliti manusia tetap memegang kendali penuh, dan tidak secara langsung membiarkan model AI mereka, Claude, berjalan secara mandiri tanpa pengawasan.

Diketahui, laboratorium ini terutama berfokus pada riset biologi dasar dan validasi menggunakan eksperimen nyata, dengan tujuan menjembatani kesenjangan antara simulasi komputer murni dan eksperimen biologi yang sesungguhnya. Walaupun para eksekutif Anthropic sebelumnya berkali-kali mengeluarkan peringatan, menekankan bahwa model AI yang sangat kuat dapat menimbulkan risiko keselamatan hayati yang sangat serius hingga ancaman kehancuran bagi umat manusia, perusahaan tersebut sekaligus terus mempercepat penerapan AI di bidang ilmu kehidupan. Kepala urusan bisnis ilmu kehidupan Anthropic, Eric Kauderer-Abrams, menyatakan bahwa “verifikasi fisik di laboratorium nyata dalam jangka waktu yang cukup lama masih tak tergantikan”, dan inilah niat utama perusahaan mendirikan laboratorium tersebut.

Laporan menegaskan bahwa meskipun Anthropic mengklaim laboratorium itu telah mencapai hasil awal yang mengesankan, rincian yang paling menarik justru adalah fakta bahwa perusahaan tidak memilih untuk membiarkan AI “lepas kendali”. Semua alur prosedur eksperimen fisik, penanganan reagen, serta peninjauan ulang data saat ini masih berada di bawah kontrol ketat para peneliti manusia dalam “pengawasan tertutup” (Humans in the loop).

Para analis menyebutkan bahwa Anthropic, sambil mendorong inovasi biologi, tetap sangat berhati-hati. Hal ini mencerminkan dilema ganda yang dihadapi raksasa teknologi saat mengejar terobosan komersial dan riset: di satu sisi, mereka perlu memanfaatkan laboratorium eksperimen nyata untuk memberi kemampuan verifikasi bagi mitra industri farmasi, sekaligus mempercepat penemuan obat untuk penyakit langka; di sisi lain, mereka harus menghadapi kekhawatiran besar dari berbagai kalangan tentang potensi penyalahgunaan AI untuk menciptakan ancaman biologis baru. Dengan mempertahankan posisi dominan manusia dalam siklus eksperimen, Anthropic berupaya menetapkan batas kepatuhan yang mengutamakan inovasi sekaligus keamanan untuk riset biologi berbasis AI mereka.

Orang asing berburu barang bekas dapatkan RTX 5090, ternyata ada tanda tangan tangan Huang Jen-Hsün—versi global yang unik

Baru-baru ini, seorang seniman 3D membeli kartu grafis RTX 5090 di pasar barang bekas dan secara tak terduga mendapatkan sebuah koleksi langka yang unik di seluruh dunia—ASUS ROG Astral RTX 5090 White OC edisi peringatan 30 tahun, dengan bagian belakang kartu yang bertuliskan tanda tangan tangan CEO NVIDIA, Huang Jen-Hsün.
Seniman 3D tersebut mengungkapkan bahwa ia dan seorang temannya membeli dua kartu RTX 5090 di pasar barang bekas untuk sebuah proyek 3D. Salah satunya kemudian dipastikan sebagai versi ASUS ROG Astral RTX 5090 White OC; pada awalnya ia mengira tanda tangan tersebut berasal dari salah satu eksekutif ASUS.

OpenAI merilis GPT-6 Sol dan Luna dengan peningkatan kecerdasan yang lebih baik serta harga lebih rendah

OpenAI baru-baru ini meluncurkan dua model baru dalam seri GPT-6, yaitu GPT-6 Sol dan GPT-6 Luna, yang diposisikan sebagai model terdepan generasi berikutnya. Kedua model ini berfokus pada peningkatan kemampuan pemrograman, penalaran, pemanggilan alat, serta eksekusi tugas-tugas kompleks. Selain itu, penetapan harga juga diturunkan sehingga pengembang dapat menggunakan model yang lebih kuat dengan biaya yang lebih rendah.

GPT-6 Sol terutama ditujukan untuk tugas yang membutuhkan tingkat kecerdasan tinggi, sekaligus cukup sensitif terhadap kecepatan respons dan biaya. OpenAI menyatakan bahwa dibandingkan model sekelas generasi sebelumnya, Sol mengalami peningkatan yang nyata dalam kemampuan pengkodean. Dalam menangani tugas rekayasa perangkat lunak yang kompleks, menganalisis kode, dan menjalankan alur kerja multi-langkah, Sol tampil lebih stabil.