Apakah 10²⁵ FLOPs Masih Merupakan Batas Terdepan?
Sebuah rancangan undang-undang keselamatan baru yang ditulis Anthropic tengah beredar di Capitol Hill. Beberapa gagasannya mungkin masuk akal jika hanya berlaku bagi perusahaan-perusahaan yang benar-benar berada di garis terdepan. Namun, dalam bentuknya saat ini, rancangan itu pada akhirnya akan mencakup sebagian besar Silicon Valley dan merusak ekosistem startup.
Rancangan undang-undang itu mendefinisikan “garis terdepan” sebagai model apa pun yang dilatih dengan 10²⁵ FLOPs — standar Uni Eropa dari 2023. Perintah eksekutif Biden, SB 53 California, dan RAISE Act New York menggunakan ambang 10²⁶ (sepuluh kali lebih besar). Saat ini, garis terdepan yang sebenarnya berada di 10²⁷ (misalnya, GPT-6 Astra).
Kabarnya, Astra dilatih menggunakan lebih dari 100.000 GPU Grace Blackwell. Model 10²⁵ dapat dilatih hanya dengan beberapa ratus chip GB300 dalam waktu tiga bulan. Itu bukan lagi garis terdepan pada 2026.
Definisi tersebut juga bersifat kumulatif: FLOPs dari penyempurnaan, pembelajaran penguatan, atau modifikasi penting lainnya turut dijumlahkan. Dalam praktiknya, ini mencakup hampir semua pekerjaan pascapelatihan yang berarti — pekerjaan yang semakin umum di kalangan perusahaan.
Tren di kalangan perusahaan mengarah pada pembangunan ribuan model khusus yang lebih kecil untuk beban kerja tertentu. Model-model ini tidak menimbulkan risiko frontier. Menganggapnya sebagai sistem frontier akan membebankan biaya kepatuhan yang besar kepada perusahaan-perusahaan di seluruh Amerika tanpa meningkatkan keselamatan.
Dario pernah menyatakan bahwa Anthropic merancang aturan untuk merugikan perusahaan frontier seperti perusahaannya sendiri, sekaligus menguntungkan pesaing yang lebih kecil. Definisi ini justru melakukan kebalikannya.
Ambang batas usang dari 2023 menguntungkan perusahaan mapan yang sudah melampaui batas tersebut dan mampu menanggung biayanya. Ambang ini menghambat ekosistem model terbuka yang mengancam kekuatan Anthropic dalam menentukan harga.
Garis terdepan terus bergeser. Definisi apa pun yang dimaksudkan untuk mengukur risiko harus ikut bergeser.
Anthropic seharusnya menjelaskan apakah mereka benar-benar yakin bahwa 10²⁵ FLOPs mewakili garis terdepan.
Sebuah rancangan undang-undang keselamatan baru yang ditulis Anthropic tengah beredar di Capitol Hill. Beberapa gagasannya mungkin masuk akal jika hanya berlaku bagi perusahaan-perusahaan yang benar-benar berada di garis terdepan. Namun, dalam bentuknya saat ini, rancangan itu pada akhirnya akan mencakup sebagian besar Silicon Valley dan merusak ekosistem startup.
Rancangan undang-undang itu mendefinisikan “garis terdepan” sebagai model apa pun yang dilatih dengan 10²⁵ FLOPs — standar Uni Eropa dari 2023. Perintah eksekutif Biden, SB 53 California, dan RAISE Act New York menggunakan ambang 10²⁶ (sepuluh kali lebih besar). Saat ini, garis terdepan yang sebenarnya berada di 10²⁷ (misalnya, GPT-6 Astra).
Kabarnya, Astra dilatih menggunakan lebih dari 100.000 GPU Grace Blackwell. Model 10²⁵ dapat dilatih hanya dengan beberapa ratus chip GB300 dalam waktu tiga bulan. Itu bukan lagi garis terdepan pada 2026.
Definisi tersebut juga bersifat kumulatif: FLOPs dari penyempurnaan, pembelajaran penguatan, atau modifikasi penting lainnya turut dijumlahkan. Dalam praktiknya, ini mencakup hampir semua pekerjaan pascapelatihan yang berarti — pekerjaan yang semakin umum di kalangan perusahaan.
Tren di kalangan perusahaan mengarah pada pembangunan ribuan model khusus yang lebih kecil untuk beban kerja tertentu. Model-model ini tidak menimbulkan risiko frontier. Menganggapnya sebagai sistem frontier akan membebankan biaya kepatuhan yang besar kepada perusahaan-perusahaan di seluruh Amerika tanpa meningkatkan keselamatan.
Dario pernah menyatakan bahwa Anthropic merancang aturan untuk merugikan perusahaan frontier seperti perusahaannya sendiri, sekaligus menguntungkan pesaing yang lebih kecil. Definisi ini justru melakukan kebalikannya.
Ambang batas usang dari 2023 menguntungkan perusahaan mapan yang sudah melampaui batas tersebut dan mampu menanggung biayanya. Ambang ini menghambat ekosistem model terbuka yang mengancam kekuatan Anthropic dalam menentukan harga.
Garis terdepan terus bergeser. Definisi apa pun yang dimaksudkan untuk mengukur risiko harus ikut bergeser.
Anthropic seharusnya menjelaskan apakah mereka benar-benar yakin bahwa 10²⁵ FLOPs mewakili garis terdepan.