Musk membagikan meme sindiran dari komunitas AI:
Dulu membuktikan teori, sekarang tinggal tumpuk GPU
Sepertinya pada tahun 2028, sektor penyimpanan masih akan menjadi penguasa
Musk membagikan sebuah gambar perbandingan “AI then / AI now”, dan hanya mengomentari satu kata: “Accurate ?”
Dalam gambar tersebut, riset machine learning di masa lalu perlu merancang metode inti, membuktikan mengapa model bisa bekerja, serta membangun model probabilistik. Di era model besar, metodenya tinggal tiga langkah: besarkan Transformer, berikan lebih banyak data, lalu tambah lebih banyak GPU—dan model pun kembali menjadi semakin kuat.
Inilah kenyataan yang menyulitkan di industri model besar: dulu orang meneliti prinsip terlebih dahulu, lalu merancang model; sekarang, sering kali orang memperbesar skala dulu, baru kemudian meneliti mengapa kemampuan bisa muncul.