Berita dari CoinWorld, menurut pemantauan 1M AI News, Laboratorium AI PrismML yang didirikan bersama oleh matematikawan Caltech Babak Hassibi telah mengakhiri periode tidak terlihat, merilis model bahasa besar 1-bit Bonsai. Model unggulan 1-bit Bonsai 8B memiliki 8,2 miliar parameter, dengan penggunaan memori hanya 1,15 GB, yang merupakan sekitar 14 kali lebih kecil dibandingkan model 16-bit sejenis (sekitar 16 GB). Bobot tersedia untuk diunduh secara terbuka di HuggingFace dengan lisensi Apache 2.0, sementara juga dirilis dua model yang lebih kecil yaitu 4B (0,5 GB) dan 1,7B (0,24 GB). Bonsai 8B adalah model benar 1-bit end-to-end: lapisan embedding, lapisan perhatian, lapisan MLP, dan kepala output semuanya hanya menggunakan +1 atau -1 untuk mewakili bobot, tanpa patch presisi tinggi. PrismML menyatakan bahwa kemampuan inferensi dan pemahaman bahasa pada pengujian dasar standar setara dengan model 16-bit presisi penuh. Matematika kompresi inti telah dikembangkan oleh tim di Caltech selama bertahun-tahun, dan hak kekayaan intelektual dimiliki oleh Caltech, dengan PrismML sebagai satu-satunya pemegang lisensi eksklusif. Model ini dilatih menggunakan Google v4 TPU. Kecepatan yang terukur: 136 tok/s di M4 Pro Mac, 440 tok/s di RTX 4090, dan sekitar 44 tok/s di iPhone 17 Pro Max, sementara model 16-bit 8B standar tidak dapat dimuat di perangkat iPhone mana pun. Konsumsi energi sekitar 4-5 kali lebih rendah dibandingkan model 16-bit. PrismML menunjukkan bahwa perangkat keras yang ada tidak dirancang untuk inferensi 1-bit, keuntungan dalam kecepatan dan konsumsi energi terutama berasal dari pengurangan penggunaan memori; jika di masa depan muncul perangkat keras yang dirancang khusus untuk 1-bit (hanya perlu operasi penjumlahan dan pengurangan, tanpa perkalian), efisiensinya bisa meningkat satu tingkat lagi. PrismML telah menyelesaikan pendanaan SAFE sebesar 16,25 juta dolar dan putaran pembiayaan awal, dengan investor termasuk Khosla Ventures, Cerberus Capital, dan Caltech. Pendiri Khosla Ventures, Vinod Khosla, menyatakan bahwa ini "bukan iterasi kecil, melainkan terobosan teknologi besar, adalah terobosan matematika, bukan hanya model kecil lainnya."