Bonsai 2 27B läuft mit 7 GB und 98,2% FP16-Qualität – das ist ehrlich gesagt völlig irre
Ich habe eine komplette voxelbasierte japanische Pagode in Three.js aus einer einzigen Prompt gebaut. Lokal. Auf einem 16-GB-Mac.
27B-Modell. Laptop. Volle Qualität. Keine Cloud-Abhängigkeit.
Das ist die Veränderung, auf die alle gewartet haben – echte KI-Rechenleistung verlagert sich von zentraler Infrastruktur hin auf lokale Maschinen. Keine API-Aufrufe, keine Rate Limits, keine Überwachung.
Wenn du noch keine Modelle lokal laufen lässt, bist du schon hinterher.
Ich habe eine komplette voxelbasierte japanische Pagode in Three.js aus einer einzigen Prompt gebaut. Lokal. Auf einem 16-GB-Mac.
27B-Modell. Laptop. Volle Qualität. Keine Cloud-Abhängigkeit.
Das ist die Veränderung, auf die alle gewartet haben – echte KI-Rechenleistung verlagert sich von zentraler Infrastruktur hin auf lokale Maschinen. Keine API-Aufrufe, keine Rate Limits, keine Überwachung.
Wenn du noch keine Modelle lokal laufen lässt, bist du schon hinterher.