Ein unscheinbarer Keller in Bellevue im US-Bundesstaat Washington ist zu einem Vorzeigeprojekt für KI-Hardware im Heimbereich geworden: Gary Fleck betreibt dort sieben leistungsstarke Nvidia-Grafikkarten in einem maßgeschneiderten Rechner. Laut Sina Finance baute Fleck, ein ehemaliger Microsoft-Mitarbeiter und Gründer mehrerer Start-ups, das System, um mit mehreren Terabyte EEG-Daten maßgeschneiderte KI-Modelle zu trainieren. Er sagte, es habe weniger als 6.000 Dollar gekostet – weit weniger, als er jeden Monat für Amazon Web Services oder Microsoft Cloud bezahlen müsste.

Selbst nach elektrischen Nachrüstungen und dem Einbau einer neuen Klimaanlage, die weitere 10.000 bis 20.000 Dollar kosteten, um den Keller zu kühlen, sei es laut Fleck immer noch günstiger gewesen, den Rechner selbst zu bauen. Er sagte, er wolle die Rechenleistung selbst in der Hand behalten und keine Rechenleistung von anderen mieten.

Dem Artikel zufolge sind lokale KI-Anwendungen auf Dachböden, in Kellern und Heimbüros zu einem unerwarteten Bestandteil des aktuellen KI-Booms geworden. Viele Entwickler kleinerer Projekte und Hardware-Enthusiasten entscheiden sich aus Kostengründen sowie wegen Datenschutz und Komfort dafür, KI auf ihren eigenen Geräten auszuführen. Einige glauben auch, dass lokale KI dabei helfen kann, künftige staatliche Beschränkungen beim Zugang zu KI-Werkzeugen zu umgehen.

KI-Systeme für zu Hause werden auch zunehmend zum Statussymbol. Shopify-CEO Tobi Lutke sorgte kürzlich online für Aufsehen, als er drei vertikale Serverschränke in seinem Zuhause zeigte, die mit pinken LED-Streifen umwickelt waren. Darunter war ein Dell-Rechner mit hochwertigen Nvidia-Grafikkarten, den das Unternehmen als „ultimativen Desktop-Supercomputer“ bezeichnete.

Der Trend hat Hardwareherstellern unerwarteten Auftrieb gegeben. Mac-mini- und Mac-Studio-Rechner sind bei Entwicklern von KI-Agenten beliebt geworden, während Dell erklärte, der Markt für KI-Enthusiasten im Heimbereich wachse rasant. Mark Hammons, ein herausragender leitender Ingenieur bei Dell, sagte, die Nachfrage nach entsprechender Hardware sei nach der Veröffentlichung von OpenClaw stark gestiegen.

Die Homelab-Community gibt es schon seit Jahren, doch die jüngste Interessenswelle wurde durch KI befeuert. Einige Nutzer sind nach Preiserhöhungen, Ausfällen und Leistungsproblemen von Cloud-Modellen zu lokalen Systemen gewechselt, während andere sagen, sie wollten, dass die Eigentümerschaft und Kontrolle über KI-Systeme bei den Nutzern bleibt.