Folgende Gedanken zur ROI-Sorge bei KI-gewichtetem Unternehmen wie $OPENAI $ANTHROPIC und XAI usw. haben mich seit ein paar Tagen beschäftigt, also dachte ich, ich schreibe in der Form eines Gedankens und einer Meinung. Hoffe, das macht Sinn.

Gedanke: Geht es beim KI-Modell-Wettlauf darum, ein besseres Modell für bessere Aufgaben und ein günstigeres Modell für günstigere Aufgaben zu haben? Ist das Modell allein das Produkt?

Meinung: Das eigentliche Produkt sollte ein Orchestrierungs-System sein, das das Modell in einen sehr leistungsfähigen Rahmen einbettet und das Modell mit vielen Tools kombiniert. Die Tools könnten dabei wertvollen Kontext einbringen, der in Ihrem Unternehmen einzigartig existiert und sich für eine besondere Kundengruppe eignet. Daher sollte der Fokus auf der Optimierung der bestmöglichen Leistungswerte liegen, statt darauf, wie viele Tokens die Ingenieure verbraucht haben.

Gedanke. Was wäre, wenn KI-Modelle aus den USA genauso funktionieren könnten wie Linux, das Android als Open-Source-Modell antreibt – oder wie Open-Source-Chinesische Modelle?

Meinung. Wenn $NVDAB DG x spark den GB-10-GPU-Chip mit vereinigtem Speicher in einem lokalen Gerät einbetten könnte, z. B. in einem Laptop oder PC, dann könnte das in einem lokal administrierbaren Enterprise-Server eingebettet werden.

Gedanke. Wall Street hat angefangen, ihre Vorstöße zu machen: Können diese stark gewichteten KI-Model-Unternehmen echte Umsätze aus dem gesamten Capex von 750 Milliarden US-Dollar + generieren, und wird sich die Lücke zwischen chinesischen Open-Source-Modellen und Frontier-Modellen weiter vergrößern oder wird sie kleiner?

Meinung. Entscheidend ist, dass all diese Fähigkeiten in den Kontext eingebettet werden, der kleine Unternehmen und Betriebe befähigt, und dass sie dann die Bereitstellung, die Nutzung und die Orchestrierung übernehmen können. Die Lücke zwischen Open-Source- und Frontier-Modellen wird wahrscheinlich weiter bestehen bleiben, bis ROI-Signale etwas anderes anzeigen.

Gedanke. Warum sollten Nicht-Technologie- oder kleine Unternehmen ihr eigenes KI-Modell hosten?

Meinung. Die allgemeine öffentliche Wahrnehmung von KI ist negativ, und wir werden nicht gut dastehen, wenn KI in Frontier-Labs eingesperrt ist oder sich auf große Konzerne konzentriert, die sich leisten können, für die Inferenz dieser Tokens zu zahlen. Der logische Weg, wie KI funktionieren sollte, ist, dass Menschen die Kontrolle darüber haben können, wie sie läuft: welches Modell sie verwenden, auf welche Kenntnisse sie zugreifen kann – und sich nicht darum sorgen müssen, dass sie offline geht, nur weil es eine Schwachstelle im Rechenzentrum gibt. Lokales Computing kann diese Probleme bezüglich exorbitanter Kosten, Datensouveränität und Flexibilität lösen, indem es die #NVDIA DGX Spark Hardware nutzt, die den Speicher über CPU und GPU innerhalb dieses lokalen Geräts vereinheitlicht – im Gegensatz zu einem Rechenzentrum, in dem der Speicher zwischen CPU und GPU nicht vereinheitlicht ist. Das beseitigt auch das Leistungs-Engpassproblem beim Betrieb eines Rechenzentrums, indem man einfach mit nur einigen hundert Watt in einem lokalen Gerät auskommt und es lokal administrieren kann. Die für Tokens aufgewendeten Mittel könnten sich exponentiell über viele Menschen skalieren lassen, ohne dass man mehr Rechenzentren aufbauen muss.

Gedanke. Wenn mehr Entwickler, Unternehmen und Regierungen „Desk Site Computing“/lokales Computing nutzen, ist dann kein Infrastrukturaufbau mehr nötig?

Meinung. Ja, dieser Aufbau der Infrastruktur wäre nicht nötig.

Gedanke. Warum macht KI keinen Umsatz?

Meinung. Weil es begrenzte Rechenleistung und begrenzte Energie gibt. Was wäre, wenn wir die Energie nutzen, die uns jederzeit zur Verfügung steht, und eine stromsparende Struktur auf der Chip-Ebene aufbauen, die den Speicher über CPU und GPU hinweg vereinheitlicht? Menschen könnten KI statt manueller Aufgaben verwenden, weil die Rechenzeit zur „Computer“-Rechenzeit wird – also KI als Betriebssystem fungiert, so wie Linux es für alle Android-Nutzer getan hat, da es ebenfalls Open Source ist.

Gedanke. Warum unterstützt die USA Open Source nicht so strategisch, wie sie es für Chips und Rechenzentren tut?

Meinung. Mangelnde Leitplanken und ein sehr hohes Risiko für KI-Halluzinationen. Android wird von Linux angetrieben und ist Open Source – das stört Android-Nutzer nicht, weil es ihnen erlaubt, Schwachstellen ziemlich schnell zu patchen. Der Erfolg von KI hängt von ihrer breiten Nutzung ab, und diese hängt wiederum von ihrer Erschwinglichkeit ab – ähnlich wie bei Android.

Gedanke. Alex Karp von #Palantir hat gewarnt, dass Unternehmen vorsichtig sein sollten, ihre geheime Rezeptur mit KI-Co's zu teilen, um selbst zu überleben. Wie können wir unsere Daten schützen, während wir KI nutzen?

Meinung. Ein einzigartiger, proprietärer Schutz von Daten ist nur möglich, wenn wir die Kontrolle über Datenschutz und Souveränität haben, indem wir KI-Modelle einzigartig so entwerfen, dass sie lokal für genau 1 Unternehmen dienen. Wir möchten nicht, dass unsere lokalen Geräte Zugriff auf unsere persönlichen Dateien, Bilder und Daten erhalten und anfangen, uns zu überwachen. Deshalb wird auch das Kosten-Element gerechtfertigt – im Hinblick auf den Datenschutz.

Diese Gedanken und Meinungen dienen nur zu Bildungszwecken.