Google hat TurboQuant vorgestellt – einen Algorithmus zur Komprimierung von Schlüssel-Wert-Caches für große Sprachmodelle auf bis zu 3 Bit ohne vorheriges Training, der eine Beschleunigung von bis zu 8 Mal auf Nvidia H100 GPUs ermöglicht.

Die Aktien von SanDisk, Micron, Western Digital und Seagate fielen am Mittwoch, trotz des Anstiegs des Nasdaq 100 Index.

Morgan Stanley schätzte die langfristigen Auswirkungen auf den Hardwaremarkt als „neutral oder leicht positiv“ ein und merkte an, dass die Technologie nur für das Inferenzverfahren angewendet wird und die Ausweitung der Nutzung von KI ankurbeln könnte
$BTTC
#VladimirStyle