Wie schnell kann ein Modell sein, das keine Texte generiert, sondern nur Entscheidungen trifft?
Das indische Unternehmen Sarvam hat gerade Prism vorgestellt: Auf einer B200 liefert es Ergebnisse in 44 Millisekunden. In drei Benchmarks erzielt es durchschnittlich 71,8 Punkte – der höchste Wert unter 25 Entscheidungsmodellen, die Ergebnisse in unter 100 Millisekunden liefern. Bei einer Konfidenz von über 90 Prozent liegt die Fehlerrate für Englisch bei nur 2,2 Prozent.
Prism basiert auf einem 105B-Grundmodell. Die Gewichte sind vollständig unter Apache 2.0 verfügbar, und Unternehmen können das Modell mit ihren eigenen Daten weitertrainieren. Bei Chatmodellen geht es um Cleverness, bei Entscheidungsmodellen um Tempo und Genauigkeit – das ist ein ganz anderes Spielfeld.
Das indische Unternehmen Sarvam hat gerade Prism vorgestellt: Auf einer B200 liefert es Ergebnisse in 44 Millisekunden. In drei Benchmarks erzielt es durchschnittlich 71,8 Punkte – der höchste Wert unter 25 Entscheidungsmodellen, die Ergebnisse in unter 100 Millisekunden liefern. Bei einer Konfidenz von über 90 Prozent liegt die Fehlerrate für Englisch bei nur 2,2 Prozent.
Prism basiert auf einem 105B-Grundmodell. Die Gewichte sind vollständig unter Apache 2.0 verfügbar, und Unternehmen können das Modell mit ihren eigenen Daten weitertrainieren. Bei Chatmodellen geht es um Cleverness, bei Entscheidungsmodellen um Tempo und Genauigkeit – das ist ein ganz anderes Spielfeld.