Ollama wurde auf v0.40.9 aktualisiert. Dieses Update ermöglicht die direkte Sprachgenerierung mit Phonon auf Apple Silicon. Mit `ollama run` lassen sich Antworten von Text- oder Chatmodellen während der Generierung vorlesen. Anwendungen können Audio außerdem über die OpenAI-kompatible Schnittstelle `/v1/audio/speech` streamen.

Ebenfalls neu in dieser Version ist das Entscheidungsmodell d3. Es kann Texte, strukturierte Zustände oder Bilder klassifizieren, Ja-oder-Nein-Fragen beantworten oder Optionen bewerten. Es ist in den Größen 2B, 4B, 9B und 27B verfügbar. Flint unterstützt jetzt neben macOS auch Linux und Windows. Schlägt eine Streaming-Anfrage fehl, nachdem bereits ein Teil der Antwort ausgegeben wurde, wird nun ein Fehler gemeldet, statt die Ausgabe kommentarlos zu beenden.

Wer häufig Modelle lokal ausführt und keinen separaten TTS-Dienst einbinden möchte, spart sich mit diesem Update einen Schritt.

Zugehöriges Handelspaar: $BTC / USDT