Ollama обновился до v0.40.9: теперь на Apple Silicon можно напрямую генерировать речь с помощью Phonon. Команда `ollama run` может озвучивать текст или ответы чат-модели по мере их генерации, а приложения могут получать аудио в потоковом режиме через совместимый с OpenAI интерфейс `/v1/audio/speech`.
В этой версии также появилась модель принятия решений d3: ей можно предоставить текст, структурированное состояние или изображение, чтобы она классифицировала данные, отвечала «да» или «нет» либо оценивала варианты. Доступны модели размером 2B, 4B, 9B и 27B. Flint теперь работает не только на macOS, но и на Linux и Windows. Если потоковый запрос завершается с ошибкой после выдачи части ответа, теперь об этом сообщается, а не происходит молчаливое завершение.
Для тех, кто часто запускает модели локально и хочет обойтись без отдельного сервиса TTS, это обновление избавит от лишнего шага.
Связанная торговая пара: $BTC / USDT
В этой версии также появилась модель принятия решений d3: ей можно предоставить текст, структурированное состояние или изображение, чтобы она классифицировала данные, отвечала «да» или «нет» либо оценивала варианты. Доступны модели размером 2B, 4B, 9B и 27B. Flint теперь работает не только на macOS, но и на Linux и Windows. Если потоковый запрос завершается с ошибкой после выдачи части ответа, теперь об этом сообщается, а не происходит молчаливое завершение.
Для тех, кто часто запускает модели локально и хочет обойтись без отдельного сервиса TTS, это обновление избавит от лишнего шага.
Связанная торговая пара: $BTC / USDT