Ollama が v0.40.9 にアップデートされ、Apple Silicon 上で Phonon を使って音声を直接生成できるようになりました。`ollama run` では、テキストやチャットモデルの応答を生成しながら読み上げられます。アプリ側からも、OpenAI 互換の `/v1/audio/speech` エンドポイントを通じて音声をストリーミング取得できます。
同じバージョンで、d3 推論モデルも追加されました。テキスト、構造化された状態、画像を入力すると、分類やはい/いいえでの回答、選択肢のスコア付けができます。モデルサイズは 2B、4B、9B、27B です。Flint は macOS に加えて Linux と Windows にも対応しました。また、ストリーミングリクエストが一部出力した後に失敗した場合、何も通知せずに終了するのではなく、エラーを返すようになりました。
ローカルでモデルを動かすことが多く、TTS サービスを別途つなぐ手間を省きたい人にとって、今回の変更でひと手間減りました。
関連通貨ペア:$BTC / USDT
同じバージョンで、d3 推論モデルも追加されました。テキスト、構造化された状態、画像を入力すると、分類やはい/いいえでの回答、選択肢のスコア付けができます。モデルサイズは 2B、4B、9B、27B です。Flint は macOS に加えて Linux と Windows にも対応しました。また、ストリーミングリクエストが一部出力した後に失敗した場合、何も通知せずに終了するのではなく、エラーを返すようになりました。
ローカルでモデルを動かすことが多く、TTS サービスを別途つなぐ手間を省きたい人にとって、今回の変更でひと手間減りました。
関連通貨ペア:$BTC / USDT