ローカルで大規模言語モデルを実行する人気のオープンソースランタイムであるOllamaが、バージョン0.32.9をリリースしました。目玉機能は、Nemotron 3アーキテクチャに基づく新モデルNemotron 3.5 Lightningのサポートです。このリリースでは、ツール呼び出し解析の大幅な改善ももたらされ、開発者がローカルAIアプリケーションに関数呼び出しを統合しやすくなります。ストリーミング推論も改善され、リアルタイムインタラクションのレイテンシーが低減されるはずです。自社インフラでモデルを実行している開発者やチームにとって、このアップデートは能力と使いやすさの両方を向上させ、OllamaをクラウドベースのLLMサービスと競争力のあるものに保ちます。
Ollama v0.32.9はNemotron 3.5 Lightningサポート、ツール呼び出し解析の改善、ストリーミング推論のアップグレードを導入します。