Inference Locale
5 article(s)
J'ai mesuré 5 décisions typées sur 3 niveaux d'inférence — 4/5 en local gratuit
📖 Lire sur Vigie24L'auteur partage les résultats d'un test comparatif sur la capacité de décision de modèles d'IA à travers trois niveaux d'inférence. L'étude souligne la performance surprenante des modèles locaux gratuits par rapport aux solutions propriétaires.
v0.40.8: mlx: add Flint model support (#19181)
📖 Lire sur Vigie24La version 0.40.8 d'Ollama introduit le support du modèle Flint pour le framework MLX. Cette mise à jour permet une meilleure intégration et exécution de ce modèle spécifique sur les architectures Apple Silicon.
v0.40.0-rc6: model: add multimodal embeddings (#18820)
📖 Lire sur Vigie24La version v0.40.0-rc6 d'Ollama introduit le support des embeddings multimodaux. Cette mise à jour permet d'intégrer des représentations vectorielles combinant différents types de données pour les modèles.
v0.40.16: Add ripple preview support to the MLX runner (#19592)
📖 Lire sur Vigie24La version 0.40.16 d'Ollama introduit le support de la prévisualisation 'ripple' pour le moteur d'exécution MLX. Cette mise à jour technique optimise l'intégration des modèles sur les architectures Apple Silicon.
v0.40.4-rc1: Add Kev decision scoring to MLX (#18976)
📖 Lire sur Vigie24La version v0.40.4-rc1 d'Ollama introduit l'intégration du scoring de décision 'Kev' pour le framework MLX. Cette mise à jour vise à optimiser les performances et la prise de décision des modèles exécutés sur le matériel Apple.