Inference Ia
5 article(s)Les joueurs le soir, l’IA en journée : Shadow lance Blade pour rentabiliser ses 12 000 GPU
📖 Lire sur Vigie24Shadow lance Blade, une plateforme européenne de GPU dédiée à l'IA. L'entreprise optimise l'utilisation de ses 12 000 cartes graphiques en proposant des services d'inférence durant la journée, période de faible activité pour le cloud gaming.

DeepSeek met en open source DeepInfer, le framework d'inférence qui alimente ses services de production à grande échelle, pour l'instant limité à DeepSeek-V4.1-Flash
📖 Lire sur Vigie24DeepSeek a publié en open source DeepInfer, le framework d'inférence utilisé pour ses services de production à grande échelle. Actuellement limité au modèle DeepSeek-V4.1-Flash, l'outil est disponible sur GitHub sous licence Apache 2.0.

Avec Minions, Apple veut mettre à profit les GPU inactifs des Mac pour l’inférence
📖 Lire sur Vigie24Apple développe un projet nommé 'Minions' visant à utiliser la puissance de calcul des GPU inactifs des Mac pour l'inférence d'IA. Cette approche permettrait de mutualiser les ressources matérielles pour optimiser les performances globales du système.

Volantis lève 88 millions de dollars pour une couche de mémoire photonique conçue pour l'inférence IA
📖 Lire sur Vigie24La startup Volantis a levé 88 millions de dollars pour développer une couche de mémoire photonique optimisée pour l'inférence IA. Cette technologie vise à réduire les goulots d'étranglement de données et la consommation énergétique des infrastructures d'intelligence artificielle.
v0.40.9: Support GA Gradium Phonon checkpoints (#19227)
📖 Lire sur Vigie24La version 0.40.9 d'Ollama introduit le support pour les checkpoints Gradium Phonon en version GA (General Availability). Cette mise à jour vise à améliorer la compatibilité matérielle pour l'exécution de modèles d'IA.