vLLM - 03. Notions & Définitions

Cette ressource présente les concepts fondamentaux et les définitions techniques liés à vLLM, une bibliothèque optimisée pour le déploiement de modèles de langage. Elle détaille les mécanismes permettant d'améliorer l'efficacité de l'inférence et la gestion de la mémoire.