Un décodeur sans perte ne vous dispense pas d'évaluation
Servi en BF16, un accélérateur de décodage dit sans perte ne tient plus la promesse qu'on y lit, et cette étiquette ne devrait jamais court-circuiter l'évaluation. L'article…
← Tous les sujets Sujet
LLM open-source
Ce que les chiffres AFD de vLLM exigent de votre interconnexion
Le +11.3 % que le plugin AFD de vLLM rapporte en 64A16F [s1] ne se transporte pas jusqu'à votre cluster, et la publication ne livre pas de quoi le mériter. Par rapport à EP64, le…
Kimi K3 est classé quatrième, et personne n'a mesuré le modèle que vous feriez tourner
Tous les chiffres publics de Kimi K3 décrivent une API louée, pas le fichier de poids attendu pour le 27 juillet. Artificial Analysis attribue au modèle un score de 57 sur son…
Votre agent regarde le bon outil et se trompe quand même
Si votre agent a choisi le mauvais outil, la formulation de vos descriptions d'outils n'y est presque pour rien. Dans une étude de 2026, la réparation par le prompt récupère au…
GLM-5.2 referme l'écart sur le code. Le piège, c'est où vous l'exécutez.
Un modèle de code quasi frontière sous licence MIT a tout l'air du signal qu'il faut faire basculer votre choix par défaut, et cette lecture est fausse : la licence vous rend les…
Votre fenêtre de contexte est un plafond, pas un budget
La longueur de contexte affichée sur la fiche technique d'un modèle est un plafond marketing, pas un budget opérationnel ; je dimensionne donc un prompt pour ce que le modèle…
Quantifier un modèle ouvert sans le casser
GPTQ, AWQ, GGUF : ce que la quantification coûte vraiment, mesuré.
Servir un LLM open-source en production : le coût réel
vLLM, batching continu, cache KV : où part vraiment la VRAM.