Ce qui change
SGLang v0.5.20 est arrivé sur PyPI le 18 septembre 2026 3. Son endpoint /v1/responses compatible OpenAI ne conserve plus rien en mémoire si le serveur ne démarre pas avec --enable-response-store : sans ce drapeau, la relecture, le chaînage par previous_response_id et les requêtes en arrière-plan renvoient 400, et un déploiement prefill/decode ne peut pas l’activer du tout 1. Les requêtes en arrière-plan exigent store=true, donc sous le nouveau défaut elles n’ont plus où se poser 2.
Le champ qui affiche encore store=true
La phrase à relire est dans la pull request, pas dans les notes de version. La génération synchrone et le streaming acceptent toujours la valeur par défaut store=true et répondent normalement sans rien conserver, et le champ store de la réponse continue de refléter la demande du client alors que c’est la capacité serveur qui décide de la rétention réelle 2. La requête qui devrait vous alerter passe donc sans bruit, et le 400 tombe au tour suivant, quand la boucle revient avec previous_response_id. Enchaîner les réponses ainsi, c’est la manière dont le contrat amont file une conversation 4. Je préfère un drapeau qui échoue au premier appel plutôt qu’au second.
--enable-response-store # off par défaut : relecture, previous_response_id, arrière-plan
Impact pour une équipe
Inspectez le client, pas le serveur. Si previous_response_id ou background apparaît dans votre boucle d’agent, ce chemin casse sur cette version, sauf à poser le drapeau sur chaque réplica. La note de migration donne le correctif que j’appliquerais de toute façon : envoyer l’historique de conversation explicitement dans les requêtes synchrones 2. C’est aussi le seul qui survit à un passage en service désagrégé, où prefill et decode cessent de partager un même moteur 5 et où le stockage n’est pas proposé 1. Si vous vous serviez de cet endpoint comme d’un stockage de session, la régression n’est pas le 400 : c’est le dictionnaire sans borne que vous remplissiez. Restez sur votre version actuelle une itération si vous chaînez aujourd’hui, et profitez-en pour remettre l’état dans la requête.