Infinity : suspendre les agents pendant l’attente des outils
Conserver l’état plutôt qu’un processus en attente
Le 23 octobre 2026, AWS a présenté Infinity, une première version de recherche du projet Hydro. Le runtime sauvegarde la conversation, suspend l’agent pendant un appel d’outil puis le reprend au retour du résultat.
L’attente devient un événement
Un agent peut attendre une compilation, une réponse réseau ou une validation humaine. Maintenir toutes ces attentes comme des processus actifs n’est pas la seule façon de les organiser. Une reprise à partir d’un état conservé pourrait réduire les ressources immobilisées entre deux actions.
Pour une équipe, le scénario intéressant serait un ensemble de tâches longues, avec des réponses arrivant dans un ordre variable. Il faudrait vérifier que chaque résultat rejoint la bonne conversation et qu’une reprise ne répète pas une action déjà effectuée, notamment lorsqu’elle produit un effet extérieur.
Distinguer concurrence et capacité de calcul
De nombreux agents suspendus ne représentent pas autant d’inférences simultanées. Le débit du modèle, les outils et le stockage restent à dimensionner séparément. Avant d’adopter cette approche, il faut tester redémarrages, résultats dupliqués et perte d’un événement. Le statut de recherche ne constitue ni une garantie de production ni une mesure de gain pour une infrastructure donnée.
Rétrospective éditoriale : les faits sont datés dans le texte.