Un utilisateur peut attendre une courte suggestion, mais pas rester bloqué pendant une analyse de nombreux documents. Définissez le délai acceptable pour la tâche précise.
Mesurer les étapes
Séparez récupération, appel du modèle et validation. Testez les cas volumineux. Une moyenne masque parfois les attentes les plus gênantes.
Prévoir l'attente
Une tâche en arrière-plan doit avoir un état consultable et une possibilité de reprise. Évitez de relancer un traitement identique à chaque actualisation de page. L'utilisateur doit comprendre si le résultat est prêt.
Accepter sous interruption
Testez une réponse lente et une indisponibilité fournisseur. Demandez le résultat conservé et les limites des relances. Le partenaire doit chiffrer cette gestion dans l'intégration. Un modèle rapide sur un exemple court ne prouve pas que le parcours complet répond à votre contrainte de temps.
À lire aussi : Changer de fournisseur IA dans un SaaS : garder une évaluation comparable. Présentez votre périmètre à Sky Vaults.