Page de présentation
La page de présentation fournit une vue d'ensemble agrégée des performances de votre modèle lors d'une exécution de profil, de son utilisation des ressources matérielles, etc. La page "Vue d'ensemble" sert de point de départ pour effectuer une analyse plus détaillée à l'aide des autres outils de XProf.
Plates-formes compatibles
TPU: compatible
GPU: compatible
La page "Vue d'ensemble" adapte les informations qu'elle affiche en fonction du type d'accélérateur profilé. Par exemple, pour les TPU, il affiche un nombre d'utilisation de l'unité matricielle (MXU) (entraînement uniquement) basé sur les compteurs de performances matérielles, tandis que pour les GPU, il affiche une répartition du temps passé sur les lancements de kernel par rapport au calcul.
Informations clés pour la page "Vue d'ensemble"
- XProf différencie les profils d'entraînement et d'inférence en examinant la présence d'opérations XLA spécifiques exécutées lors de la rétropropagation. Il adapte ensuite automatiquement les informations présentées sur la page d'aperçu en conséquence.
- Pour les exécutions d'entraînement, le calcul du temps d'étape fonctionne mieux si le programme utilisateur annote explicitement les étapes dans la boucle d'entraînement. En l'absence de ces informations explicites, XProf utilise des heuristiques pour estimer la durée de l'étape, avec une précision potentiellement plus faible.
- La fonctionnalité d'aperçu des exécutions d'inférence est actuellement en cours de développement. Certaines données peuvent être incorrectes.