Página de descripción general
La página de descripción general proporciona una vista agregada de nivel superior del rendimiento de tu modelo durante una ejecución de perfil, qué tan bien usó los recursos de hardware, etcétera. La página de descripción general actúa como punto de partida para realizar un análisis más detallado con las otras herramientas de XProf.
Plataformas compatibles
TPU: Compatible
GPU: Compatible
La página de descripción general adapta la información que muestra según el tipo de acelerador del que se genera el perfil. En el caso de las TPU, por ejemplo, muestra un número de utilización de la unidad de matriz (MXU) (solo entrenamiento) basado en contadores de rendimiento de hardware, mientras que, en el caso de las GPUs, muestra un desglose del tiempo dedicado a los inicios del kernel en comparación con el procesamiento.
Detalles clave de la página Resumen
- XProf diferencia los perfiles de entrenamiento y de inferencia examinándolos para detectar la presencia de operaciones XLA específicas que se ejecutan durante la retropropagación y, luego, adapta automáticamente la información que se presenta en la página de descripción general según corresponda.
- En las ejecuciones de entrenamiento, el cálculo del tiempo de paso funciona mejor si el programa del usuario anota de forma explícita los pasos en el bucle de entrenamiento. A falta de esta información explícita, XProf emplea heurísticas para estimar el tiempo de paso, con una precisión potencialmente menor.
- La compatibilidad con una descripción general de las ejecuciones de inferencia está en desarrollo. Es posible que algunos datos sean incorrectos.