Página de visão geral
A página de visão geral fornece uma visão agregada de alto nível de como o modelo funcionou durante uma execução de perfil, como ele utilizou os recursos de hardware e assim por diante. A página de visão geral funciona como um ponto de partida para uma análise mais detalhada usando as outras ferramentas do XProf.
Plataformas compatíveis
TPU: compatível
GPU: compatível
A página de visão geral adapta as informações exibidas com base no tipo de acelerador que está sendo criado. Para TPUs, por exemplo, ele mostra um número de utilização de unidade de matriz (MXU, na sigla em inglês) (somente treinamento) com base em contadores de desempenho de hardware, enquanto para GPUs, ele mostra um detalhamento do tempo gasto em inicializações do kernel em comparação com computação.
Detalhes importantes da página de visão geral
- O XProf diferencia os perfis de treinamento e inferência examinando-os para verificar a presença de operações XLA específicas que são executadas durante a retropropagação. Em seguida, ele adapta automaticamente as informações apresentadas na página de visão geral.
- Para execuções de treinamento, a computação do tempo de etapa funciona melhor se o programa do usuário anota explicitamente as etapas no ciclo de treinamento. Na ausência dessas informações explícitas, o XProf usa heurísticas para estimar o tempo da etapa, com uma precisão potencialmente menor.
- O suporte para uma visão geral das execuções de inferência está em andamento. Alguns dados podem estar incorretos.