Pagina Panoramica
La pagina Panoramica fornisce una visualizzazione di primo livello aggregata del rendimento del modello durante l'esecuzione di un profilo, dell'utilizzo delle risorse hardware e così via. La pagina Panoramica funge da punto di partenza per eseguire analisi più dettagliate utilizzando gli altri strumenti di XProf.
Piattaforme supportate
TPU: supportata
GPU: supportata
La pagina Panoramica adatta le informazioni visualizzate in base al tipo di acceleratore di cui viene eseguito il profilo. Ad esempio, per le TPU viene mostrato un numero di utilizzo dell'unità di matrice (MXU) (solo addestramento) in base ai contatori delle prestazioni hardware, mentre per le GPU viene mostrato un'analisi dettagliata del tempo impiegato per i lanci del kernel rispetto al calcolo.
Dettagli chiave per la pagina Panoramica
- XProf distingue i profili di addestramento e di inferenza esaminandoli per verificare la presenza di operazioni XLA specifiche eseguite durante la retropropagazione. Adatta quindi automaticamente le informazioni presentate nella pagina Panoramica di conseguenza.
- Per le esecuzioni di addestramento, il calcolo del tempo del passaggio funziona al meglio se il programma dell'utente annota esplicitamente i passaggi nel ciclo di addestramento. In assenza di queste informazioni esplicite, XProf utilizza l'euristica per stimare il tempo del passaggio con una precisione potenzialmente inferiore.
- Il supporto per una panoramica delle esecuzioni di inferenza è attualmente in fase di sviluppo; alcuni dati potrebbero non essere corretti.