Halaman Ringkasan
Halaman ringkasan memberikan tampilan tingkat atas gabungan tentang performa model Anda selama profil berjalan, seberapa baik model tersebut menggunakan resource hardware, dan sebagainya. Halaman ringkasan berfungsi sebagai titik awal untuk melakukan analisis yang lebih mendetail menggunakan alat lain dalam XProf.
Platform yang Didukung
TPU: didukung
GPU: didukung
Halaman ringkasan menyesuaikan informasi yang ditampilkan berdasarkan jenis akselerator yang dibuat profilnya. Misalnya, untuk TPU, laporan ini menampilkan jumlah penggunaan unit matriks (MXU) (khusus pelatihan) berdasarkan penghitung performa hardware, sedangkan untuk GPU, laporan ini menampilkan perincian waktu yang dihabiskan untuk peluncuran kernel vs. komputasi.
Detail Utama untuk Halaman Ringkasan
- XProf membedakan profil pelatihan dan inferensi dengan memeriksanya untuk menemukan keberadaan operasi XLA tertentu yang dieksekusi selama backpropagation; lalu secara otomatis menyesuaikan informasi yang ditampilkan di halaman ringkasan sesuai kebutuhan.
- Untuk menjalankan pelatihan, komputasi waktu langkah berfungsi paling baik jika program pengguna menambahkan anotasi langkah secara eksplisit dalam loop pelatihan. Jika tidak ada informasi eksplisit ini, XProf akan menggunakan heuristik untuk memperkirakan waktu langkah, dengan akurasi yang berpotensi lebih rendah.
- Dukungan untuk ringkasan pengoperasian inferensi saat ini masih dalam proses; beberapa data mungkin salah.