Alat Graph Viewer
Anda dapat menggunakan Graph Viewer untuk memvisualisasikan struktur grafik program XLA. Panel ini menampilkan grafik Operasi Tingkat Tinggi (HLO).
Platform yang Didukung
TPU: didukung
GPU: didukung
Komponen Antarmuka
Graph Viewer dapat dikontrol dengan opsi berikut:
Menu drop-down Pilih Modul XLA, tempat Anda memilih modul HLO dari daftar yang tersedia untuk visualisasi.
Kotak Op Name, tempat Anda memasukkan nama operasi untuk memilihnya sebagai node utama dan memvisualisasikan tetangganya. Menekan enter setelah mengetik nama op akan memvisualisasikan node di sekitarnya.
Pemilih Lebar Grafik, yang mengontrol jarak maksimum node dari node utama yang disertakan dalam visualisasi.
Pemilih Metadata, yang Anda gunakan untuk mengalihkan tampilan metadata operasi yang disertakan oleh compiler, jika ada. Perhatikan bahwa Anda perlu mengklik “Grafik Penelusuran” lagi setelah memilih kotak centang ini.
Kotak centang Merge Fusion yang dapat Anda gunakan untuk menciutkan atau meluaskan komponen operasi gabungan. Perhatikan bahwa Anda harus mengklik “Grafik Penelusuran” lagi setelah mengalihkan kotak centang ini.
Tombol atau tombol zoom in/out, meskipun Anda juga dapat menggunakan mouse untuk melakukan zoom.
Link untuk mendownload grafik sebagai file SVG atau titik.
Dengan menggunakan fungsi penelusuran, Anda dapat dengan cepat menemukan dan berfokus pada operasi tertentu dalam grafik yang berpotensi besar.
Untuk membekukan panel data runtime pada op tertentu, klik kanan op.
Menggunakan Graph Viewer
Secara default, tidak ada operasi yang dipilih di Graph Viewer, sehingga Anda akan melihat layar kosong. Telusuri operasi yang diinginkan untuk memperbesarnya dan mulai melintasi grafik. Sering kali, Anda memulai dengan salah satu alat lain (misalnya, Profil Op untuk mengidentifikasi op yang paling banyak menghabiskan waktu, atau Trace Viewer untuk mengidentifikasi penyebab bubble pipeline). Mengklik op di alat tersebut akan memberi Anda link langsung ke op yang sama dalam Graph Viewer.
Dengan mengarahkan kursor ke kotak (yang mewakili operasi HLO), Anda mungkin sering melihat baris kode pengguna yang sesuai dengan op tempat fungsi ditentukan. Informasi ini hanya tersedia jika metadata ini diberikan ke XProf melalui beberapa lapisan transformasi yang dilalui program Python Anda dalam proses pembuatan akselerator yang dapat dieksekusi.
Perhatikan bahwa profiler menerima informasi tingkat HLO dari grafik "HLO yang dioptimalkan", dekat dengan titik saat siap diturunkan ke kode khusus akselerator oleh backend compiler. Oleh karena itu, Graph Viewer, dan semua alat XProf, menangani representasi HLO internal XLA tingkat rendah ini, bukan StableHLO atau representasi yang dekat dengan framework ML.
Meskipun grafik itu sendiri sepenuhnya statis, dan diperoleh langsung dari XLA bahkan tanpa menjalankan program, Graph Viewer menempatkan informasi runtime tambahan di grafik untuk membuatnya lebih berguna. Misalnya, mengarahkan kursor ke op akan menampilkan bagian di sisi kiri UI yang menunjukkan frekuensi op tersebut dieksekusi dalam durasi profil, dan waktu eksekusi rata-rata. Alat ini juga menghitung dan menampilkan berbagai angka penggunaan dan bandwidth; angka ini menggunakan analisis biaya statis dari XLA untuk FLOPS dan byte yang digunakan, serta menghitung tarif berdasarkan waktu eksekusi yang diukur.