เครื่องมือดูกราฟ

คุณสามารถใช้เครื่องมือดูกราฟเพื่อแสดงโครงสร้างกราฟของโปรแกรม XLA เป็นภาพได้ โดยจะแสดงกราฟการดำเนินการระดับสูง (HLO)

แพลตฟอร์มที่รองรับ

TPU: รองรับ

GPU: รองรับ

คอมโพเนนต์อินเทอร์เฟซ

ผู้ดูกราฟควบคุมได้ด้วยตัวเลือกต่อไปนี้

  1. เมนูแบบเลื่อนลง "เลือกโมดูล XLA" ซึ่งคุณเลือกโมดูล HLO จากรายการที่มีให้เพื่อแสดงภาพ

  2. ช่องชื่อการดำเนินการ ซึ่งคุณป้อนชื่อการดำเนินการเพื่อเลือกการดำเนินการนั้นให้เป็นโหนดหลักและแสดงภาพโหนดใกล้เคียง การกด Enter หลังจากพิมพ์ชื่อการดำเนินการจะแสดงภาพนอยด์รอบๆ

  3. ตัวเลือกความกว้างของกราฟ ซึ่งควบคุมระยะห่างสูงสุดของโหนดจากโหนดหลักที่รวมอยู่ในการแสดงภาพ

  4. ตัวเลือกข้อมูลเมตา ซึ่งคุณใช้เพื่อสลับการแสดงข้อมูลเมตาของการดำเนินการที่คอมไพเลอร์รวมไว้ (หากมี) โปรดทราบว่าคุณต้องคลิก "กราฟการค้นหา" อีกครั้งหลังจากเลือกช่องทําเครื่องหมายนี้

  5. ช่องทําเครื่องหมายผสานการผสานที่คุณสามารถใช้เพื่อยุบหรือขยายคอมโพเนนต์ของการดำเนินการแบบผสาน โปรดทราบว่าคุณจะต้องคลิก "กราฟการค้นหา" อีกครั้งหลังจากเปิด/ปิดช่องทําเครื่องหมายนี้

  6. ปุ่มหรือแป้นซูมเข้า/ออก แต่คุณใช้เมาส์เพื่อซูมได้ด้วย

  7. ลิงก์สำหรับดาวน์โหลดกราฟเป็นไฟล์ SVG หรือไฟล์จุด

  8. การใช้ฟังก์ชันการค้นหาช่วยให้คุณค้นหาและมุ่งเน้นการดำเนินการที่เฉพาะเจาะจงภายในกราฟขนาดใหญ่ได้อย่างรวดเร็ว

  9. หากต้องการหยุดแผงข้อมูลรันไทม์ของการดำเนินการหนึ่งๆ ให้คลิกขวาที่การดำเนินการนั้น

การใช้เครื่องมือดูกราฟ

โดยค่าเริ่มต้น จะไม่มีการเลือกการดำเนินการใดๆ ในเครื่องมือดูกราฟ คุณจึงจะเห็นหน้าจอว่างเปล่า ค้นหาการดำเนินการที่ต้องการเพื่อซูมเข้าและเริ่มดูกราฟ บ่อยครั้งที่คุณอาจเริ่มต้นด้วยเครื่องมืออื่น (เช่น โปรไฟล์การดําเนินการเพื่อระบุการดําเนินการที่ใช้เวลานานที่สุด หรือเครื่องมือตรวจสอบการติดตามเพื่อระบุสาเหตุของจุดที่ช้าในไปป์ไลน์) การคลิกการดำเนินการในเครื่องมือเหล่านั้นจะให้ลิงก์โดยตรงไปยังการดำเนินการเดียวกันภายในเครื่องมือดูกราฟ

เมื่อวางเมาส์เหนือกล่อง (แสดงการดำเนินการ HLO) คุณมักจะเห็นบรรทัดโค้ดผู้ใช้ที่สอดคล้องกับการดำเนินการที่กําหนดฟังก์ชันไว้ ข้อมูลนี้จะใช้ได้ก็ต่อเมื่อมีการให้ข้อมูลเมตานี้แก่ XProf ผ่านการเปลี่ยนรูปแบบหลายเลเยอร์ที่โปรแกรม Python ของคุณทำในกระบวนการสร้างโปรแกรมที่ทำงานได้ของโปรแกรมเร่ง

โปรดทราบว่าเครื่องมือวิเคราะห์จะรับข้อมูลจากระดับ HLO จากกราฟ "HLO ที่เพิ่มประสิทธิภาพแล้ว" ซึ่งใกล้ถึงจุดที่พร้อมที่จะลดระดับเป็นโค้ดเฉพาะสำหรับโปรแกรมเร่งความเร็วโดยแบ็กเอนด์คอมไพเลอร์ ดังนั้นเครื่องมือ Graph Viewer และเครื่องมือ XProf ทั้งหมดจึงจัดการการแสดง HLO ภายในระดับต่ำของ XLA แทน StableHLO หรือการแสดงที่ใกล้เคียงกับเฟรมเวิร์ก ML

แม้ว่ากราฟเองจะเป็นแบบคงที่ทั้งหมดและดึงมาจาก XLA โดยตรงแม้ไม่ได้เรียกใช้โปรแกรม แต่เครื่องมือดูกราฟจะวางซ้อนข้อมูลรันไทม์เพิ่มเติมในกราฟเพื่อให้มีประโยชน์มากขึ้น เช่น การวางเมาส์เหนือการดําเนินการจะแสดงส่วนทางด้านซ้ายของ UI ซึ่งระบุจํานวนครั้งที่การดําเนินการนั้นทํางานในระยะเวลาของโปรไฟล์ และเวลาทํางานโดยเฉลี่ย นอกจากนี้ ยังคํานวณและแสดงตัวเลขต่างๆ เกี่ยวกับการใช้งานและแบนด์วิดท์ ซึ่งจะนําการวิเคราะห์ต้นทุนแบบคงที่จาก XLA สําหรับ FLOPS และไบต์ที่ใช้ไป และคำนวณอัตราตามเวลาที่ใช้ในการดำเนินการที่วัดได้