הכלי לפרופיל פעולות של HLO
אפשר להשתמש בכלי 'פרופיל פעולות ברמה גבוהה (HLO)' כדי להבין את ביצועי החומרה בקטגוריות שונות של פעולות ברמה גבוהה (HLO) שבוצעו במהלך תקופת הפרופיל.
פלטפורמות נתמכות
TPU: נתמך
GPU: נתמך
שימוש בכלי HLO Op Profile
פרופיל הפעולות של HLO כולל את הרכיבים הבאים:
- בסקירה הכללית בחלק העליון של הדף מוצג סיכום של ניצול המשאבים הכולל של FLOPs המחשוב של המאיץ ורוחב הפס של HBM במהלך תקופת היצירה של פרופיל הביצועים.
- בטבלה הבאה מוצגת תצוגה מפורטת יותר של ניצול המשאבים. הנתונים מסווגים לפי פעולות ה-HLO שבוצעו על ידי כל מודול במהלך תקופת היצירה של פרופיל הביצועים. אפשר לעבור על ההיררכיה ולראות את ניצול המשאבים לכל מודול, לכל קטגוריה בתוך מודול או לכל פעולה בתוך קטגוריה. אפשר להרחיב פעולות מיזוג כדי להציג את הפעולות הלא-מיזוגיות שמכילות אותן.
- הסיווג מוגדר בעיקר על ידי המהדר של XLA, ו-XProf משתמש בהיגוריית נוספת בתרחישים מסוימים (למשל, הוא מנתח את תרשים ה-HLO כדי לזהות 'מיזוגים של עיבוד נתונים גלילי').
- כברירת מחדל, רשימת המודולים, הקטגוריות והפעולות ממוינת לפי החלק היחסי של הזמן הכולל שהושקע בהפעלת המודול, הקטגוריה או הפעולה. במקום זאת, אפשר לבחור למיין לפי פעולות שגורמות לניצול נמוך ביותר של החומרה (ניצול שמשוקלל לפי זמן הריצה של הפעולה, או 'זמן מבוזבז'). זיהוי פעולות עם ניצול FLOPS נמוך וזמן צריכה גבוה מאפשר לכם לטרגט אותן לצורך אופטימיזציה.
- כשמעבירים את העכבר מעל פעולה בטבלה, מוצג כרטיס בצד ימין עם פרטים נוספים על הפעולה או על קטגוריית הפעולה. לחיצה על רשומה בטבלה תוביל להצמדה של כרטיס פרטי הפעולה. הכרטיסים האלה כוללים בדרך כלל את הפרטים הבאים, בהתאם לצורך:
- קישור לפעולה בכלי Graph Viewer.
- זמן הביצוע הממוצע.
- שיעורי שימוש מוחלטים (בניגוד לניצול שמדווח בטבלה) של המחשוב (TFLOP/s), רוחב הפס של HBM (GB/s) ורוחבי הפס לקריאה ולכתיבה על הצ'יפ (GB/s).
- פרטי הפעולה המלאים של XLA, כולל פרטים לגבי עיצובים וצורות שונים.
- המקור של פעולת ה-XLA ברמת המסגרת.
- מספר הפעמים שהפעולה התרחשה והזמן הכולל שהוקצה להפעולה באופן מצטבר.
שימו לב שרוחב הפס הגולמי (GB/s) או שיעורי המחשוב (TFLOP/s) מחושבים על ידי שילוב של נתוני הידור סטטיים של FLOP או בייטים הנדרשים לפעולה (המכנה) עם פרטי משך הזמן לכל פעולה מהפרופיל (המוֹנה). מספרי הניצול (באחוזים) מחושבים על ידי חישוב נתוני צריכת המשאבים המוחלטת כחלק מיכולות השיא של המחשוב או רוחב הפס לכל מאץ.