דף 'סקירה כללית'
בדף הסקירה הכללית מוצגת תצוגה מצטברת ברמה העליונה של ביצועי המודל במהלך הפעלת הפרופיל, מידת ניצול המשאבים של החומרה ועוד. דף הסקירה הכללית משמש כנקודת התחלה לניתוח מפורט יותר באמצעות הכלים האחרים ב-XProf.
פלטפורמות נתמכות
TPU: נתמך
GPU: נתמך
המידע שמוצג בדף הסקירה הכללית משתנה בהתאם לסוג המאיץ שרוצים ליצור לו פרופיל. לדוגמה, ב-TPUs מוצג מספר ניצול של יחידת מטריצה (MXU) (אימון בלבד) על סמך ספקי מעקב ביצועים של חומרה, ואילו ב-GPUs מוצג פירוט של הזמן שהושקע בהפעלות של הליבה לעומת זמן המחשוב.
פרטים עיקריים בדף הסקירה הכללית
- XProf מבדיל בין פרופילי אימון לבין פרופילי היסק על ידי בדיקה אם יש בהם פעולות XLA ספציפיות שמבוצעות במהלך החזרה לאחור (backpropagation). לאחר מכן, המערכת מתאימה באופן אוטומטי את המידע שמוצג בדף הסקירה הכללית בהתאם.
- בחישוב זמני השלבים של אימונים, הכי טוב שהמשתמש יתווסף הערות מפורשות לשלבים בלולאת האימון. אם המידע הזה לא זמין, XProf משתמש בהיגוריסטיקה כדי להעריך את משך הזמן של השלב, עם רמת דיוק נמוכה יותר.
- אנחנו עדיין עובדים על תמיכה בסקירה כללית של פעולות ההסקה, וייתכן שחלק מהנתונים לא יהיו מדויקים.