صفحه نمای کلی

صفحه مرور کلی، یک نمای کلی و جامع از عملکرد مدل شما در طول اجرای پروفایل، میزان استفاده از منابع سخت‌افزاری و زمان صرف شده ارائه می‌دهد. صفحه مرور کلی به عنوان نقطه شروعی برای دنبال کردن تحلیل‌های دقیق‌تر با استفاده از سایر ابزارهای موجود در XProf عمل می‌کند.

پلتفرم‌های پشتیبانی‌شده

هم TPU و هم GPU پشتیبانی می‌شوند.

اجزای صفحه نمای کلی

صفحه مرور کلی دو بخش اصلی را نشان می‌دهد:

• خلاصه عملکرد، جزئیات مربوط به میانگین زمان گام، نسبت عملیات چارچوب اجرا شده روی میزبان در مقابل دستگاه، درصد زمان صرف شده برای اجرای سریع و دقت محاسبات دستگاه را نمایش می‌دهد.

• نمودار زمان-گام، نموداری از زمان گام دستگاه (برحسب میلی‌ثانیه) را در تمام گام‌های ثبت‌شده نمایش می‌دهد. هر گام به چندین دسته (با رنگ‌های مختلف) از محل صرف زمان تقسیم شده است.

صفحه مرور کلی، اطلاعاتی را که نشان می‌دهد بر اساس نوع شتاب‌دهنده‌ای که در حال بررسی است، تطبیق می‌دهد. به عنوان مثال، برای TPUها، تعداد استفاده از واحد ماتریسی (MXU) (فقط آموزش) را بر اساس شمارنده‌های عملکرد سخت‌افزار نشان می‌دهد، در حالی که برای GPUها، تفکیک زمان صرف شده برای راه‌اندازی هسته در مقابل محاسبه را نشان می‌دهد.

جزئیات کلیدی برای صفحه مرور کلی

• XProf با بررسی پروفایل‌های آموزشی و استنتاجی برای یافتن وجود عملیات‌های XLA خاص که در طول پس‌انتشار اجرا می‌شوند، آنها را از هم متمایز می‌کند؛ سپس به طور خودکار اطلاعات ارائه شده در صفحه مرور کلی را بر این اساس تطبیق می‌دهد.
• برای اجرای آموزش، محاسبه زمان گام در صورتی بهترین عملکرد را دارد که برنامه کاربر به صراحت گام‌ها را در حلقه آموزش حاشیه‌نویسی کند. در غیاب این اطلاعات صریح، XProf از روش‌های اکتشافی برای تخمین زمان گام استفاده می‌کند که احتمالاً دقت کمتری دارد.
• پشتیبانی از مرور کلی اجرای استنتاج در حال حاضر در دست اقدام است؛ برخی از داده‌ها ممکن است نادرست باشند.