概要ページ

概要ページには、プロファイル実行中のモデルのパフォーマンス、ハードウェア リソースの使用率など、モデルの概要が表示されます。概要ページは、XProf 内の他のツールを使用して詳細な分析を行うための出発点として機能します。

サポートされているプラットフォーム

TPU: サポート対象

GPU: サポートされている

概要ページには、プロファイリング対象のアクセラレータのタイプに基づいて情報が表示されます。たとえば、TPU の場合は、ハードウェア パフォーマンス カウンタに基づく行列ユニット(MXU)使用率数(トレーニングのみ)が表示されます。GPU の場合は、カーネルの起動とコンピューティングに費やされた時間の内訳が表示されます。

概要ページの主要な詳細

  • XProf は、バックプロパゲーション中に実行される特定の XLA オペレーションの存在を調べて、トレーニング プロファイルと推論プロファイルを区別します。次に、概要ページに表示される情報を自動的に適応させます。
  • トレーニング実行の場合、ユーザー プログラムがトレーニング ループ内のステップに明示的にアノテーションを付けると、ステップ時間の計算が最適になります。この明示的な情報がない場合、XProf はヒューリスティクスを使用してステップ時間を推定します。この場合、精度が低下する可能性があります。
  • 推論実行の概要のサポートは現在開発中です。一部のデータが正しくない場合があります。