概览页面

概览页面提供汇总的顶层视图,可让您了解模型在运行性能分析期间的表现、硬件资源利用率等。概览页面可作为使用 XProf 中的其他工具进行更详细分析的起点。

支持的平台

TPU:受支持

GPU:受支持

概览页面会根据正在分析的加速器类型调整显示的信息。例如,对于 TPU,它会根据硬件性能计数器显示矩阵单元 (MXU) 利用率数值(仅限训练),而对于 GPU,它会显示在内核启动和计算上花费的时间明细。

“概览”页的关键详细信息

  • XProf 会通过检查训练和推理配置文件中是否存在在反向传播期间执行的特定 XLA 运算来区分这两者;然后,它会自动调整概览页面上显示的信息。
  • 对于训练运行,如果用户程序在训练循环中明确注解步骤,步骤时间计算效果最佳。如果没有此类明确信息,XProf 会使用启发词语来估算步骤时间,准确性可能会较低。
  • 我们目前正在开发对推理运行概览的支持;部分数据可能不正确。