개요 페이지

개요 페이지는 프로필 실행 중에 모델의 성능, 하드웨어 리소스 사용량 등을 집계하여 최상위 보기로 제공합니다. 개요 페이지는 XProf 내의 다른 도구를 사용하여 더 자세한 분석을 진행하기 위한 시작점 역할을 합니다.

지원되는 플랫폼

TPU: 지원됨

GPU: 지원됨

개요 페이지는 프로파일링되는 가속기 유형에 따라 표시되는 정보를 조정합니다. 예를 들어 TPU의 경우 하드웨어 성능 카운터를 기반으로 행렬 단위(MXU) 사용률 수치 (학습 전용)를 표시하는 반면 GPU의 경우 커널 실행과 컴퓨팅에 소비된 시간의 세부정보를 보여줍니다.

개요 페이지의 주요 세부정보

  • XProf는 역전파 중에 실행되는 특정 XLA 연산의 존재 여부를 검사하여 학습 프로필과 추론 프로필을 구분한 후 개요 페이지에 표시되는 정보를 적절하게 자동 조정합니다.
  • 학습 실행의 경우 사용자 프로그램이 학습 루프의 단계에 명시적으로 주석을 추가하는 경우 단계 시간 계산이 가장 효과적입니다. 이러한 명시적인 정보가 없으면 XProf는 휴리스틱을 사용하여 단계 시간을 추정합니다. 이때 정확도는 떨어질 수 있습니다.
  • 추론 실행 개요 지원은 현재 진행 중이며 일부 데이터가 잘못될 수 있습니다.