Công cụ Trình xem biểu đồ

Bạn có thể sử dụng Trình xem biểu đồ để trực quan hoá cấu trúc biểu đồ của chương trình XLA. Thẻ này hiển thị biểu đồ Thao tác cấp cao (HLO).

Nền tảng được hỗ trợ

TPU: được hỗ trợ

GPU: được hỗ trợ

Thành phần giao diện

Bạn có thể điều khiển Trình xem biểu đồ bằng các tuỳ chọn sau:

  1. Trình đơn thả xuống Chọn mô-đun XLA, trong đó bạn chọn một mô-đun HLO từ danh sách có sẵn để hiển thị.

  2. Hộp Op Name (Tên toán tử), nơi bạn nhập tên của một toán tử để chọn toán tử đó làm nút chính và hình dung các toán tử lân cận. Việc nhấn Enter sau khi nhập tên toán tử sẽ hiển thị các nút xung quanh.

  3. Bộ chọn Chiều rộng biểu đồ, kiểm soát khoảng cách tối đa của các nút từ nút chính có trong hình ảnh trực quan.

  4. Bộ chọn siêu dữ liệu mà bạn sử dụng để bật/tắt chế độ hiển thị siêu dữ liệu hoạt động do trình biên dịch đưa vào (nếu có). Xin lưu ý rằng bạn cần nhấp lại vào "Biểu đồ tìm kiếm" sau khi chọn hộp đánh dấu này.

  5. Hộp đánh dấu Hợp nhất hợp nhất mà bạn có thể sử dụng để thu gọn hoặc mở rộng các thành phần của toán tử hợp nhất. Xin lưu ý rằng bạn sẽ cần nhấp lại vào "Biểu đồ tìm kiếm" sau khi bật/tắt hộp đánh dấu này.

  6. Các nút hoặc phím phóng to/thu nhỏ, mặc dù bạn cũng có thể sử dụng chuột để phóng to.

  7. Đường liên kết để tải biểu đồ xuống dưới dạng tệp SVG hoặc tệp dot.

  8. Bằng cách sử dụng chức năng tìm kiếm, bạn có thể nhanh chóng xác định và tập trung vào các thao tác cụ thể trong biểu đồ có thể lớn.

  9. Để đóng băng bảng điều khiển dữ liệu thời gian chạy trên một toán tử cụ thể, hãy nhấp chuột phải vào toán tử đó.

Sử dụng Trình xem biểu đồ

Theo mặc định, không có thao tác nào được chọn trong Trình xem biểu đồ, vì vậy, bạn sẽ thấy màn hình trống. Tìm kiếm phép toán mà bạn quan tâm để phóng to phép toán đó và bắt đầu duyệt qua biểu đồ. Thông thường, bạn sẽ bắt đầu bằng một trong các công cụ khác (ví dụ: Cấu hình thao tác để xác định thao tác tốn nhiều thời gian nhất hoặc Trình xem dấu vết để xác định nguyên nhân gây ra bong bóng quy trình). Khi nhấp vào toán tử trong các công cụ đó, bạn sẽ thấy một đường liên kết trực tiếp đến cùng một toán tử trong Trình xem biểu đồ.

Bằng cách di chuột qua một hộp (đại diện cho một toán tử HLO), bạn thường có thể thấy dòng mã người dùng tương ứng với toán tử mà hàm được xác định. Thông tin này chỉ có sẵn nếu siêu dữ liệu này được cung cấp cho XProf thông qua nhiều lớp chuyển đổi mà chương trình Python của bạn trải qua trong quá trình tạo một trình tăng tốc có thể thực thi.

Xin lưu ý rằng trình phân tích tài nguyên nhận thông tin cấp HLO từ biểu đồ "HLO được tối ưu hoá", gần đến điểm mà trình phân tích tài nguyên sẵn sàng được hạ cấp xuống mã dành riêng cho trình tăng tốc bởi phần phụ trợ của trình biên dịch. Do đó, Trình xem biểu đồ và tất cả các công cụ XProf xử lý cách trình bày HLO nội bộ XLA cấp thấp này, thay vì StableHLO hoặc cách trình bày gần với khung ML.

Mặc dù bản thân biểu đồ hoàn toàn tĩnh và được lấy trực tiếp từ XLA ngay cả khi không thực thi chương trình, nhưng Trình xem biểu đồ sẽ phủ thêm thông tin về thời gian chạy trên biểu đồ để biểu đồ trở nên hữu ích hơn. Ví dụ: khi di chuột qua một thao tác, một phần sẽ xuất hiện ở bên trái giao diện người dùng, cho biết số lần thao tác đó được thực thi trong khoảng thời gian của hồ sơ và thời gian thực thi trung bình. Công cụ này cũng tính toán và hiển thị nhiều số liệu về mức sử dụng và băng thông; các số liệu này lấy thông tin phân tích chi phí tĩnh từ XLA cho FLOPS và số byte đã sử dụng, đồng thời tính toán tốc độ dựa trên thời gian thực thi được đo lường.