XLA

XLA (Tính toán tuyến tính tăng tốc) là một trình biên dịch nguồn mở để học máy. Trình biên dịch XLA lấy các mô hình từ các khung phổ biến như PyTorch, TensorFlow và JAX, đồng thời tối ưu hoá các mô hình để thực thi hiệu suất cao trên nhiều nền tảng phần cứng, bao gồm cả GPU, CPU và trình tăng tốc ML.

Là một phần của dự án OpenXLA, XLA được xây dựng bằng cách cộng tác giữa các công ty phần cứng và phần mềm ML hàng đầu trong ngành, bao gồm Alibaba, Amazon Web Services, AMD, Apple, Arm, Google, Intel, Meta và NVIDIA.

Lợi ích chính

  • Tạo ở bất cứ đâu: XLA đã được tích hợp vào các khung máy học hàng đầu như TensorFlow, PyTorch và JAX.

  • Chạy ở mọi nơi: Hỗ trợ nhiều phần phụ trợ, bao gồm cả GPU, CPU và trình tăng tốc học máy, đồng thời bao gồm một cơ sở hạ tầng có thể cắm để hỗ trợ thêm.

  • Tối đa hoá và mở rộng hiệu suất: Tính năng này tối ưu hoá hiệu suất của mô hình bằng các lượt tối ưu hoá đã kiểm thử trong sản xuất và phân vùng tự động cho tính song song của mô hình.

  • Loại bỏ sự phức tạp: Công cụ này tận dụng sức mạnh của MLIR để đưa các tính năng tốt nhất vào một chuỗi công cụ biên dịch duy nhất, nhờ đó, bạn không phải quản lý một loạt trình biên dịch dành riêng cho miền.

  • Sẵn sàng cho tương lai: Là một dự án nguồn mở, được xây dựng thông qua sự cộng tác của các nhà cung cấp phần cứng và phần mềm ML hàng đầu, XLA được thiết kế để hoạt động ở cấp độ tiên tiến nhất của ngành ML.

Tài liệu

Để tìm hiểu thêm về XLA, hãy xem các đường liên kết ở bên trái. Nếu là nhà phát triển XLA mới, bạn nên bắt đầu với cấu trúc XLA rồi đọc phần Đóng góp.