XLA

XLA (Accelerated Doğrusal Cebir), makine öğrenimi için açık kaynaklı bir derleyicidir. XLA derleyici PyTorch, TensorFlow ve JAX gibi popüler çerçevelerden modeller alır ve bunları GPU'lar, CPU'lar ve makine öğrenimi hızlandırıcıları gibi farklı donanım platformlarında yüksek performanslı yürütme için optimize eder. Örneğin, BERT MLPerf tarafından yapılan bir gönderimde, XLA'nın 8 Volta V100 GPU ile kullanılması, XLA kullanılmayan GPU'lara kıyasla yaklaşık 7 kat performans ve toplu boyutta yaklaşık 5 kat iyileşme sağladı.

OpenXLA projesi kapsamında XLA; Alipaba, Amazon Web Services, AMD, Apple, Arm, Google, Intel, Meta ve NVIDIA gibi sektör lideri makine öğrenimi donanım ve yazılımı şirketleri tarafından iş birliğiyle geliştirilmiştir.

Temel avantajları

  • Her yerde derleyin: XLA, TensorFlow, PyTorch ve JAX gibi önde gelen makine öğrenimi çerçevelerine zaten entegredir.

  • Her yerde çalıştırın: GPU'lar, CPU'lar ve makine öğrenimi hızlandırıcıları gibi çeşitli arka uçları destekler ve daha fazlası için destek sağlayan takılabilir bir altyapıya sahiptir.

  • Performansı en üst düzeye çıkarma ve ölçeklendirme: Üretimde test edilmiş optimizasyon geçişleri ve model paralelliği için otomatik bölümlendirme ile bir modelin performansını optimize eder.

  • Karmaşıklığı ortadan kaldırma: MLIR'ın gücünden yararlanarak en iyi özellikleri tek bir derleyici araç zincirinde toplar. Böylece alana özgü derleyicileri yönetmeniz gerekmez.

  • Geleceğe hazır: Önde gelen makine öğrenimi donanım ve yazılım tedarikçilerinin işbirliğiyle oluşturulan bir açık kaynak projesi olan XLA, makine öğrenimi sektöründe en ileri teknolojilerde çalışacak şekilde tasarlanmıştır.

Belgeler

XLA hakkında daha fazla bilgi edinmek için soldaki bağlantılara göz atın. Yeni bir XLA geliştiricisiyseniz, XLA mimarisi ile başlayıp Kod incelemelerini okuyabilirsiniz.