OpenXLA
Acara Mendatang
OpenXLA Dev Lab April 2024
XLA
Tentang
Pemasangan/Penggunaan
Dokumentasi
StableHLO
Tentang
Dokumentasi
musik
Tentang
Komunitas
Pengumuman/Diskusi
Discord
Rapat
Berkontribusi
Partner industri
Alibaba
“Di Alibaba, OpenXLA dimanfaatkan oleh pelanggan Elastic GPU Service untuk melatih dan menyajikan model PyTorch yang besar. Kami telah melihat peningkatan performa yang signifikan bagi pelanggan yang menggunakan OpenXLA, terutama peningkatan kecepatan sebesar 72% untuk GPT2 dan 88% untuk Swin Transformer pada GPU NVIDIA. Kami bangga menjadi anggota pendiri Project OpenXLA dan bekerja sama dengan komunitas open source untuk mengembangkan compiler ML canggih yang memberikan performa dan pengalaman pengguna terbaik bagi pelanggan Alibaba Cloud.” - Yangqing Jia, VP, AI and Data Analytics, Alibaba
Amazon Web Services
“Kami sangat senang menjadi anggota pendiri Proyek OpenXLA, yang akan mendemokrasikan akses ke infrastruktur AI yang berperforma tinggi, skalabel, dan dapat diperluas, serta kolaborasi lebih lanjut dalam komunitas open source untuk mendorong inovasi. Di AWS, pelanggan kami menskalakan aplikasi AI generatif mereka di AWS Trainium dan Inferentia. Selain itu, Neuron SDK kami mengandalkan XLA untuk mengoptimalkan model ML guna mendapatkan performa tinggi dan performa terbaik di kelasnya per watt. Dengan ekosistem OpenXLA yang kuat, developer dapat terus berinovasi dan menghasilkan performa hebat dengan infrastruktur ML yang berkelanjutan, dan mengetahui bahwa kode mereka portabel untuk digunakan pada hardware pilihan mereka.” - Nafea Bshara, Vice President dan Distinguished Engineer, AWS
AMD
“Kami sangat antusias dengan arah masa depan OpenXLA di rangkaian besar perangkat AMD (CPU, GPU, AIE) dan bangga menjadi bagian dari komunitas ini. Kami menghargai project dengan tata kelola terbuka, penerapan yang fleksibel dan luas, fitur canggih, dan performa terbaik, dan kami menantikan kolaborasi berkelanjutan untuk memperluas ekosistem open source bagi developer ML.” - Alan Lee, Corporate Vice President, Software Development, AMD
Semua skala
"Anyscale mengembangkan teknologi yang terbuka dan skalabel seperti Ray untuk membantu praktisi AI mengembangkan aplikasi mereka dengan lebih cepat serta menyediakannya bagi lebih banyak pengguna. Baru-baru ini, kami berpartner dengan project ALPA untuk menggunakan OpenXLA guna menampilkan pelatihan model berperforma tinggi untuk model Bahasa Besar dalam skala besar. Kami senang dapat berpartisipasi dalam OpenXLA dan bersemangat karena upaya open source ini mampu menjalankan workload AI pada berbagai platform hardware secara efisien, sehingga mengurangi hambatan masuk, mengurangi biaya, dan memajukan bidang AI dengan lebih cepat." - Philipp Moritz, CTO, Anyscale
Apel
Apple Inc. merancang, memproduksi dan memasarkan smartphone, komputer pribadi, tablet, perangkat wearable, dan aksesori, serta menjual berbagai layanan terkait.
Arm
“Project OpenXLA menandai pencapaian penting dalam perjalanan menyederhanakan pengembangan software ML. Kami sepenuhnya mendukung misi OpenXLA dan berharap dapat memanfaatkan stabilitas dan standardisasi OpenXLA di seluruh roadmap hardware dan software Arm® NeoverseTM.” - Peter Greenhalgh, Vice President of Technology and Fellow, Arm.
Cerebras
“Di Cerebras, kami membangun akselerator AI yang dirancang untuk mempercepat dan mempermudah pelatihan model AI terbesar. Sistem dan software kami memenuhi kebutuhan pengguna di mana pun mereka berada, sehingga memungkinkan pengembangan, penskalaan, dan iterasi yang cepat menggunakan framework ML standar tanpa perubahan. OpenXLA membantu memperluas jangkauan pengguna dan mempercepat waktu penyelesaian solusi dengan menyediakan antarmuka umum ke framework ML dengan level yang lebih tinggi pada Cerebras Wafer-Scale Engine. Kami sangat senang melihat ekosistem OpenXLA tersedia untuk interaksi, kontribusi, dan penggunaan komunitas yang lebih luas di GitHub.” - Andy Hock, VP dan Head of Product, Cerebras Systems
“Software open source memberi kesempatan kepada semua orang untuk membantu menciptakan terobosan di AI. Di Google, kami berkolaborasi dalam Project OpenXLA untuk memperkuat komitmen kami terhadap open source dan mendorong penggunaan alat AI yang meningkatkan standar performa ML, mengatasi inkompatibilitas antara framework dan hardware, serta dapat dikonfigurasi ulang untuk menangani kasus penggunaan yang disesuaikan dari developer. Kami antusias untuk mengembangkan alat ini dengan komunitas OpenXLA, sehingga developer dapat mendorong kemajuan di berbagai lapisan stack AI yang berbeda.” - Jeff Dean, Senior Fellow dan SVP, Google Research and AI
Musik Graphcore
“Pipeline kompilator IPU kami telah menggunakan XLA sejak diluncurkan untuk publik. Berkat independensi dan stabilitas platform XLA, XLA memberikan frontend yang ideal untuk menghadirkan silikon baru. Fleksibilitas XLA memungkinkan kami mengekspos fitur hardware baru IPU dan mencapai performa tercanggih dengan berbagai framework. Jutaan kueri setiap hari dilayani oleh sistem yang menjalankan kode yang dikompilasi oleh XLA. Kami sangat senang dengan arahan OpenXLA dan berharap untuk terus berkontribusi pada proyek open source. Kami percaya bahwa hal ini akan membentuk komponen inti di masa depan AI/ML.” - David Norman, Director of Software Design, Graphcore
Wajah Memeluk
“Mempermudah dalam menjalankan model apa pun secara efisien pada hardware apa pun adalah tantangan teknis yang mendalam, dan merupakan tujuan penting bagi misi kami untuk mendemokrasikan machine learning yang baik. Di Hugging Face, kami mengaktifkan XLA untuk model pembuatan teks TensorFlow dan kecepatannya mencapai ~100x. Selain itu, kami berkolaborasi erat dengan tim engineering di Intel, AWS, Habana, Graphcore, AMD, Qualcomm, dan Google, membangun jembatan open source antara framework dan setiap silikon, untuk menawarkan efisiensi unik kepada pengguna akhir melalui library Optimum kami. OpenXLA menjanjikan elemen penyusun standar yang dapat kami gunakan untuk membangun interoperabilitas yang sangat dibutuhkan, dan kami tidak sabar untuk mengikuti dan berkontribusi!” - Morgan Funtowicz, Head of Machine Learning Optimization, Hugging Face
Intel
“Di Intel, kami percaya pada akses terbuka yang terdemokratisasi ke AI. CPU Intel, GPU, akselerator Habana Gaudi, dan software AI yang didukung oneAPI termasuk OpenVINO, mendorong workload ML di mana saja, mulai dari superkomputer exascale hingga deployment cloud besar. Bersama dengan anggota OpenXLA lainnya, kami berusaha mendukung alat compiler ML berbasis standar dan komponen yang mendorong inovasi di berbagai lingkungan hardware dan framework untuk mempercepat sains dan penelitian yang mengubah dunia.” - Greg Lavender, Intel SVP, CTO & GM of Software & Advanced Technology Group
Meta
“Dalam riset, di Meta AI, kami telah menggunakan XLA, teknologi inti project OpenXLA, guna mendukung model PyTorch untuk Cloud TPU dan mampu mencapai peningkatan performa yang signifikan pada project penting. Kami percaya bahwa open source mempercepat laju inovasi di dunia, dan kami sangat antusias untuk menjadi bagian dari Proyek OpenXLA.” - Soumith Chintala, Lead Maintainer, PyTorch
NVIDIA
“Sebagai anggota pendiri Proyek OpenXLA, NVIDIA sangat antusias untuk berkolaborasi dalam pengembangan AI/ML dengan komunitas OpenXLA dan yakin bahwa dengan lebih banyak engagement dan adopsi OpenXLA, developer ML akan diberdayakan dengan infrastruktur AI yang canggih.” - Roger Bringmann, VP, Compiler Software, NVIDIA.