OpenXLA
近日中のイベント
OpenXLA Dev Lab(2024 年 11 月)
XLA
基本情報
インストール/使用
ドキュメント
StableHLO
PJRT
基本情報
Community
お知らせ/ディスカッション
Discord
会議
YouTube
Android の改善に貢献する
業界のパートナー
Alibaba
「Alibaba では、大規模な PyTorch モデルのトレーニングとサービングに OpenXLA を Elastic GPU Service の顧客が活用しています。OpenXLA をご利用のお客様のパフォーマンスが大幅に向上しました。特に、GPT2 では 72%、NVIDIA GPU では Swin Transformer では 88% の高速化が見られました。私たちは OpenXLA プロジェクトの創設メンバーであり、オープンソース コミュニティと協力して、Alibaba Cloud のお客様に優れたパフォーマンスとユーザー エクスペリエンスを提供する高度な ML コンパイラを開発できることを誇りに思います。」 - Alibaba、AI およびデータ分析担当バイス プレジデント Yangqing Jia 氏
Amazon Web Services
「当社は OpenXLA プロジェクトの創設メンバーとなることを嬉しく思っています。このプロジェクトでは、パフォーマンス、スケーラビリティ、拡張性に優れた AI インフラストラクチャへのアクセスが民主化されるだけでなく、オープンソース コミュニティ内でのさらなるコラボレーションがイノベーションを促進します。AWS のお客様は、AWS Trainium と Inferentia で生成 AI アプリケーションをスケールしています。Neuron SDK は XLA を使用して ML モデルを最適化し、高パフォーマンスと最高水準の 1 ワットあたりのパフォーマンスを実現しています。堅牢な OpenXLA エコシステムにより、デベロッパーはサステナブルな ML インフラストラクチャでイノベーションを継続し、優れたパフォーマンスを実現し続けることができます。自分のコードは移植可能であり、ハードウェアを選んで使用できます。」 - AWS、バイス プレジデント兼上級エンジニア Nafea Bshara 氏
AMD
「私たちは、幅広い AMD デバイス(CPU、GPU、AIE)ファミリーにおける OpenXLA の今後の方向性に期待しており、このコミュニティに参加できることを誇りに思います。オープン ガバナンス、柔軟で幅広く適用可能、最先端の機能、最高水準のパフォーマンスを備えたプロジェクトを高く評価しています。ML デベロッパー向けのオープンソース エコシステムを拡大するために、継続的なコラボレーションを楽しみにしています。」 - AMD、ソフトウェア開発担当コーポレート バイス プレジデント、Alan Lee 氏
エニースケール
「Anyscale は、AI 実務担当者がアプリケーションを迅速に開発し、より多くのユーザーが利用できるようにするために、Ray のようなオープンでスケーラブルなテクノロジーを開発しています。Google は最近 ALPA プロジェクトと連携し、OpenXLA を使用して大規模言語モデルの高パフォーマンス モデル トレーニングを大規模に実施しました。OpenXLA に参加できたことを嬉しく思います。このオープンソースの取り組みにより、さまざまなハードウェア プラットフォームで AI ワークロードを効率的に実行できるようになり、参入障壁が下がり、費用が削減され、AI の分野の発展が加速したことを嬉しく思います。」- Anyscale、CTO、Philipp Moritz 氏
Apple
Apple Inc. は、スマートフォン、パソコン、タブレット、ウェアラブル、アクセサリーを設計、製造、販売し、さまざまな関連サービスを販売しています。
Arm
「OpenXLA プロジェクトは、ML ソフトウェア開発を簡素化する道のりにおける重要な節目となります。当社は OpenXLA の使命に全面的に支持しており、Arm® NeoverseTM のハードウェアとソフトウェアのロードマップ全体で OpenXLA の安定性と標準化を活用することを楽しみにしています。」 - Arm、テクノロジー担当バイス プレジデント兼フェロー、Peter Greenhalgh 氏
セレブラ
「Cerebras では、最大規模の AI モデルでも迅速かつ簡単にトレーニングできる AI アクセラレータを構築しています。Google のシステムとソフトウェアは、ユーザーがどこにいても使用できます。そのため、標準的な ML フレームワークを変更せずに、迅速な開発、スケーリング、イテレーションが可能です。OpenXLA は、Cerebras Wafer-Scale Engine に上位レベルの ML フレームワークへの共通インターフェースを提供することで、ユーザーリーチの拡大とソリューション提供までの時間の短縮を支援します。OpenXLA エコシステムが、GitHub 上でさらに幅広いコミュニティ エンゲージメント、貢献、使用に利用できるようになることを非常に嬉しく思います。」 - Cerebras Systems、バイス プレジデント兼プロダクト責任者、Andy Hock 氏
「オープンソース ソフトウェアは、誰もが AI のブレークスルーを生み出すのを支援する機会を与えてくれます。Google では、オープンソースへの取り組みをさらに推進し、ML パフォーマンスの水準を引き上げ、フレームワークとハードウェア間の非互換性に対処し、開発者に合わせたユースケースに対応するために再構成可能な AI ツールの採用を促進するために、OpenXLA Project に協力しています。これらのツールを OpenXLA コミュニティとともに開発できることを嬉しく思います。これにより、デベロッパーは AI スタックの多種多様なレイヤで進歩を推進できます。」 - Google Research and AI 担当シニア フェロー兼シニア バイス プレジデント Jeff Dean
グラフコア
「当社の IPU コンパイラ パイプラインは、XLA が公開されて以来使用してきました。XLA はプラットフォームの独立性と安定性のおかげで、新しいシリコンを開発するための理想的なフロントエンドを提供します。XLA の柔軟性により、IPU の新しいハードウェア機能を公開し、複数のフレームワークで最先端のパフォーマンスを実現できました。XLA でコンパイルされたコードを実行しているシステムが、1 日に数百万件のクエリを処理しています。OpenXLA の方向性をうれしく思うとともに、今後もオープンソース プロジェクトに貢献していきたいと考えています。AI/ML の未来において、コア コンポーネントとなることを確信しています。」 - Graphcore、ソフトウェア デザイン担当ディレクター David Norman 氏
Hugging Face
「あらゆるハードウェアであらゆるモデルを効率的に実行できるようにすることは、技術的な奥深い課題であり、優れた ML を誰でも利用できるようにするという当社のミッションの重要な目標です。Hugging Face では、TensorFlow テキスト生成モデルの XLA を有効にし、約 100 倍の高速化を達成しました。さらに、Intel、AWS、Habana、Graphcore、AMD、Qualcomm、Google のエンジニアリング チームと緊密に連携し、フレームワークと各シリコンの間にオープンソースのブリッジを構築し、Optimum ライブラリを通じてエンドユーザーにすぐに使える効率性を提供しています。OpenXLA は、必要とされている相互運用性を構築できる標準化された構成要素を約束しており、それに従って貢献するのを待ちきれません。」 - Hugging Face、ML 最適化担当責任者 Morgan Funtowicz 氏
Intel
「Intel は、AI へのオープンで民主化されたアクセスを信じています。Intel CPU、GPU、Habana Gaudi アクセラレータ、OpenVINO などの oneAPI 搭載 AI ソフトウェアにより、エクサスケール スーパーコンピュータから主要なクラウド デプロイまで、あらゆる場所で ML ワークロードが促進されます。私たちは他の OpenXLA メンバーとともに、標準ベースのコンポーネント化された ML コンパイラ ツールのサポートに努めています。これにより、複数のフレームワークやハードウェア環境でイノベーションを推進し、世界を変える科学研究を加速させることができます。」 - Intel、Software & Advanced Technology Group、CTO 兼 GM、Greg Lavender 氏
Meta
Meta AI の研究では、OpenXLA プロジェクトのコア テクノロジーである XLA を使用して Cloud TPU で PyTorch モデルを実現し、重要なプロジェクトのパフォーマンスを大幅に向上させることができました。オープンソースは世界のイノベーションを加速させると信じており、OpenXLA プロジェクトの一員になることを嬉しく思います。」 - PyTorch、リード メンテナンス担当 Soumith Chintala 氏
NVIDIA
「NVIDIA は OpenXLA プロジェクトの創設メンバーとして、OpenXLA コミュニティと AI/ML の進歩に協力することを楽しみにしています。また、OpenXLA の幅広い関与と導入により、ML デベロッパーが最先端の AI インフラストラクチャを利用できるようになると確信しています。」 - NVIDIA、コンパイラ ソフトウェア担当バイス プレジデント Roger Bringmann 氏