OpenXLA
OpenXLA への貢献
XLA とは
XLA にコントリビューション
StableHLO とは
リファレンス ドキュメント
業界のパートナー
Alibaba
「Alibaba では、Elastic GPU Service のお客様が大規模な PyTorch モデルのトレーニングとサービングに OpenXLA を利用しています。OpenXLA をご利用のお客様のパフォーマンスが大幅に向上しました。特に、GPT2 では 72%、NVIDIA GPU では Swin Transformer では 88% の高速化が見られました。当社は OpenXLA プロジェクトの創設メンバーであり、オープンソース コミュニティと協力して、Alibaba Cloud のお客様に優れたパフォーマンスとユーザー エクスペリエンスを提供する高度な ML コンパイラを開発できることを誇りに思います。」 - Alibaba、AI およびデータ分析担当バイス プレジデント Yangqing Jia 氏
Amazon Web Services
「当社は OpenXLA プロジェクトの創設メンバーになることを嬉しく思います。このプロジェクトは、パフォーマンス、スケーラビリティ、拡張性に優れた AI インフラストラクチャへのアクセスを民主化し、オープンソース コミュニティ内でさらなるコラボレーションを推進してイノベーションを促進します。AWS のお客様は、AWS Trainium と Inferentia で生成 AI アプリケーションをスケールしています。Neuron SDK は XLA を使用して ML モデルを最適化し、高パフォーマンスと 1 ワットあたりの最高水準のパフォーマンスを実現しています。堅牢な OpenXLA エコシステムがあれば、デベロッパーはサステナブルな ML インフラストラクチャで革新を続け、優れたパフォーマンスを実現し続けることができます。そして、自分のコードは移植可能であり、ハードウェアを選んで使用できます。」 - AWS、バイス プレジデント兼上級エンジニア Nafea Bshara 氏
AMD
「幅広い AMD デバイス(CPU、GPU、AIE)ファミリーにおける OpenXLA の今後の方向性に期待を寄せ、このコミュニティに参加できることを誇りに思います。オープン ガバナンス、柔軟で幅広い適用可能性、最先端の機能、最高水準のパフォーマンスを備えたプロジェクトを高く評価しています。ML デベロッパー向けのオープンソース エコシステムを拡大するために、継続的なコラボレーションを楽しみにしています。」 - AMD、ソフトウェア開発担当コーポレート バイス プレジデント Alan Lee 氏
制限なし
「Anyscale は Ray のようなオープンでスケーラブルなテクノロジーを開発し、AI 実務担当者がアプリケーションを迅速に開発し、より多くのユーザーが利用できるように支援しています。最近 Google は ALPA プロジェクトと提携し、OpenXLA を使用して大規模言語モデル向けの高パフォーマンス モデル トレーニングを大規模に実施しました。OpenXLA に参加できたことを嬉しく思います。このオープンソースの取り組みにより、幅広いハードウェア プラットフォームで AI ワークロードを効率的に実行できるようになり、参入障壁が下がり、費用が削減され、AI 分野のより迅速な進歩が可能になったことをうれしく思います。」- Anyscale、CTO、Philipp Moritz 氏
Apple
Apple Inc. は、スマートフォン、パソコン、タブレット、ウェアラブル、アクセサリの設計、製造、販売を行い、さまざまな関連サービスを販売しています。
Arm
「OpenXLA プロジェクトは、ML ソフトウェア開発を簡素化するための重要なマイルストーンです。当社は OpenXLA のミッションに全面的に支援しており、Arm® NeoverseTM のハードウェアおよびソフトウェアのロードマップ全体に OpenXLA の安定性と標準化を活用できることを楽しみにしています。」- Arm、テクノロジー担当バイス プレジデント兼フェロー、Peter Greenhalgh 氏
セレブラス
「Cerebras では、最大規模の AI モデルでも迅速かつ簡単にトレーニングできるよう設計された AI アクセラレータを構築しています。Google のシステムとソフトウェアはユーザーのニーズを満たします。そのため、標準的な ML フレームワークを使用し続けることで、迅速な開発、スケーリング、イテレーションが可能になります。OpenXLA は、より高レベルの ML フレームワークへの共通インターフェースを Cerebras Wafer-Scale Engine に提供するため、ユーザーリーチの拡大とソリューション導入までの時間の短縮に役立っています。GitHub で、OpenXLA エコシステムがさらに幅広いコミュニティへのエンゲージメント、貢献、使用に利用できるようになることを非常に嬉しく思います。」 - Cerebras Systems、バイス プレジデント兼プロダクト責任者 Andy Hock 氏
「オープンソース ソフトウェアは、誰もが AI のブレークスルーの創造を支援する機会を与えてくれます。Google は OpenXLA プロジェクトにおいて、オープンソースへの取り組みを推進し、ML パフォーマンスの基準を高め、フレームワークとハードウェアの非互換性を解消し、開発者がカスタマイズしたユースケースに対応するために再構成可能な AI ツールの導入を促進するため、共同で OpenXLA プロジェクトを進めています。開発者が AI スタックの多種多様なレイヤで進歩を推進できるよう、これらのツールを OpenXLA コミュニティとともに開発できることを嬉しく思います。」 - Google Research and AI、シニア フェロー兼シニア バイス プレジデント、Jeff Dean
グラフコア
「当社の IPU コンパイラ パイプラインでは、XLA が公開されて以来、使用しています。XLA はプラットフォームの独立性と安定性により、新しいシリコンを生み出す理想的なフロントエンドを提供します。XLA の柔軟性により、IPU のまったく新しいハードウェア機能を公開し、複数のフレームワークで最先端のパフォーマンスを実現できました。XLA によってコンパイルされたコードを実行しているシステムは、1 日に数百万件のクエリを処理しています。Google は OpenXLA の方向性に期待を寄せ、今後もオープンソース プロジェクトに貢献していきたいと考えています。AI/ML の未来におけるコア コンポーネントとなることを確信しています。」 - Graphcore、ソフトウェア デザイン担当ディレクター David Norman 氏
ハグしている顔
「あらゆるハードウェアであらゆるモデルを効率的に実行できるようにすることは、技術的に難しい課題であり、優れた ML を誰でも利用できるようにするという当社のミッションの重要な目標です。Hugging Face では、TensorFlow テキスト生成モデルに対して XLA を有効にし、約 100 倍の高速化を達成しました。さらに、Intel、AWS、Habana、Graphcore、AMD、Qualcomm、Google のエンジニアリング チームと緊密に連携して、フレームワークと各シリコンの間にオープンソース ブリッジを構築し、Optimum ライブラリを通じてエンドユーザーにすぐに使える効率性を提供しています。OpenXLA は、標準化された構成要素を基盤に、相互運用性を実現できることを約束しています。ぜひフォローと貢献を待ちきれません。」 - Hugging Face、機械学習最適化担当責任者、Morgan Funtowicz 氏
Intel
「Intel は、AI へのオープンで民主化されたアクセスを信条としています。Intel CPU、GPU、Habana Gaudi アクセラレータ、および OpenVINO などの oneAPI 搭載 AI ソフトウェアは、エクサスケール スーパーコンピュータから主要なクラウド デプロイまで、あらゆる場所で ML ワークロードを促進します。私たちは他の OpenXLA メンバーとともに、標準ベースのコンポーネント化された ML コンパイラ ツールをサポートし、複数のフレームワークやハードウェア環境にイノベーションをもたらし、世界を一新する科学研究と研究を加速させることを目指しています。」 - Intel SVP、CTO、GM、Software & Advanced Technology Group、Greg Lavender 氏
Meta
Meta AI の研究では、OpenXLA プロジェクトのコア テクノロジーである XLA を使用して Cloud TPU 用の PyTorch モデルを実現し、重要なプロジェクトのパフォーマンスを大幅に向上させることができました。オープンソースが世界のイノベーションのペースを加速させると信じており、OpenXLA プロジェクトの一員になることを嬉しく思います。」 - PyTorch、リード メンテナンス担当 Soumith CHintala 氏
NVIDIA
「OpenXLA プロジェクトの創設メンバーである NVIDIA は、OpenXLA コミュニティと AI/ML の進歩に関するコラボレーションを行うことを楽しみにしています。また、OpenXLA の幅広いエンゲージメントと導入により、ML デベロッパーは最先端の AI インフラストラクチャでエンパワーメントできるようになると確信しています。」- NVIDIA、コンパイラ ソフトウェア担当バイス プレジデント Roger Bringmann 氏