이식 가능하고 확장 가능한 고성능 머신러닝 (ML) 인프라 구성요소의 개방형 생태계로 프런트엔드 프레임워크와 하드웨어 백엔드 간의 도구를 조각 모음하여 ML 개발을 간소화합니다. AI 모델링, 소프트웨어, 하드웨어 분야의 업계 리더들이 빌드했습니다.
GPU, CPU, ML 가속기용 머신러닝 (ML) 컴파일러입니다.
프레임워크 내보내기, 컴파일러 입력, 하드웨어 제약이 없는 낮추기를 위한 이동식 옵션
ML 컴파일러 및 런타임을 위한 하드웨어 및 프레임워크 독립적 인터페이스입니다.

OpenXLA 커뮤니티 가입

openxla 공지 메일링 리스트에 가입하여 출시, 이벤트, 기타 주요 업데이트에 관한 소식을 받아 보세요.
설계 및 개발 토론을 위한 openxla-discuss 메일링 리스트에 가입하세요.
이전 회의의 메모를 검토하고 예정된 회의를 캘린더에 추가합니다.
GitHub의 OpenXLA 프로젝트 및 저장소를 방문합니다.

OpenXLA에 참여

이 튜토리얼은 OpenXLA 기여자로 시작하는 데 도움이 될 것입니다.
XLA (Accelerated Linear Algebra)는 머신러닝을 위한 오픈소스 컴파일러입니다. XLA 컴파일러는 PyTorch, TensorFlow, JAX와 같이 널리 사용되는 프레임워크에서 모델을 가져와 GPU, CPU, ML 가속기 등 다양한 하드웨어 플랫폼에서 고성능 실행을 위해 모델을 최적화합니다.
XLA 프로젝트 개발을 시작합니다.
StableHLO는 머신러닝 (ML) 모델의 상위 수준 작업 (HLO)에 설정된 작업입니다. 기본적으로 여러 ML 프레임워크와 ML 컴파일러 간의 이동성 레이어입니다. StableHLO 프로그램을 생성하는 ML 프레임워크는 StableHLO 프로그램을 사용하는 ML 컴파일러와 호환됩니다.
XLA 및 StableHLO 작업을 위한 참조 문서입니다.

업계 파트너

OpenXLA 프로젝트는 선도적인 ML 하드웨어 및 소프트웨어 조직에서 공동으로 개발했습니다.
Alibaba 로고

Alibaba

"Alibaba에서 OpenXLA는 Elastic GPU Service 고객이 대규모 PyTorch 모델의 학습과 서빙에 활용하고 있습니다. OpenXLA를 사용하는 고객의 경우 성능이 크게 향상되었으며, 특히 NVIDIA GPU의 GPT2에서 72%, Swin Transformer의 경우 88% 의 속도가 향상되었습니다. OpenXLA Project의 창립 멤버로서 오픈소스 커뮤니티와 협력하여 Alibaba Cloud 고객에게 우수한 성능과 사용자 경험을 제공하는 고급 ML 컴파일러를 개발하게 된 것을 자랑스럽게 생각합니다." - 양칭 지아, Alibaba AI 및 데이터 분석 부문 부사장

Amazon Web Services 로고

Amazon Web Services

"Google Cloud는 OpenXLA 프로젝트의 창립 멤버로 활동하면서 성능이 우수하고 확장 가능하며 확장 가능한 AI 인프라에 대한 액세스를 범용화하고 오픈소스 커뮤니티 내에서 추가적인 협업을 통해 혁신을 주도할 것입니다. AWS의 고객들은 생성형 AI 애플리케이션을 AWS Trainium 및 Inferentia에서 확장하고 Google의 Neuron SDK는 XLA를 사용하여 고성능 및 동급 최고의 와트당 성능을 위해 ML 모델을 최적화합니다. 강력한 OpenXLA 생태계를 갖춘 개발자는 지속 가능한 ML 인프라를 통해 계속해서 혁신하고 뛰어난 성능을 제공할 수 있으며, 코드를 포팅하여 하드웨어 선택에 사용할 수 있습니다.” - 나페아 바샤라, AWS 부사장 겸 특별 엔지니어

AMD 로고

AMD

“광범위한 AMD 기기 제품군 (CPU, GPU, AIE)에서 향후 OpenXLA가 나아갈 방향이 기대되며 이 커뮤니티의 일원이 된 것을 자랑스럽게 생각합니다. 당사는 개방형 거버넌스, 유연하고 광범위한 적용 가능성, 최첨단 기능, 최고의 성능을 갖춘 프로젝트를 중요하게 여기며, ML 개발자를 위한 오픈소스 생태계를 확장하기 위한 지속적인 협력을 기대하고 있습니다." - 앨런 리, AMD 소프트웨어 개발 부문 법인 부사장

Anyscale 로고

규모 제한

"Anyscale은 AI 실무자가 애플리케이션을 더 빠르게 개발하고 더 많은 사용자가 사용할 수 있도록 지원하는 Ray와 같은 개방적이고 확장 가능한 기술을 개발합니다. 최근 Google은 ALPA 프로젝트와 제휴하여 OpenXLA를 사용하여 대규모 언어 모델에 대한 고성능 모델 학습을 보여줬습니다. OpenXLA에 참여하게 된 것을 기쁘게 생각합니다. 이러한 오픈소스 노력으로 AI 워크로드를 다양한 하드웨어 플랫폼에서 효율적으로 실행하여 진입 장벽을 낮추고 비용을 절감하며 AI 분야를 더욱 빠르게 발전시킬 수 있습니다." - 필립 모리츠, Anyscale CTO

Apple 로고

사과

Apple Inc. 는 스마트폰, 개인용 컴퓨터, 태블릿, 웨어러블 기기, 액세서리를 디자인, 제조, 마케팅하며 다양한 관련 서비스를 판매합니다.

Arm 로고

Arm

“OpenXLA 프로젝트는 ML 소프트웨어 개발을 간소화하는 과정에서 중요한 이정표가 될 것입니다. 당사는 OpenXLA 사명을 완벽히 지지하며 Arm® NeoverseTM 하드웨어 및 소프트웨어 로드맵 전반에 걸쳐 OpenXLA 안정성과 표준화를 활용할 수 있기를 기대합니다." - 피터 그린할, Arm 기술 부문 부사장 겸 연구원

Cerebras 로고

“Cerebras는 대규모 AI 모델도 쉽고 빠르게 학습시킬 수 있도록 설계된 AI 가속기를 제작합니다. Google 시스템과 소프트웨어는 사용자가 어디에 있든 요구사항을 충족하므로 표준 ML 프레임워크를 사용하여 변경 없이 신속한 개발, 확장, 반복이 가능합니다. OpenXLA는 Cerebras Wafer-Scale Engine에 더 높은 수준의 ML 프레임워크 공통 인터페이스를 제공하여 사용자 도달범위를 확장하고 솔루션 도입 시간을 앞당기는 데 도움을 줍니다. GitHub에서 커뮤니티 참여, 참여 및 사용을 훨씬 더 광범위하게 지원할 수 있는 OpenXLA 생태계를 보게 되어 매우 기쁩니다." - 앤디 호크, Cerebras Systems 부문 부사장 겸 제품 책임자

Google 로고

Google

"오픈소스 소프트웨어는 모두에게 AI의 획기적인 발전을 도울 기회를 제공합니다. Google은 오픈소스에 대한 약속을 강화하고 AI 도구의 도입을 촉진하기 위해 OpenXLA 프로젝트를 함께 진행하고 있습니다. 이러한 노력은 ML 성능의 기준을 높이고, 프레임워크와 하드웨어 간의 비호환성 문제를 해결하고, 개발자의 맞춤형 사용 사례를 해결하도록 재구성할 수 있습니다. 개발자가 AI 스택의 다양한 레이어에서 발전을 주도할 수 있도록 OpenXLA 커뮤니티와 함께 이러한 도구를 개발하게 되어 기쁩니다." - 제프 딘, Google Research and AI 선임 연구원 겸 SVP

Graphcore 로고

그래프 코어

“당사의 IPU 컴파일러 파이프라인은 공개된 이후 XLA를 사용해 왔습니다. XLA는 플랫폼의 독립성과 안정성 덕분에 새로운 실리콘을 구현하는 데 이상적인 프런트엔드를 제공합니다. XLA의 유연성 덕분에 IPU의 새로운 하드웨어 기능을 노출하고 여러 프레임워크로 최첨단 성능을 달성할 수 있었습니다. XLA로 컴파일된 코드를 실행하는 시스템에서는 하루에 수백만 개의 쿼리를 처리합니다. 우리는 OpenXLA가 나아갈 방향에 큰 기대를 걸고 있으며 계속해서 오픈소스 프로젝트에 기여하기를 바랍니다. AI/ML의 미래에 핵심 구성요소가 될 것이라고 믿습니다." - 데이비드 노먼, Graphcore 소프트웨어 디자인 부문 이사

Hugging Face 로고

허그하는 얼굴

“모든 하드웨어에서 효율적으로 모델을 효율적으로 실행하는 것을 쉽게 만드는 것은 심각한 기술적 과제이며, 우수한 머신러닝을 범용화하려는 Google의 사명에 중요한 목표이기도 합니다. Hugging Face에서는 TensorFlow 텍스트 생성 모델에 XLA를 사용 설정하여 최대 100배의 속도를 달성했습니다. 또한 Intel, AWS, Habana, Graphcore, AMD, Qualcomm 및 Google의 엔지니어링팀과 긴밀하게 협업하여 프레임워크와 각 실리콘 사이에 오픈소스 브리지를 구축하여 Optimum 라이브러리를 통해 최종 사용자에게 즉시 사용 가능한 효율성을 제공합니다. OpenXLA는 표준화된 빌딩 블록을 토대로 필요한 상호 운용성을 빌드할 수 있을 것이라는 점을 약속합니다. 이러한 노력의 일환이 기대됩니다." - 모건 펀토위츠, Hugging Face 머신러닝 최적화 책임자

Intel 로고

인텔

“Intel은 AI에 대한 개방적이고 누구나 이용할 수 있는 액세스를 믿습니다. Intel CPU, GPU, Habana Gauid 가속기, OpenVINO를 비롯한 oneAPI 기반 AI 소프트웨어는 엑사스케일 슈퍼컴퓨터에서 주요 클라우드 배포에 이르기까지 모든 곳에서 ML 워크로드를 구동합니다. Google은 다른 OpenXLA 회원들과 함께 표준 기반의 구성요소화된 ML 컴파일러 도구를 지원하여 다양한 프레임워크와 하드웨어 환경에서 혁신을 주도하여 세상을 바꾸는 과학 및 연구의 속도를 높이고자 합니다.” - 그렉 라벤더, 소프트웨어 및 고급 기술 그룹의 Intel SVP, CTO 겸 총괄 이사

Meta 로고

메타

“연구에서 Meta AI에서 OpenXLA 프로젝트의 핵심 기술인 XLA를 사용하여 Cloud TPU에 PyTorch 모델을 지원하고 중요한 프로젝트에서 상당한 성능을 달성할 수 있었습니다. 오픈소스가 전 세계의 혁신 속도를 가속화한다고 믿으며, OpenXLA 프로젝트에 참여하게 되어 기쁩니다." - 수미트 친탈라, PyTorch 리드 유지관리 담당자

NVIDIA 로고

NVIDIA

“OpenXLA 프로젝트의 창립 멤버인 NVIDIA는 OpenXLA 커뮤니티와 AI/ML 발전을 위한 협업을 고대하고 있으며, OpenXLA를 폭넓게 활용하고 도입함으로써 ML 개발자가 최첨단 AI 인프라를 활용할 수 있다는 점을 긍정적으로 보고 있습니다.” - 로저 브링만, NVIDIA 컴파일러 소프트웨어 부문 부사장