Un ecosistema abierto de componentes de infraestructura de aprendizaje automático (AA) de alto rendimiento, portátiles y extensibles que simplifican el desarrollo del AA mediante la desfragmentación de las herramientas entre frameworks de frontend y backends de hardware. Creado por líderes de la industria en modelado de IA, software y hardware.
Compilador de aprendizaje automático (AA) para GPU, CPU y aceleradores de AA.
Conjunto de operaciones portátil para exportación de framework, entrada de compilador y reducción independiente del hardware.
Una interfaz independiente de hardware y framework para compiladores de AA y entornos de ejecución.

Únete a la comunidad de OpenXLA

Únete a la lista de distribución de anuncios de openxla para recibir noticias sobre lanzamientos, eventos y otras actualizaciones importantes.
Únete a la lista de distribución de OpenXla para participar de debates sobre diseño y desarrollo.
Revisa las notas de reuniones anteriores y agrega las próximas reuniones a tu calendario.
Visita el proyecto y los repositorios de OpenXLA en GitHub.

Contribuye a OpenXLA

Estos instructivos te ayudarán a dar tus primeros pasos como colaborador de OpenXLA.
XLA (Accelerated Linear Algebra) es un compilador de código abierto para el aprendizaje automático. El compilador de XLA toma modelos de frameworks populares, como PyTorch, TensorFlow y JAX, y los optimiza para lograr una ejecución de alto rendimiento en diferentes plataformas de hardware, incluidas GPU, CPU y aceleradores de AA.
Comienza a desarrollar el proyecto XLA.
StableHLO es un conjunto de operaciones para operaciones de alto nivel (HLO) en modelos de aprendizaje automático (AA). En esencia, es una capa de portabilidad entre diferentes frameworks de AA y compiladores de AA: los frameworks de AA que producen programas StableHLO son compatibles con los compiladores de AA que consumen programas StableHLO.
Documentación de referencia para las operaciones de XLA y StableHLO.

Socios de la industria

El proyecto OpenXLA se desarrolla de forma colaborativa por organizaciones líderes en hardware y software de AA.
Logotipo de Alibaba

Alibaba

“En Alibaba, los clientes del servicio de GPU de Elastic aprovechan OpenXLA para entrenar y entregar modelos grandes de PyTorch. Observamos mejoras significativas en el rendimiento de los clientes que usan OpenXLA, en particular aceleraciones del 72% para GPT2 y del 88% para Swin Transformer en las GPU de NVIDIA. Nos enorgullece ser miembros fundadores del proyecto OpenXLA y trabajar con la comunidad de código abierto para desarrollar un compilador de AA avanzado que ofrece un rendimiento y una experiencia del usuario superiores a los clientes de Alibaba Cloud”. - Yangqing Jia, vicepresidente de IA y Análisis de Datos, Alibaba

Logotipo de Amazon Web Services

Amazon Web Services

“Nos entusiasma ser miembros fundadores del Proyecto OpenXLA, que democratizará el acceso a una infraestructura de IA extensible, escalable y con buen rendimiento, así como una mayor colaboración dentro de la comunidad de código abierto para impulsar la innovación. En AWS, nuestros clientes escalan sus aplicaciones de IA generativa en Inferentia y Trainium de AWS, y nuestro SDK de Neuron se basa en XLA para optimizar los modelos de AA a fin de obtener un alto rendimiento y el mejor rendimiento por vatio. Con un ecosistema de OpenXLA sólido, los desarrolladores pueden seguir innovando y brindando un excelente rendimiento con una infraestructura de AA sustentable. Además, saben que su código es portátil para usarlo en el hardware que elijan”. - Nafea Bshara, vicepresidenta e ingeniera distinguida, AWS

Logotipo de AMD

AMD

“Nos entusiasma el futuro de OpenXLA en la amplia familia de dispositivos AMD (CPUs, GPU, AIE) y nos enorgullece formar parte de esta comunidad. Valoramos los proyectos con administración abierta, flexibilidad y aplicabilidad amplia, características de vanguardia y rendimiento de primer nivel, y esperamos con ansias la colaboración continua para expandir el ecosistema de código abierto para los desarrolladores de AA". Alan Lee, vicepresidente corporativo de Desarrollo de Software, AMD

Logotipo de Anyscale

Cualquier escala

“Anyscale desarrolla tecnologías abiertas y escalables como Ray para ayudar a los profesionales de la IA a desarrollar sus aplicaciones más rápido y ponerlas a disposición de más usuarios. Recientemente, nos asociamos con el proyecto ALPA con el fin de usar OpenXLA para mostrar el entrenamiento de modelos de alto rendimiento para modelos grandes de lenguaje a gran escala. Nos complace participar en OpenXLA y nos entusiasma la forma en que este esfuerzo de código abierto permite ejecutar cargas de trabajo de IA en una variedad más amplia de plataformas de hardware de manera eficiente, lo que reduce la barrera de entrada, los costos y el avance más rápido en el campo de la IA”. - Philipp Moritz, director de tecnología, Anyscale

Logotipo de Apple

Una manzana

Apple Inc. diseña, fabrica y comercializa smartphones, computadoras personales, tablets, wearables y accesorios, y vende una variedad de servicios relacionados.

Logotipo de Arm

Arm

“El proyecto OpenXLA marca un hito importante en el camino para simplificar el desarrollo de software de AA. Apoyamos plenamente la misión de OpenXLA y esperamos aprovechar la estabilidad y estandarización de OpenXLA en las hojas de ruta de hardware y software de Arm® NeoverseTM", comentó Peter Greenhalgh, vicepresidente de Tecnología y socio de Arm.

Logotipo de Cerebras

Cerebras

“En Cerebras, creamos aceleradores de IA diseñados para facilitar y agilizar el entrenamiento de incluso los modelos de IA más grandes. Nuestros sistemas y software se adaptan a los usuarios dondequiera que estén, lo que permite un desarrollo, iteración y escalamiento rápidos mediante frameworks de AA estándar sin cambios. OpenXLA ayuda a extender nuestro alcance de usuarios y acelerar el tiempo de solución, ya que proporciona al motor de escala de obleas de Cerebras una interfaz común para frameworks de AA de mayor nivel. Nos entusiasma mucho ver que el ecosistema de OpenXLA está disponible para una mayor participación, contribución y uso de la comunidad en GitHub". - Andy Hock, vicepresidente y director de Producto, Cerebras Systems

Logotipo de Google

Servicios

"El software de código abierto brinda a todos la oportunidad de ayudar a crear avances en la IA. En Google, colaboramos en el proyecto OpenXLA para ampliar nuestro compromiso con el código abierto y fomentar la adopción de herramientas de IA que elevan el estándar para el rendimiento del AA, abordan las incompatibilidades entre los frameworks y el hardware, y se pueden reconfigurar para abordar los casos de uso personalizados de los desarrolladores. Nos entusiasma desarrollar estas herramientas con la comunidad de OpenXLA para que los desarrolladores puedan impulsar avances en muchas capas diferentes de la pila de IA”. Jeff Dean, colega sénior y vicepresidente sénior de Google Research e IA

Logotipo de Graphcore

Graphcore

“Nuestra canalización de compilador de IPU usó XLA desde que se hizo pública. Gracias a la independencia y la estabilidad de la plataforma de XLA, brinda un frontend ideal para ofrecer una versión innovadora del silicio. La flexibilidad de XLA nos permitió exponer las nuevas funciones de hardware de nuestra IPU y lograr un rendimiento de vanguardia con varios marcos de trabajo. Los sistemas que ejecutan el código compilado por XLA entregan millones de consultas por día. Nos entusiasma la dirección de OpenXLA y esperamos seguir contribuyendo al proyecto de código abierto. Creemos que será un componente central en el futuro de la IA y el AA". - David Norman, director de Diseño de Software, Graphcore

Logotipo de Hugging Face

Cara que da un abrazo

“Facilitar la ejecución eficiente de cualquier modelo en cualquier hardware es un gran desafío técnico y un objetivo importante de nuestra misión para democratizar el buen aprendizaje automático. En Hugging Face, habilitamos XLA para los modelos de generación de texto de TensorFlow y logramos aumentos de velocidad de alrededor de 100 veces. Además, colaboramos estrechamente con equipos de ingeniería de Intel, AWS, Habana, Graphcore, AMD, Qualcomm y Google, creando puentes de código abierto entre los frameworks y cada silicio para ofrecer eficiencia lista para los usuarios finales a través de nuestra biblioteca Optimum. OpenXLA promete componentes estandarizados sobre los que podemos desarrollar la interoperabilidad tan necesaria, y estamos ansiosos por seguir y contribuir". Morgan Funtowicz, directora de Optimización del Aprendizaje Automático, Hugging Face

Logotipo de Intel

Intel

“En Intel, creemos en el acceso abierto y democratizado a la IA. Las CPUs Intel, las GPU, los aceleradores Habana Gaudi y el software de IA con tecnología de OneAPI, incluido OpenVINO, impulsan cargas de trabajo de AA en todas partes, desde supercomputadoras a exaescala hasta grandes implementaciones en la nube. Junto con otros miembros de OpenXLA, buscamos respaldar herramientas de compilación de AA basadas en estándares que impulsen la innovación en múltiples frameworks y entornos de hardware para acelerar la investigación y la ciencia revolucionarias en el mundo”. Greg Lavender, vicepresidente sénior de Intel, director de Tecnología y gerente general de Software & Advanced Technology Group

Logotipo de Meta

Meta

“Durante la investigación, en Meta AI, usamos XLA, una tecnología principal del proyecto OpenXLA, con el fin de habilitar modelos PyTorch para Cloud TPU y pudimos lograr mejoras significativas de rendimiento en proyectos importantes. Creemos que el código abierto acelera el ritmo de innovación en el mundo y nos entusiasma formar parte del proyecto OpenXLA". - Soumith Chintala, encargado de mantenimiento principal, PyTorch

Logotipo de NVIDIA

NVIDIA

"Como miembro fundador del proyecto OpenXLA, NVIDIA espera colaborar en los avances de IA y AA con la comunidad de OpenXLA. Además, tiene la certeza de que, con una mayor participación y adopción de OpenXLA, los desarrolladores de AA contarán con infraestructura de IA de vanguardia". - Roger Bringmann, vicepresidente de software de compilación de NVIDIA.