OpenXLA
XLA
StableHLO
PJRT
Únete a la comunidad de OpenXLA
Anuncios
Debate
Reuniones
GitHub
Contribuye a OpenXLA
¿Qué es XLA?
Contribuye a XLA
¿Qué es StableHLO?
Documentación de referencia
Socios de la industria
Alibaba
“En Alibaba, los clientes del servicio de GPU de Elastic aprovechan OpenXLA para entrenar y entregar modelos grandes de PyTorch. Observamos mejoras significativas en el rendimiento de los clientes que usan OpenXLA, en particular aceleraciones del 72% para GPT2 y del 88% para Swin Transformer en las GPU de NVIDIA. Nos enorgullece ser miembros fundadores del proyecto OpenXLA y trabajar con la comunidad de código abierto para desarrollar un compilador de AA avanzado que ofrece un rendimiento y una experiencia del usuario superiores a los clientes de Alibaba Cloud”. - Yangqing Jia, vicepresidente de IA y Análisis de Datos, Alibaba
Amazon Web Services
“Nos entusiasma ser miembros fundadores del Proyecto OpenXLA, que democratizará el acceso a una infraestructura de IA extensible, escalable y con buen rendimiento, así como una mayor colaboración dentro de la comunidad de código abierto para impulsar la innovación. En AWS, nuestros clientes escalan sus aplicaciones de IA generativa en Inferentia y Trainium de AWS, y nuestro SDK de Neuron se basa en XLA para optimizar los modelos de AA a fin de obtener un alto rendimiento y el mejor rendimiento por vatio. Con un ecosistema de OpenXLA sólido, los desarrolladores pueden seguir innovando y brindando un excelente rendimiento con una infraestructura de AA sustentable. Además, saben que su código es portátil para usarlo en el hardware que elijan”. - Nafea Bshara, vicepresidenta e ingeniera distinguida, AWS
AMD
“Nos entusiasma el futuro de OpenXLA en la amplia familia de dispositivos AMD (CPUs, GPU, AIE) y nos enorgullece formar parte de esta comunidad. Valoramos los proyectos con administración abierta, flexibilidad y aplicabilidad amplia, características de vanguardia y rendimiento de primer nivel, y esperamos con ansias la colaboración continua para expandir el ecosistema de código abierto para los desarrolladores de AA". Alan Lee, vicepresidente corporativo de Desarrollo de Software, AMD
Cualquier escala
“Anyscale desarrolla tecnologías abiertas y escalables como Ray para ayudar a los profesionales de la IA a desarrollar sus aplicaciones más rápido y ponerlas a disposición de más usuarios. Recientemente, nos asociamos con el proyecto ALPA con el fin de usar OpenXLA para mostrar el entrenamiento de modelos de alto rendimiento para modelos grandes de lenguaje a gran escala. Nos complace participar en OpenXLA y nos entusiasma la forma en que este esfuerzo de código abierto permite ejecutar cargas de trabajo de IA en una variedad más amplia de plataformas de hardware de manera eficiente, lo que reduce la barrera de entrada, los costos y el avance más rápido en el campo de la IA”. - Philipp Moritz, director de tecnología, Anyscale
Una manzana
Apple Inc. diseña, fabrica y comercializa smartphones, computadoras personales, tablets, wearables y accesorios, y vende una variedad de servicios relacionados.
Arm
“El proyecto OpenXLA marca un hito importante en el camino para simplificar el desarrollo de software de AA. Apoyamos plenamente la misión de OpenXLA y esperamos aprovechar la estabilidad y estandarización de OpenXLA en las hojas de ruta de hardware y software de Arm® NeoverseTM", comentó Peter Greenhalgh, vicepresidente de Tecnología y socio de Arm.
Cerebras
“En Cerebras, creamos aceleradores de IA diseñados para facilitar y agilizar el entrenamiento de incluso los modelos de IA más grandes. Nuestros sistemas y software se adaptan a los usuarios dondequiera que estén, lo que permite un desarrollo, iteración y escalamiento rápidos mediante frameworks de AA estándar sin cambios. OpenXLA ayuda a extender nuestro alcance de usuarios y acelerar el tiempo de solución, ya que proporciona al motor de escala de obleas de Cerebras una interfaz común para frameworks de AA de mayor nivel. Nos entusiasma mucho ver que el ecosistema de OpenXLA está disponible para una mayor participación, contribución y uso de la comunidad en GitHub". - Andy Hock, vicepresidente y director de Producto, Cerebras Systems
Servicios
"El software de código abierto brinda a todos la oportunidad de ayudar a crear avances en la IA. En Google, colaboramos en el proyecto OpenXLA para ampliar nuestro compromiso con el código abierto y fomentar la adopción de herramientas de IA que elevan el estándar para el rendimiento del AA, abordan las incompatibilidades entre los frameworks y el hardware, y se pueden reconfigurar para abordar los casos de uso personalizados de los desarrolladores. Nos entusiasma desarrollar estas herramientas con la comunidad de OpenXLA para que los desarrolladores puedan impulsar avances en muchas capas diferentes de la pila de IA”. Jeff Dean, colega sénior y vicepresidente sénior de Google Research e IA
Graphcore
“Nuestra canalización de compilador de IPU usó XLA desde que se hizo pública. Gracias a la independencia y la estabilidad de la plataforma de XLA, brinda un frontend ideal para ofrecer una versión innovadora del silicio. La flexibilidad de XLA nos permitió exponer las nuevas funciones de hardware de nuestra IPU y lograr un rendimiento de vanguardia con varios marcos de trabajo. Los sistemas que ejecutan el código compilado por XLA entregan millones de consultas por día. Nos entusiasma la dirección de OpenXLA y esperamos seguir contribuyendo al proyecto de código abierto. Creemos que será un componente central en el futuro de la IA y el AA". - David Norman, director de Diseño de Software, Graphcore
Cara que da un abrazo
“Facilitar la ejecución eficiente de cualquier modelo en cualquier hardware es un gran desafío técnico y un objetivo importante de nuestra misión para democratizar el buen aprendizaje automático. En Hugging Face, habilitamos XLA para los modelos de generación de texto de TensorFlow y logramos aumentos de velocidad de alrededor de 100 veces. Además, colaboramos estrechamente con equipos de ingeniería de Intel, AWS, Habana, Graphcore, AMD, Qualcomm y Google, creando puentes de código abierto entre los frameworks y cada silicio para ofrecer eficiencia lista para los usuarios finales a través de nuestra biblioteca Optimum. OpenXLA promete componentes estandarizados sobre los que podemos desarrollar la interoperabilidad tan necesaria, y estamos ansiosos por seguir y contribuir". Morgan Funtowicz, directora de Optimización del Aprendizaje Automático, Hugging Face
Intel
“En Intel, creemos en el acceso abierto y democratizado a la IA. Las CPUs Intel, las GPU, los aceleradores Habana Gaudi y el software de IA con tecnología de OneAPI, incluido OpenVINO, impulsan cargas de trabajo de AA en todas partes, desde supercomputadoras a exaescala hasta grandes implementaciones en la nube. Junto con otros miembros de OpenXLA, buscamos respaldar herramientas de compilación de AA basadas en estándares que impulsen la innovación en múltiples frameworks y entornos de hardware para acelerar la investigación y la ciencia revolucionarias en el mundo”. Greg Lavender, vicepresidente sénior de Intel, director de Tecnología y gerente general de Software & Advanced Technology Group
Meta
“Durante la investigación, en Meta AI, usamos XLA, una tecnología principal del proyecto OpenXLA, con el fin de habilitar modelos PyTorch para Cloud TPU y pudimos lograr mejoras significativas de rendimiento en proyectos importantes. Creemos que el código abierto acelera el ritmo de innovación en el mundo y nos entusiasma formar parte del proyecto OpenXLA". - Soumith Chintala, encargado de mantenimiento principal, PyTorch
NVIDIA
"Como miembro fundador del proyecto OpenXLA, NVIDIA espera colaborar en los avances de IA y AA con la comunidad de OpenXLA. Además, tiene la certeza de que, con una mayor participación y adopción de OpenXLA, los desarrolladores de AA contarán con infraestructura de IA de vanguardia". - Roger Bringmann, vicepresidente de software de compilación de NVIDIA.