Потрясающий OpenXLA

Экосистема OpenXLA

OpenXLA — это открытая экосистема высокопроизводительных, портативных и расширяемых компонентов инфраструктуры машинного обучения (ML), которые упрощают разработку машинного обучения за счет дефрагментации инструментов между интерфейсными платформами и аппаратными серверными компонентами. Создано лидерами отрасли в области моделирования, программного и аппаратного обеспечения искусственного интеллекта.

Как сообщество использует OpenXLA? На этой странице собраны ссылки на репозитории и проекты, использующие OpenXLA, для вдохновения и подсказок по коду!

У вас есть проект, использующий OpenXLA? Отправьте нам запрос на включение и добавьте его на эту страницу!

Рамки

  • JAX — это платформа машинного обучения с API-интерфейсом, подобным NumPy, для написания высокопроизводительных моделей машинного обучения.
  • PyTorch/XLA обеспечивает мост от PyTorch к OpenXLA и StableHLO.
  • TensorFlow — это давняя платформа машинного обучения с большой экосистемой.
  • Reactant.jl — это платформа для оптимизации и выполнения кода Julia через OpenXLA, StableHLO и MLIR.
  • Платформа GoMLX ML для языка Go
    • gopjrt raw XlaBuilder+PJRT-оболочка для Go: протестировано на CPU, GPU и TPU.

Плагины PJRT

  • libTPU позволяет моделям работать на облачных TPU Google

Краевая компиляция

  • Google AI Edge использует StableHLO в качестве входного формата для развертывания на мобильных устройствах с помощью LiteRT.
    • AI Edge Torch экспортирует модели PyTorch для мобильного развертывания через StableHLO
  • IREE использует StableHLO в качестве входного формата для развертывания на различных устройствах и ускорителях.
  • StableHLO to CoreML преобразует модели StableHLO в CoreML от Apple для развертывания на устройствах Apple.

Инструменты и визуализация

  • Model Explorer предлагает визуализацию иерархических графов с поддержкой моделей StableHLO.