Стабильный статус HLO

При инициализации StableHLO на основе MHLO мы унаследовали реализацию многих функций MHLO, включая форматирование текста, проверку и определение формы. Благодаря этому у нас уже есть значительный охват набора операций, но еще многое предстоит сделать для проверки существующих реализаций на полноту и предоставления новых реализаций там, где их нет.

Этот документ предназначен для разработчиков и пользователей, чтобы отслеживать прогресс в различных аспектах набора операций — спецификацию, верификацию, вывод типов, форматирование вывода, интерпретатор и т. д.

Как им пользоваться

Ход выполнения операции StableHLO, как указано в соответствующей строке, по конкретному аспекту, как указано в соответствующем столбце, отслеживается с помощью одной из следующих меток отслеживания.

• Общие этикетки
  • Да : существует комплексная реализация.
  • Нет : реализации нет, но работа над этим входит в план развития . Обратите внимание, что Verifier никогда не может быть помечен как «нет», поскольку ODS уже реализует некоторую проверку.
• Настраиваемые метки для верификатора и вывода типов.
  • Да , такая реализация существует, и она соответствует семантике StableHLO .
  • Да* : существует реализация, и она соответствует семантике XLA . Поскольку семантика XLA зачастую недостаточно документирована, мы используем hlo_verifier.cc и shape_inference.cc в качестве эталона.
  • Повторюсь : реализация существует, но она не подпадает под категории «да» или «да*» — либо потому, что мы еще не провели ее аудит, либо потому, что провели и обнаружили проблемы.
  • Неосуществимо : такой реализации нет, потому что это неосуществимо. Например, потому что тип результата операции нельзя определить по её операндам и атрибутам.

Статус

Вывод типов для квантованных операций

Столбец Type Inference в таблице выше предназначен для анализа неквантованных операций. Для большинства квантованных операций определить тип результата невозможно, поскольку параметры квантования типов результатов могут отличаться от параметров квантования операндов. За исключением нескольких случаев, когда типы операнда и результата должны совпадать идентично, или операция имеет ограничения, полезные для определения типа результата, такие операции перечислены ниже: all_gather , all_to_all , case , collective_permute , compare , concatenate , constant , dynamic_slice , dynamic_update_slice , gather , get_tuple_element , if , infeed , is_finite , map , optimization_barrier , outfeed , pad , recv , reduce , reduce_scatter , reduce_window , reverse , scatter , select_and_scatter , send , slice , sort , transpose , tuple , uniform_dequantized , while .