Стабильный статус HLO

При загрузке StableHLO из MHLO мы унаследовали реализацию многих вещей MHLO, включая красивую печать, проверку и вывод формы. Благодаря этому у нас уже есть значительный охват опсета, но еще многое предстоит сделать, чтобы проверить полноту существующих реализаций и предоставить новые реализации там, где их нет.

Этот действующий документ предназначен для разработчиков и пользователей для отслеживания прогресса по различным аспектам опсета — спецификации, проверки, вывода типа, красивой печати, интерпретатора и т. д.

Как это использовать

Ход операции StableHLO, как указано в соответствующей строке, по конкретному аспекту, как указано в соответствующем столбце, отслеживается с помощью одной из следующих меток отслеживания.

• Общие этикетки
  • да : есть комплексная реализация.
  • нет : реализации нет, но работа над этим является частью дорожной карты . Обратите внимание, что Verifier никогда не может быть помечен как «нет», поскольку ODS уже реализует некоторую проверку.
• Настраиваемые метки для Verifier и Type Inference
  • да : реализация есть, и она синхронизирована с семантикой StableHLO .
  • да* : реализация есть, и она синхронизирована с семантикой XLA . Поскольку семантика XLA часто недостаточно документирована, мы используем hlo_verifier.cc и shape_inference.cc в качестве ссылки.
  • revisit : реализация есть, но она не подпадает ни под «да», ни под «да*» — либо потому, что мы ее еще не проверяли, либо потому, что у нас есть и обнаружены проблемы.
  • неосуществимо : реализации нет, потому что это неосуществимо. Например, потому, что тип результата операции не может быть выведен из ее операндов и атрибутов.

Положение дел

Вывод типа для квантованных операций

Столбец Type Inference в таблице выше предназначен для сосредоточения внимания на неквантованных операциях. Для большинства операций квантования невозможно определить тип результата, поскольку параметры квантования типов результата могут отличаться от параметров квантования операндов. За исключением нескольких случаев, когда типы операндов и результатов должны совпадать одинаково или операция имеет ограничения, полезные для определения типа результата, такие операции перечислены ниже: all_gather , all_to_all , case , collective_permute , compare , concatenate , constant , dynamic_slice , dynamic_update_slice , gather , get_tuple_element , if , infeed , is_finite , map , optimization_barrier , outfeed , pad , recv , reduce , уменьшить_рассеивание , reduce_scatter , reverse reduce_window scatter , select_and_scatter , send , slice , sort , transpose , tuple , uniform_dequantized , while .