PJRT の例

bookmark_border コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。

例: JAX CUDA プラグイン

1. ラッパーを介した PJRT C API の実装（pjrt_c_api_gpu.h）。
2. パッケージのエントリ ポイント（setup.py）を設定します。
3. initialize() メソッドを実装します（__init__.py）。
4. CUDA の任意の jax テストでテストできます。

フレームワークの実装

フレームワーク側で PJRT を使用して PJRT デバイスとインターフェースを構築するための参考資料:

• JAX
  • jax-ml/jax は、xla_client API を介して PJRT API とやり取りします。
• GoMLX
  • gomlx/gopjrt
  • gomlx/gomlx > backends/xla
• ZML
  • PJRT API ラッパー pjrt.zig
  • PJRT プラグイン context.zig を読み込む
  • PJRT バッファ buffer.zig の操作
  • PJRT の module.zig を介してモジュールを実行する

ハードウェアの実装

• 完全統合プラグイン（PJRT+MLIR+XLA）:
  • XLA CPU プラグイン
  • XLA GPU プラグイン
  • Intel XLA プラグイン
• ライト インテグレーション プラグイン（PJRT+MLIR）:
  • StableHLO リファレンス インタープリタ プラグイン（MLIR ベースの C++ プラグイン。devlabs 後にリンク）
  • Tenstorrent-XLA プラグイン（MLIR ベースの C プラグイン）