Desteklenen işlemler ve donanım

Şu anda aşağıdaki GPU çekirdekleri desteklenmektedir:

• tokamax.dot_product_attention (FlashAttention).
• tokamax.gated_linear_unit (Sınırlı doğrusal birimler (SwiGLU vb.)).
• tokamax.layer_norm (Katman normalleştirme ve kök ortalama kare normalleştirme).

Ayrıca hem GPU hem de TPU için aşağıdakiler geçerlidir:

• tokamax.ragged_dot (Uzmanların Karışımı).