Chúng tôi hiện hỗ trợ các nhân GPU sau:
tokamax.dot_product_attention
(FlashAttention).tokamax.gated_linear_unit
(Đơn vị tuyến tính có cổng (SwiGLU, v.v.)).tokamax.layer_norm
(Chuẩn hoá theo lớp và Chuẩn hoá theo căn bậc hai trung bình).Và những điều sau đây cho cả GPU và TPU:
tokamax.ragged_dot
(Mixture of Experts).Trừ phi có lưu ý khác, nội dung của trang này được cấp phép theo Giấy phép ghi nhận tác giả 4.0 của Creative Commons và các mẫu mã lập trình được cấp phép theo Giấy phép Apache 2.0. Để biết thông tin chi tiết, vui lòng tham khảo Chính sách trang web của Google Developers. Java là nhãn hiệu đã đăng ký của Oracle và/hoặc các đơn vị liên kết với Oracle.
Cập nhật lần gần đây nhất: 2025-11-21 UTC.