جبرگرایی (GPU)

گردآوری

کامپایل XLA در صورتی قطعی است که از اتوتیونینگ مداوم برای انجام اتوتیونینگ یک بار استفاده شود و در کامپایل‌های بعدی از آن اجتناب شود. در غیر این صورت، به دلیل نوسانات در اندازه‌گیری‌ها، هسته‌های مختلف را می‌توان به عنوان سریع‌ترین هسته‌ها در اجراهای مختلف کامپایل انتخاب کرد.

می‌توان از --xla_gpu_require_complete_aot_autotune_results برای اطمینان از عدم وقوع اتوتیونینگ در کامپایل‌های مکرر استفاده کرد - آنها یا از نتایج سازگار اجراهای قبلی استفاده مجدد می‌کنند یا با شکست مواجه می‌شوند.

اعدام

برنامه‌های کامپایل شده توسط XLA می‌توانند در عملیاتی مانند scatter، select-and-scatter، GEMMs، convolutions و multi-headed attention غیر قطعی باشند. پرچم --xla_gpu_exclude_nondeterministic_ops این عملیات را به پیاده‌سازی‌های قطعی و بالقوه کندتر تغییر می‌دهد و باعث می‌شود کامپایل در select-and-scatter که پیاده‌سازی قطعی ندارد، با شکست مواجه شود.