OpenXLA
XLA
StableHLO
שעון יפן (PJRT)
הצטרפות לקהילת OpenXLA
עדכונים
קבוצת הדיון
פגישות
GitHub
תרומה ל-OpenXLA
מה זה XLA?
תרומה עבור XLA
מה זה StableHLO?
מסמכי עזר
שותפים מהתחום
אליבבה
"ב-Alibaba, לקוחות של שירות GPU של Elastic GPU ממנפים את OpenXLA לאימון ולהצגה של דגמים גדולים של PyTorch. הבחנו בשיפורים משמעותיים בביצועים של לקוחות המשתמשים ב-OpenXLA, במהירויות גבוהות של 72% ב-GPT2 וב-88% ב-Swin Transformer במעבדי GPU של NVIDIA. אנחנו גאים להיות בין המייסדים של פרויקט OpenXLA ולעבוד יחד עם קהילת הקוד הפתוח כדי לפתח מהדר מתקדם של למידת מכונה שיספק ביצועים וחוויית משתמש ברמה גבוהה ללקוחות Alibaba Cloud." – יאנגצ'ינג ג'יה, סמנכ"ל, AI וניתוח נתונים, Alibaba
שירותי האינטרנט של Amazon
"אנחנו שמחים להיות בין המייסדים של פרויקט OpenXLA שיעניק את הגישה לתשתית AI איכותית, ניתנת להרחבה וניתנת להרחבה, וגם לשיתוף פעולה נוסף בתוך קהילת הקוד הפתוח לקידום חדשנות. הלקוחות שלנו ב-AWS מתאימים את האפליקציות שלהם לבינה מלאכותית גנרטיבית ב-AWS Trainium וב-Inferentia, ונוירו SDK מסתמך על XLA כדי לבצע אופטימיזציה של מודלים של למידת מכונה (ML) לביצועים גבוהים ולביצועים הטובים ביותר לכל וואט. בזכות הסביבה העסקית האיתנה של OpenXLA, המפתחים יכולים להמשיך לפתח חידושים ולספק ביצועים מעולים באמצעות תשתית למידת מכונה בת-קיימא, ולדעת שהקוד שלהם ניתן לשימוש בכל סוגי החומרה שלהם." – נאפה בשרה (Nafea Bshara), סמנכ"לית ומהנדסת בכירה, AWS
AMD
"אנחנו נרגשים לקראת הכיוון העתידי של OpenXLA במשפחה הרחבה של מכשירי AMD (מעבדים (CPU), GPU, AIE) ואנחנו גאים להיות חלק מהקהילה הזו. אנחנו מעריכים פרויקטים עם ניהול פתוח, יכולת יישום גמישה ורחבה, תכונות חדשניות וביצועים מעולים ומצפים להמשך שיתוף הפעולה להרחבת הסביבה העסקית של הקוד הפתוח למפתחי למידת מכונה." – אלן לי, סמנכ"ל ארגוני, פיתוח תוכנה, AMD
כל קנה מידה
"Anyscale מפתח טכנולוגיות פתוחות וניתנות להתאמה כמו ריי כדי לעזור למומחי AI לפתח את האפליקציות שלהם מהר יותר ולהפוך אותן לזמינות למשתמשים רבים יותר. לאחרונה שיתפנו פעולה עם פרויקט ALPA כדי להשתמש ב-OpenXLA כדי להציג אימון מודלים של ביצועים גבוהים עבור מודלים גדולים של שפה (LLM). אנחנו שמחים להשתתף ב-OpenXLA ושמחים לגלות שהמאמצים האלה של קוד פתוח מאפשרים להריץ עומסי עבודה (workloads) של AI במגוון רחב יותר של פלטפורמות חומרה, ובכך מצמצמים את חסמי הכניסה, מפחיתים את העלויות ומקדמים את תחום ה-AI מהר יותר". - פיליפ מוריץ, מנהל טכנולוגיות ראשי, Anyscale
תפוח
Apple Inc. מתכננת, מייצרת ומשווקת סמארטפונים, מחשבים אישיים, טאבלטים, גאדג'טים לבישים ואביזרים, ומוכרת מגוון שירותים קשורים.
קבוצה
"פרויקט OpenXLA מציין ציון דרך חשוב בדרך לפשט את הפיתוח של תוכנת למידת מכונה. אנחנו תומכים באופן מלא במשימה של OpenXLA ומצפים למנף את היציבות והסטנדרטיזציה של OpenXLA במפות הדרכים לחומרה ולתוכנה של Arm® NeoverseTM." – פיטר גרינהאל, סגן נשיא לטכנולוגיה ועמית, Arm.
סרברס
"ב-Cerbras אנחנו מפתחים מאיצים של AI, שמטרתם להפוך את האימון של המודלים הגדולים ביותר של AI לפשוט ולמהיר. המערכות והתוכנות שלנו פוגשות את המשתמשים בכל מקום שבו הם נמצאים OpenXLA עוזר לנו להרחיב את פוטנציאל החשיפה של המשתמשים ולהאיץ את הזמן לפתרון הבעיה, באמצעות ממשק משותף למסגרות של למידת מכונה ברמה גבוהה יותר. אנחנו שמחים מאוד לראות שהסביבה העסקית של OpenXLA זמינה ל-GitHub, לתרומה ולשימוש נרחב יותר בקהילה." – אנדי הוק, סמנכ"ל ומנהל מוצר, Cerebras Systems.
"תוכנות קוד פתוח נותנת לכולם הזדמנות לעזור ולפרוץ דרך ב-AI. ב-Google אנחנו משתפים פעולה בפרויקט OpenXLA כדי להעמיק את המחויבות שלנו להטמעה של קוד פתוח ולעודד אימוץ של כלי AI שמעלה את הסטנדרטים לביצועים של למידת מכונה, פותר את חוסר התאימות בין ה-frameworks והחומרה, וניתן להגדיר אותו מחדש כדי לתת מענה לתרחישי השימוש המותאמים של המפתחים. אנחנו שמחים לפתח את הכלים האלה עם קהילת OpenXLA כדי לאפשר למפתחים להתפתח בשכבות רבות ושונות של סטאק ה-AI". – ג'ף דין, עמית בכיר וסגן נשיא בכיר, מחקר ב-Google ו-AI
גרף
"בצינור עיבוד הנתונים של הידור IPU נעשה שימוש ב- XLA מאז שהוא הפך לציבורי. הודות לעצמאות וליציבות של הפלטפורמה של XLA, היא מספקת חזית אידיאלית ליצירת סיליקון חדשני. הגמישות של XLA אפשרה לנו לחשוף את תכונות החומרה החדשניות של IPU ולהשיג ביצועים מתקדמים באמצעות מספר מסגרות. מיליוני שאילתות ביום נשלחות על ידי מערכות שמפעילות קוד, שנלקחו על ידי XLA. אנחנו נרגשים מהכיוון של OpenXLA ומקווים להמשיך ולתרום לפרויקט הקוד הפתוח. אנחנו סבורים שהוא יהווה רכיב מרכזי בעתיד של AI/ML". – דיוויד נורמן, מנהל עיצוב תוכנה, Graphcore
פרצוף מחבק
"היכולת להפעיל בקלות כל מודל בצורה יעילה בכל חומרה היא אתגר טכני עמוק, וזו מטרה חשובה במשימה שלנו לדמוקרטיזציה של למידת מכונה טובה. ב-Huging Face, הפעלנו את XLA למודלים ליצירת טקסט ב-TensorFlow, והוספנו מהירות של פי 100~. בנוסף, אנחנו משתפים פעולה הדוק עם צוותי הנדסה בחברות Intel, AWS, Habana, Graphcore, AMD, Qualcomm ו-Google, ובונים גשרים בקוד פתוח בין frameworks לבין כל סיליקון, כדי להציע למשתמשי הקצה יעילות מובנת לשימוש באמצעות ספריית Optimum שלנו. חברת OpenXLA מבטיחה אבני בניין סטנדרטיות שבאמצעותן אפשר ליצור יכולת פעולה הדדית הכרחית, ומצפים בקוצר רוח לעקוב ולתרום" – מורגן פונטוביץ', ראש תחום אופטימיזציה של למידת מכונה, חיבוק פנים
Intel
"ב-Intel אנחנו מאמינים בגישה פתוחה ודמוקרטית ל-AI. מעבדים של Intel, יחידות GPU, מאיצים של Havana Gaudi ותוכנות AI מבוססות-OneAPI, כולל OpenVINO, מניעים עומסי עבודה של למידת מכונה בכל מקום, ממחשבי-על גדולים ועד לפריסות גדולות בענן. יחד עם חברים אחרים ב-OpenXLA, אנחנו מנסים לתמוך בכלים מבוססי-סטנדרטים של מהדר למידת מכונה (ML) מבוססי-רכיבים, שיוצרים חדשנות במספר מסגרות וסביבות חומרה, כדי להאיץ את המהירות של מחקר ומדע שמשנים את העולם". – גרג לבנדר (Greg Lavender), סמנכ"ל בכיר ב-Intel, סמנכ"ל ראשי ו-GM של Software & Advanced Technology Group.
Meta
"במחקר של Meta AI השתמשנו ב- XLA, טכנולוגיית ליבה של פרויקט OpenXLA, כדי לאפשר מודלים של PyTorch עבור Cloud TPU והצלחנו לשפר משמעותית את הביצועים בפרויקטים חשובים. אנחנו סבורים שקוד פתוח מאיץ את קצב החדשנות בעולם, ואנחנו שמחים לקחת חלק בפרויקט OpenXLA". – סומית' צ'ינטלה (Soumith Chintala), מתחזק ראשי, PyTorch
NVIDIA
"כאחת המייסדות של פרויקט OpenXLA, NVIDIA מצפה לשיתוף פעולה בנושא פיתוחים של AI/ML עם קהילת OpenXLA. היא החיובית: בזכות המעורבות והאימוץ הרחב של OpenXLA, מפתחי למידת מכונה יהנו בעזרת תשתית AI מתקדמת." – רוג'ר ברינגמן, סמנכ"ל, Compiler Software, NVIDIA.