OpenXLA
אירועים קרובים
OpenXLA Dev Lab אפריל 2024
XLA
מידע כללי
התקנה/שימוש
מאמרי עזרה
StableHLO
מידע כללי
מאמרי עזרה
PJRT
מידע כללי
קהילה
הודעות/דיונים
Discord
פגישות
תרומה
שותפים בתחום
אליבבה
"לקוחות של Elastic GPU Service משמשים ב-Alibaba, לקוחות של שירות Elastic GPU לאימון והגשה של דגמים גדולים של PyTorch. הבחנו גם בשיפור משמעותי בביצועים של לקוחות שמשתמשים ב-OpenXLA, עם מהירויות גבוהות יותר של 72% ב-GPT2 ו-88% ב-Swin Transformer במעבדי NVIDIA GPU. אנחנו גאים להיות בין מייסדי פרויקט OpenXLA ולעבוד עם קהילת הקוד הפתוח כדי לפתח מהדר מתקדם של למידת מכונה שיספק ביצועים מעולים וחוויית משתמש ללקוחות Alibaba Cloud". – יאנגצ'ינג ג'יה, סמנכ"ל AI וניתוח נתונים, Alibaba
שירותי האינטרנט של Amazon
"אנחנו שמחים להיות בין המייסדים של פרויקט OpenXLA, שיעודד גישה לתשתית AI איכותית, ניתנת להרחבה וניתנת להרחבה, כמו גם שיתוף פעולה נוסף בקהילת הקוד הפתוח לקידום חדשנות. הלקוחות שלנו ב-AWS מרחיבים את אפליקציות ה-AI הגנרטיבי שלהם באמצעות AWS Trainium ו-Inferentia, ו-Nuron SDK מסתמך על XLA כדי לבצע אופטימיזציה של מודלים של למידת מכונה (ML) לביצועים גבוהים ולביצועים הטובים ביותר בתחום לכל ואט. בעזרת סביבה עסקית יציבה של OpenXLA, המפתחים יכולים להמשיך לחדש ולספק ביצועים מעולים באמצעות תשתית למידת מכונה בת קיימא, ולדעת שהקוד שלהם ניתן לשימוש בחומרה לבחירתם." – נאפה בשורה, סמנכ"לית ומהנדסת בכירה, AWS
AMD
"אנחנו נרגשים מהכיוון העתידי של OpenXLA במשפחה הרחבה של מכשירי AMD (מעבדים (CPU), מעבדים (GPU) ו-AIE) וגאים להיות חלק מהקהילה הזו. אנחנו מעריכים פרויקטים שיש בהם ניהול פתוח, יכולת יישום גמישה ורחבה, תכונות חדשניות וביצועים מעולים ומצפים לשיתוף פעולה מתמשך להרחבת הסביבה העסקית של קוד פתוח למפתחי למידת מכונה." – אלן לי, סמנכ"ל תאגידי, פיתוח תוכנה, AMD
כל קנה מידה
"חברת Anyscale מפתחת טכנולוגיות פתוחות וניתנות להתאמה כמו ריי כדי לעזור לאנשים שמשתמשים ב-AI לפתח את האפליקציות שלהם מהר יותר ולהפוך אותן לזמינות למשתמשים רבים יותר. לאחרונה שיתפנו פעולה עם פרויקט ALPA כדי להשתמש ב-OpenXLA כדי להציג אימון מודלים בעלי ביצועים גבוהים עבור מודלים גדולים של שפה (LLM). אנחנו שמחים להשתתף ב-OpenXLA, ואנחנו נרגשים מהאופן שבו המאמץ הזה בקוד פתוח מאפשר להריץ עומסי עבודה (workloads) של AI במגוון רחב יותר של פלטפורמות חומרה, וכך לצמצם את חסמי הכניסה, להפחית את העלויות ולקדם את תחום ה-AI מהר יותר." - פיליפ מוריץ, מנהל טכנולוגיות ראשי, Anyscale
Apple
חברת Apple Inc. מעצבת, מייצרת ומשווקת סמארטפונים, מחשבים אישיים, טאבלטים, גאדג'טים לבישים ואביזרים, ומוכרת מגוון שירותים קשורים.
קבוצה
"פרויקט OpenXLA מסמן אבן דרך חשובה בדרך לפשט את פיתוח תוכנת למידת מכונה. אנחנו תומכים באופן מלא במשימת OpenXLA ומצפים למנף את היציבות והתקינה של OpenXLA במפות הדרכים של החומרה והתוכנה Arm® NeoverseTM ." – פיטר גרינהאל, סגן נשיא לטכנולוגיה ועמית, זרוע
דגניים
"ב-Cerbras, אנחנו מפתחים מאיצים של AI שנועדו לאפשר אימון פשוט ומהיר גם של מודלים גדולים של AI. המערכות והתוכנות שלנו פוגשות את המשתמשים במקום שבו הם נמצאים, וכך מאפשרת פיתוח מהיר, התאמה לעומס (scaling) ואיטרציה באמצעות frameworks סטנדרטיות של למידת מכונה ללא שינוי. פלטפורמת OpenXLA עוזרת לנו להרחיב את היקף החשיפה למשתמשים ולהאיץ את פתרון הבעיה. לשם כך היא מספקת ל-Cerbras Wafer-Scale Engine ממשק משותף למסגרות של למידת מכונה ברמה גבוהה יותר. אנחנו שמחים מאוד לראות שהסביבה העסקית של OpenXLA זמינה ל-GitHub, לתרומה ולשימוש נרחב יותר בקהילה." – אנדי הוק, סמנכ"ל ומנהל מוצר, Cerebras Systems.
"תוכנות קוד פתוח מאפשרות לכולם לעזור ביצירת פריצות דרך ב-AI. ב-Google אנחנו משתפים פעולה בנוגע לפרויקט OpenXLA כדי להעמיק את המחויבות שלנו לחזק את המחויבות שלנו לקוד פתוח ולעודד אימוץ של כלי AI שמשפרים את הסטנדרט לביצועי למידת מכונה (ML), מתקנים את חוסר התאימות בין ה-frameworks והחומרה, וניתן להגדיר אותו מחדש כדי לתת מענה לתרחישי שימוש מותאמים אישית של מפתחים. אנחנו שמחים לפתח את הכלים האלה ביחד עם קהילת OpenXLA, כדי לאפשר למפתחים לקדם את הפיתוחים בשכבות רבות ושונות של סטאק ה-AI". – ג'ף דין, עמית בכיר וסגן נשיא בכיר לענייני מחקר ו-AI
תרשים גרפי
"צינור עיבוד הנתונים של ה-IPU השתמש ב- XLA מאז שהוא הפך לציבורי. הודות לעצמאות וליציבות של הפלטפורמה של XLA, היא מספקת חזית אידיאלית להצגת סיליקון חדשני. הגמישות של XLA מאפשרת לנו לחשוף את תכונות החומרה החדשניות של IPU ולהגיע לביצועים מתקדמים באמצעות מספר frameworks. מיליוני שאילתות ביום נשלחות ממערכות שמפעילות קוד שהורכבו על ידי XLA. אנחנו נרגשים מהכיוון של OpenXLA ומקווים להמשיך לתרום לפרויקט הקוד הפתוח. אנחנו סבורים שהוא יהווה רכיב מרכזי בעתיד של AI/ML." – דייוויד נורמן, מנהל עיצוב תוכנה, Graphcore
פרצוף מחבק
"קל להפעיל בקלות מודל כלשהו בצורה יעילה על כל חומרה היא אתגר טכני עמוק, וזו מטרה חשובה במשימה שלנו לדמוקרטיה של למידת מכונה טובה. ב-Hבוקing Face הפעלנו את האפשרות XLA למודלים ליצירת טקסט ב-TensorFlow והגענו להאצה של פי 100 בערך. בנוסף, אנחנו משתפים פעולה בשיתוף פעולה הדוק עם צוותי הנדסה בחברות Intel, AWS, Habana, Graphcore, AMD, Qualcomm ו-Google, ויוצרים גשרים בקוד פתוח בין frameworks לבין כל סיליקון, כדי להציע למשתמשי הקצה יעילות יוצאת מן הכלל דרך ספריית ה-Optimum שלנו. חברת OpenXLA מבטיחה אבני בניין סטנדרטיות שבאמצעותן אנחנו יכולים לפתח יכולת פעולה הדדית חיונית, ואנחנו מצפים בקוצר רוח לעקוב ולתרום!" – מורגן פונטוביץ', ראש תחום אופטימיזציה של למידת מכונה, Hugging Face
Intel
"ב-Intel, אנחנו מאמינים בגישה פתוחה ודמוקרטית ל-AI. מעבדים של Intel, מעבדי GPU, מאיצים של Habana Gaudi ותוכנת AI מבוססת oneAPI, כולל OpenVINO, מעבירים עומסי עבודה של למידת מכונה בכל מקום, ממחשבי-על בקנה מידה גדול ועד לפריסות גדולות בענן. יחד עם חברים אחרים ב-OpenXLA, אנחנו מנסים לתמוך בכלים מהדרים מבוססי-למידת מכונה מבוססי-תקנים, שמעודדים חדשנות במספר מסגרות וסביבות חומרה, כדי להאיץ את המחקר והמדע ששינו את העולם". – גרג לבנדר (Greg Lavender), סמנכ"ל בכיר ב-Intel, סמנכ"ל ראשי (CTO) ו-GM of Software & Advanced Technology Group
Meta
"במחקר, ב-Meta AI השתמשנו ב- XLA, טכנולוגיית ליבה של פרויקט OpenXLA, כדי לאפשר מודלים של PyTorch עבור ספקי Cloud TPU, ולהשיג שיפורים משמעותיים בביצועים בפרויקטים חשובים. אנחנו מאמינים בקוד פתוח שמאיץ את קצב החדשנות בעולם, ואנחנו שמחים לקחת חלק בפרויקט OpenXLA." – סומית' צ'ינטלה (Soumith Chintala), מנהל/ת ראשי/ת, PyTorch
NVIDIA
"כחברות מייסדת בפרויקט OpenXLA, NVIDIA מצפה לשיתוף פעולה בנושא חידושים בתחום ה-AI וה-ML עם קהילת OpenXLA. היא גם בטוחה שבזכות המעורבות הרבה והאימוץ של OpenXLA, מפתחי ML יפיקו תועלת מהתשתית המתקדמת בתחום ה-AI." - רוג'ר ברינגמן, סמנכ"ל, תוכנת Compiler, NVIDIA.