סביבה עסקית פתוחה של רכיבי תשתית של למידת מכונה (ML), ניידים וברי-הרחבה, שהופכים את פיתוח למידת המכונה לפשוטים יותר על ידי איחוי הכלים בין מסגרות בחזית לבין קצוות עורפיים של חומרה. פיתוח של מודלים מובילים בתחום של בניית מודלים, תוכנה וחומרה של AI.
מפגש קהילה 2024/5/21 בשעה 9:00 לפי שעון החוף המערבי
OpenXLA Dev Lab אפריל 2024: פיתוח מערכות ML פורצות דרך יחד

XLA

XLA (Accelerated Linear Algebra) הוא מהדר בקוד פתוח ללמידת מכונה. המהדר XLA משתמש במודלים מ-frameworks פופולריות כמו PyTorch, TensorFlow ו-JAX, ומבצע אופטימיזציה של המודלים לביצוע ביצועים גבוהים בפלטפורמות חומרה שונות, כולל יחידות GPU, מעבדים ומאיצים של למידת מכונה (ML).
XLA מגיע מובנה מראש עבור מסגרות למידת מכונה רבות. למידע על אופן השימוש ב-XA במקרים כאלה, תוכלו לעיין במסמכי התיעוד ובדפי ה-framework הנפרדים.
התיעוד של XLA עוסק בכמה נושאים בסיסיים ומתקדמים, כמו שילוב של פלאגין PJRT חדש, הטמעת קצה עורפי חדש של XLA ואופטימיזציה של זמן הריצה של תוכנית XLA.

StableHLO

StableHLO היא פעולה שמוגדרת לפעולות ברמה גבוהה (HLO) במודלים של למידת מכונה (ML). למעשה, מדובר בשכבת ניידות בין מסגרות ML שונות ומהדרים של למידת מכונה: מסגרות ML שיוצרות תוכניות StableHLO תואמות למהדרים של ML שצורכים תוכניות StableHLO.
מסמכי התיעוד של StableHLO כוללים מספר נושאים, כמו המפרט של StableHLO OpSet, ואופן הייצוא של גרפים ב-StableHLO ממסגרות נפוצות של למידת מכונה.

שעון יפן (PJRT)

PJRT הוא ממשק בלתי תלוי בחומרה ובמסגרת, שמיועד למהדרים ולזמני ריצה של ML. נכון לעכשיו, הוא נכלל בהפצת XLA. מידע נוסף על השימוש ב-PJRT והשילוב שלו זמין ב-XLSA GitHub ובתיעוד.

קהילה

מצטרפים לרשימת התפוצה openxla- נכון כדי לקבל חדשות על גרסאות, אירועים ועדכונים חשובים אחרים. זה גם הערוץ הראשי שלנו לדיונים על עיצוב ופיתוח.
מצטרפים ל-OpenXLA Discord כדי להשתתף בצ'אטים בנושאים שקשורים ל-XA ול-StableHLO.
הפגישות מתקיימות כל חודש באמצעות Google Meet ביום שלישי השני או השלישי בשעה 9:00 (שעון החוף המערבי). אפשר לעיין במסמך הפגישה או בדיון פתוח לגבי תאריכים ונושאים ספציפיים.
נשמח לקבל תרומות מהקהילה. מידע נוסף זמין בהנחיות שלנו בנושא הוספת תוכן.

שותפים בתחום

פרויקט OpenXLA פותח בשיתוף פעולה על ידי ארגונים מובילים בחומרה ובתוכנה של למידת מכונה.
הלוגו של Alibaba

אליבבה

"לקוחות של Elastic GPU Service משמשים ב-Alibaba, לקוחות של שירות Elastic GPU לאימון והגשה של דגמים גדולים של PyTorch. הבחנו גם בשיפור משמעותי בביצועים של לקוחות שמשתמשים ב-OpenXLA, עם מהירויות גבוהות יותר של 72% ב-GPT2 ו-88% ב-Swin Transformer במעבדי NVIDIA GPU. אנחנו גאים להיות בין מייסדי פרויקט OpenXLA ולעבוד עם קהילת הקוד הפתוח כדי לפתח מהדר מתקדם של למידת מכונה שיספק ביצועים מעולים וחוויית משתמש ללקוחות Alibaba Cloud". – יאנגצ'ינג ג'יה, סמנכ"ל AI וניתוח נתונים, Alibaba

הלוגו של Amazon Web Services

שירותי האינטרנט של Amazon

"אנחנו שמחים להיות בין המייסדים של פרויקט OpenXLA, שיעודד גישה לתשתית AI איכותית, ניתנת להרחבה וניתנת להרחבה, כמו גם שיתוף פעולה נוסף בקהילת הקוד הפתוח לקידום חדשנות. הלקוחות שלנו ב-AWS מרחיבים את אפליקציות ה-AI הגנרטיבי שלהם באמצעות AWS Trainium ו-Inferentia, ו-Nuron SDK מסתמך על XLA כדי לבצע אופטימיזציה של מודלים של למידת מכונה (ML) לביצועים גבוהים ולביצועים הטובים ביותר בתחום לכל ואט. בעזרת סביבה עסקית יציבה של OpenXLA, המפתחים יכולים להמשיך לחדש ולספק ביצועים מעולים באמצעות תשתית למידת מכונה בת קיימא, ולדעת שהקוד שלהם ניתן לשימוש בחומרה לבחירתם." – נאפה בשורה, סמנכ"לית ומהנדסת בכירה, AWS

הלוגו של AMD

AMD

"אנחנו נרגשים מהכיוון העתידי של OpenXLA במשפחה הרחבה של מכשירי AMD (מעבדים (CPU), מעבדים (GPU) ו-AIE) וגאים להיות חלק מהקהילה הזו. אנחנו מעריכים פרויקטים שיש בהם ניהול פתוח, יכולת יישום גמישה ורחבה, תכונות חדשניות וביצועים מעולים ומצפים לשיתוף פעולה מתמשך להרחבת הסביבה העסקית של קוד פתוח למפתחי למידת מכונה." – אלן לי, סמנכ"ל תאגידי, פיתוח תוכנה, AMD

לוגו של Anyscale

כל קנה מידה

"חברת Anyscale מפתחת טכנולוגיות פתוחות וניתנות להתאמה כמו ריי כדי לעזור לאנשים שמשתמשים ב-AI לפתח את האפליקציות שלהם מהר יותר ולהפוך אותן לזמינות למשתמשים רבים יותר. לאחרונה שיתפנו פעולה עם פרויקט ALPA כדי להשתמש ב-OpenXLA כדי להציג אימון מודלים בעלי ביצועים גבוהים עבור מודלים גדולים של שפה (LLM). אנחנו שמחים להשתתף ב-OpenXLA, ואנחנו נרגשים מהאופן שבו המאמץ הזה בקוד פתוח מאפשר להריץ עומסי עבודה (workloads) של AI במגוון רחב יותר של פלטפורמות חומרה, וכך לצמצם את חסמי הכניסה, להפחית את העלויות ולקדם את תחום ה-AI מהר יותר." - פיליפ מוריץ, מנהל טכנולוגיות ראשי, Anyscale

הלוגו של Apple

Apple

חברת Apple Inc. מעצבת, מייצרת ומשווקת סמארטפונים, מחשבים אישיים, טאבלטים, גאדג'טים לבישים ואביזרים, ומוכרת מגוון שירותים קשורים.

הלוגו של הזרוע

קבוצה

"פרויקט OpenXLA מסמן אבן דרך חשובה בדרך לפשט את פיתוח תוכנת למידת מכונה. אנחנו תומכים באופן מלא במשימת OpenXLA ומצפים למנף את היציבות והתקינה של OpenXLA במפות הדרכים של החומרה והתוכנה Arm® NeoverseTM ." – פיטר גרינהאל, סגן נשיא לטכנולוגיה ועמית, זרוע

הלוגו של Cerebras

דגניים

"ב-Cerbras, אנחנו מפתחים מאיצים של AI שנועדו לאפשר אימון פשוט ומהיר גם של מודלים גדולים של AI. המערכות והתוכנות שלנו פוגשות את המשתמשים במקום שבו הם נמצאים, וכך מאפשרת פיתוח מהיר, התאמה לעומס (scaling) ואיטרציה באמצעות frameworks סטנדרטיות של למידת מכונה ללא שינוי. פלטפורמת OpenXLA עוזרת לנו להרחיב את היקף החשיפה למשתמשים ולהאיץ את פתרון הבעיה. לשם כך היא מספקת ל-Cerbras Wafer-Scale Engine ממשק משותף למסגרות של למידת מכונה ברמה גבוהה יותר. אנחנו שמחים מאוד לראות שהסביבה העסקית של OpenXLA זמינה ל-GitHub, לתרומה ולשימוש נרחב יותר בקהילה." – אנדי הוק, סמנכ"ל ומנהל מוצר, Cerebras Systems.

הלוגו של Google

Google

"תוכנות קוד פתוח מאפשרות לכולם לעזור ביצירת פריצות דרך ב-AI. ב-Google אנחנו משתפים פעולה בנוגע לפרויקט OpenXLA כדי להעמיק את המחויבות שלנו לחזק את המחויבות שלנו לקוד פתוח ולעודד אימוץ של כלי AI שמשפרים את הסטנדרט לביצועי למידת מכונה (ML), מתקנים את חוסר התאימות בין ה-frameworks והחומרה, וניתן להגדיר אותו מחדש כדי לתת מענה לתרחישי שימוש מותאמים אישית של מפתחים. אנחנו שמחים לפתח את הכלים האלה ביחד עם קהילת OpenXLA, כדי לאפשר למפתחים לקדם את הפיתוחים בשכבות רבות ושונות של סטאק ה-AI". – ג'ף דין, עמית בכיר וסגן נשיא בכיר לענייני מחקר ו-AI

הלוגו של Graphcore

תרשים גרפי

"צינור עיבוד הנתונים של ה-IPU השתמש ב- XLA מאז שהוא הפך לציבורי. הודות לעצמאות וליציבות של הפלטפורמה של XLA, היא מספקת חזית אידיאלית להצגת סיליקון חדשני. הגמישות של XLA מאפשרת לנו לחשוף את תכונות החומרה החדשניות של IPU ולהגיע לביצועים מתקדמים באמצעות מספר frameworks. מיליוני שאילתות ביום נשלחות ממערכות שמפעילות קוד שהורכבו על ידי XLA. אנחנו נרגשים מהכיוון של OpenXLA ומקווים להמשיך לתרום לפרויקט הקוד הפתוח. אנחנו סבורים שהוא יהווה רכיב מרכזי בעתיד של AI/ML." – דייוויד נורמן, מנהל עיצוב תוכנה, Graphcore

הלוגו של Hugging Face

פרצוף מחבק

"קל להפעיל בקלות מודל כלשהו בצורה יעילה על כל חומרה היא אתגר טכני עמוק, וזו מטרה חשובה במשימה שלנו לדמוקרטיה של למידת מכונה טובה. ב-Hבוקing Face הפעלנו את האפשרות XLA למודלים ליצירת טקסט ב-TensorFlow והגענו להאצה של פי 100 בערך. בנוסף, אנחנו משתפים פעולה בשיתוף פעולה הדוק עם צוותי הנדסה בחברות Intel, AWS, Habana, Graphcore, AMD, Qualcomm ו-Google, ויוצרים גשרים בקוד פתוח בין frameworks לבין כל סיליקון, כדי להציע למשתמשי הקצה יעילות יוצאת מן הכלל דרך ספריית ה-Optimum שלנו. חברת OpenXLA מבטיחה אבני בניין סטנדרטיות שבאמצעותן אנחנו יכולים לפתח יכולת פעולה הדדית חיונית, ואנחנו מצפים בקוצר רוח לעקוב ולתרום!" – מורגן פונטוביץ', ראש תחום אופטימיזציה של למידת מכונה, Hugging Face

הלוגו של Intel

Intel

"ב-Intel, אנחנו מאמינים בגישה פתוחה ודמוקרטית ל-AI. מעבדים של Intel, מעבדי GPU, מאיצים של Habana Gaudi ותוכנת AI מבוססת oneAPI, כולל OpenVINO, מעבירים עומסי עבודה של למידת מכונה בכל מקום, ממחשבי-על בקנה מידה גדול ועד לפריסות גדולות בענן. יחד עם חברים אחרים ב-OpenXLA, אנחנו מנסים לתמוך בכלים מהדרים מבוססי-למידת מכונה מבוססי-תקנים, שמעודדים חדשנות במספר מסגרות וסביבות חומרה, כדי להאיץ את המחקר והמדע ששינו את העולם". – גרג לבנדר (Greg Lavender), סמנכ"ל בכיר ב-Intel, סמנכ"ל ראשי (CTO) ו-GM of Software & Advanced Technology Group

לוגו של Meta

Meta

"במחקר, ב-Meta AI השתמשנו ב- XLA, טכנולוגיית ליבה של פרויקט OpenXLA, כדי לאפשר מודלים של PyTorch עבור ספקי Cloud TPU, ולהשיג שיפורים משמעותיים בביצועים בפרויקטים חשובים. אנחנו מאמינים בקוד פתוח שמאיץ את קצב החדשנות בעולם, ואנחנו שמחים לקחת חלק בפרויקט OpenXLA." – סומית' צ'ינטלה (Soumith Chintala), מנהל/ת ראשי/ת, PyTorch

הלוגו של NVIDIA

NVIDIA

"כחברות מייסדת בפרויקט OpenXLA, NVIDIA מצפה לשיתוף פעולה בנושא חידושים בתחום ה-AI וה-ML עם קהילת OpenXLA. היא גם בטוחה שבזכות המעורבות הרבה והאימוץ של OpenXLA, מפתחי ML יפיקו תועלת מהתשתית המתקדמת בתחום ה-AI." - רוג'ר ברינגמן, סמנכ"ל, תוכנת Compiler, NVIDIA.

Contact

אם יש לך שאלות ישירות, אפשר לפנות למנהלים או לבעלים של האתר openxla.org.