סביבה עסקית פתוחה של רכיבי תשתית של למידת מכונה (ML), ניידים וברי-הרחבה, שהופכים את פיתוח למידת המכונה לפשוטים יותר על ידי איחוי הכלים בין מסגרות בחזית לבין קצוות עורפיים של חומרה. פיתוח של מודלים מובילים בתחום של בניית מודלים, תוכנה וחומרה של AI.
מהדר למידת מכונה (ML) עבור יחידות GPU, מעבדים ומאיצים של למידת מכונה.
מערכת הפעלה ניידת לייצוא של framework, לקלט מהדר ולהורדה שלא תלוית חומרה.
ממשק לא תלוי בחומרה וב-framework שמיועד למהדרים של למידת מכונה ולזמני ריצה.

הצטרפות לקהילת OpenXLA

מצטרפים לרשימת התפוצה של openxla-nounce כדי לקבל חדשות על גרסאות, אירועים ועדכונים גדולים אחרים.
הצטרפו לרשימת הדיוור של openxla-discuss לדיונים על עיצוב ופיתוח.
לבדוק הערות מפגישות קודמות ולהוסיף ליומן את הפגישות הבאות.
ביקור בפרויקט OpenXLA ובמאגרים שלו ב-GitHub.

תרומה ל-OpenXLA

המדריכים האלה יעזרו לכם להתחיל כתורמים ל-OpenXLA.
XLA (Accelerated Linear Algebra) הוא מהדר בקוד פתוח ללמידת מכונה. המהדר XLA משתמש במודלים מ-frameworks פופולריות כמו PyTorch, TensorFlow ו-JAX, ומבצע אופטימיזציה של המודלים לביצוע ביצועים גבוהים בפלטפורמות חומרה שונות, כולל יחידות GPU, מעבדים ומאיצים של למידת מכונה (ML).
אתם יכולים להתחיל בפיתוח פרויקט XLA.
StableHLO היא פעולה שמוגדרת לפעולות ברמה גבוהה (HLO) במודלים של למידת מכונה (ML). למעשה, מדובר בשכבת ניידות בין מסגרות ML שונות ומהדרים של למידת מכונה: מסגרות ML שיוצרות תוכניות StableHLO תואמות למהדרים של ML שצורכים תוכניות StableHLO.
מסמכי תיעוד של פעולות XLA ו-StableHLO.

שותפים מהתחום

פרויקט OpenXLA פותח בשיתוף פעולה על ידי ארגוני חומרה ותוכנה מובילים של למידת מכונה.
הלוגו של Alibaba

אליבבה

"ב-Alibaba, לקוחות של שירות GPU של Elastic GPU ממנפים את OpenXLA לאימון ולהצגה של דגמים גדולים של PyTorch. הבחנו בשיפורים משמעותיים בביצועים של לקוחות המשתמשים ב-OpenXLA, במהירויות גבוהות של 72% ב-GPT2 וב-88% ב-Swin Transformer במעבדי GPU של NVIDIA. אנחנו גאים להיות בין המייסדים של פרויקט OpenXLA ולעבוד יחד עם קהילת הקוד הפתוח כדי לפתח מהדר מתקדם של למידת מכונה שיספק ביצועים וחוויית משתמש ברמה גבוהה ללקוחות Alibaba Cloud." – יאנגצ'ינג ג'יה, סמנכ"ל, AI וניתוח נתונים, Alibaba

הלוגו של Amazon Web Services

שירותי האינטרנט של Amazon

"אנחנו שמחים להיות בין המייסדים של פרויקט OpenXLA שיעניק את הגישה לתשתית AI איכותית, ניתנת להרחבה וניתנת להרחבה, וגם לשיתוף פעולה נוסף בתוך קהילת הקוד הפתוח לקידום חדשנות. הלקוחות שלנו ב-AWS מתאימים את האפליקציות שלהם לבינה מלאכותית גנרטיבית ב-AWS Trainium וב-Inferentia, ונוירו SDK מסתמך על XLA כדי לבצע אופטימיזציה של מודלים של למידת מכונה (ML) לביצועים גבוהים ולביצועים הטובים ביותר לכל וואט. בזכות הסביבה העסקית האיתנה של OpenXLA, המפתחים יכולים להמשיך לפתח חידושים ולספק ביצועים מעולים באמצעות תשתית למידת מכונה בת-קיימא, ולדעת שהקוד שלהם ניתן לשימוש בכל סוגי החומרה שלהם." – נאפה בשרה (Nafea Bshara), סמנכ"לית ומהנדסת בכירה, AWS

הלוגו של AMD

AMD

"אנחנו נרגשים לקראת הכיוון העתידי של OpenXLA במשפחה הרחבה של מכשירי AMD (מעבדים (CPU), GPU, AIE) ואנחנו גאים להיות חלק מהקהילה הזו. אנחנו מעריכים פרויקטים עם ניהול פתוח, יכולת יישום גמישה ורחבה, תכונות חדשניות וביצועים מעולים ומצפים להמשך שיתוף הפעולה להרחבת הסביבה העסקית של הקוד הפתוח למפתחי למידת מכונה." – אלן לי, סמנכ"ל ארגוני, פיתוח תוכנה, AMD

לוגו של Anyscale

כל קנה מידה

"Anyscale מפתח טכנולוגיות פתוחות וניתנות להתאמה כמו ריי כדי לעזור למומחי AI לפתח את האפליקציות שלהם מהר יותר ולהפוך אותן לזמינות למשתמשים רבים יותר. לאחרונה שיתפנו פעולה עם פרויקט ALPA כדי להשתמש ב-OpenXLA כדי להציג אימון מודלים של ביצועים גבוהים עבור מודלים גדולים של שפה (LLM). אנחנו שמחים להשתתף ב-OpenXLA ושמחים לגלות שהמאמצים האלה של קוד פתוח מאפשרים להריץ עומסי עבודה (workloads) של AI במגוון רחב יותר של פלטפורמות חומרה, ובכך מצמצמים את חסמי הכניסה, מפחיתים את העלויות ומקדמים את תחום ה-AI מהר יותר". - פיליפ מוריץ, מנהל טכנולוגיות ראשי, Anyscale

הלוגו של Apple

תפוח

Apple Inc. מתכננת, מייצרת ומשווקת סמארטפונים, מחשבים אישיים, טאבלטים, גאדג'טים לבישים ואביזרים, ומוכרת מגוון שירותים קשורים.

הלוגו של Arm

קבוצה

"פרויקט OpenXLA מציין ציון דרך חשוב בדרך לפשט את הפיתוח של תוכנת למידת מכונה. אנחנו תומכים באופן מלא במשימה של OpenXLA ומצפים למנף את היציבות והסטנדרטיזציה של OpenXLA במפות הדרכים לחומרה ולתוכנה של Arm® NeoverseTM." – פיטר גרינהאל, סגן נשיא לטכנולוגיה ועמית, Arm.

הלוגו של Cerebras

סרברס

"ב-Cerbras אנחנו מפתחים מאיצים של AI, שמטרתם להפוך את האימון של המודלים הגדולים ביותר של AI לפשוט ולמהיר. המערכות והתוכנות שלנו פוגשות את המשתמשים בכל מקום שבו הם נמצאים OpenXLA עוזר לנו להרחיב את פוטנציאל החשיפה של המשתמשים ולהאיץ את הזמן לפתרון הבעיה, באמצעות ממשק משותף למסגרות של למידת מכונה ברמה גבוהה יותר. אנחנו שמחים מאוד לראות שהסביבה העסקית של OpenXLA זמינה ל-GitHub, לתרומה ולשימוש נרחב יותר בקהילה." – אנדי הוק, סמנכ"ל ומנהל מוצר, Cerebras Systems.

הלוגו של Google

Google

"תוכנות קוד פתוח נותנת לכולם הזדמנות לעזור ולפרוץ דרך ב-AI. ב-Google אנחנו משתפים פעולה בפרויקט OpenXLA כדי להעמיק את המחויבות שלנו להטמעה של קוד פתוח ולעודד אימוץ של כלי AI שמעלה את הסטנדרטים לביצועים של למידת מכונה, פותר את חוסר התאימות בין ה-frameworks והחומרה, וניתן להגדיר אותו מחדש כדי לתת מענה לתרחישי השימוש המותאמים של המפתחים. אנחנו שמחים לפתח את הכלים האלה עם קהילת OpenXLA כדי לאפשר למפתחים להתפתח בשכבות רבות ושונות של סטאק ה-AI". – ג'ף דין, עמית בכיר וסגן נשיא בכיר, מחקר ב-Google ו-AI

הלוגו של Graphcore

גרף

"בצינור עיבוד הנתונים של הידור IPU נעשה שימוש ב- XLA מאז שהוא הפך לציבורי. הודות לעצמאות וליציבות של הפלטפורמה של XLA, היא מספקת חזית אידיאלית ליצירת סיליקון חדשני. הגמישות של XLA אפשרה לנו לחשוף את תכונות החומרה החדשניות של IPU ולהשיג ביצועים מתקדמים באמצעות מספר מסגרות. מיליוני שאילתות ביום נשלחות על ידי מערכות שמפעילות קוד, שנלקחו על ידי XLA. אנחנו נרגשים מהכיוון של OpenXLA ומקווים להמשיך ולתרום לפרויקט הקוד הפתוח. אנחנו סבורים שהוא יהווה רכיב מרכזי בעתיד של AI/ML". – דיוויד נורמן, מנהל עיצוב תוכנה, Graphcore

הלוגו של Hugging Face

פרצוף מחבק

"היכולת להפעיל בקלות כל מודל בצורה יעילה בכל חומרה היא אתגר טכני עמוק, וזו מטרה חשובה במשימה שלנו לדמוקרטיזציה של למידת מכונה טובה. ב-Huging Face, הפעלנו את XLA למודלים ליצירת טקסט ב-TensorFlow, והוספנו מהירות של פי 100~. בנוסף, אנחנו משתפים פעולה הדוק עם צוותי הנדסה בחברות Intel, AWS, Habana, Graphcore, AMD, Qualcomm ו-Google, ובונים גשרים בקוד פתוח בין frameworks לבין כל סיליקון, כדי להציע למשתמשי הקצה יעילות מובנת לשימוש באמצעות ספריית Optimum שלנו. חברת OpenXLA מבטיחה אבני בניין סטנדרטיות שבאמצעותן אפשר ליצור יכולת פעולה הדדית הכרחית, ומצפים בקוצר רוח לעקוב ולתרום" – מורגן פונטוביץ', ראש תחום אופטימיזציה של למידת מכונה, חיבוק פנים

הלוגו של Intel

Intel

"ב-Intel אנחנו מאמינים בגישה פתוחה ודמוקרטית ל-AI. מעבדים של Intel, יחידות GPU, מאיצים של Havana Gaudi ותוכנות AI מבוססות-OneAPI, כולל OpenVINO, מניעים עומסי עבודה של למידת מכונה בכל מקום, ממחשבי-על גדולים ועד לפריסות גדולות בענן. יחד עם חברים אחרים ב-OpenXLA, אנחנו מנסים לתמוך בכלים מבוססי-סטנדרטים של מהדר למידת מכונה (ML) מבוססי-רכיבים, שיוצרים חדשנות במספר מסגרות וסביבות חומרה, כדי להאיץ את המהירות של מחקר ומדע שמשנים את העולם". – גרג לבנדר (Greg Lavender), סמנכ"ל בכיר ב-Intel, סמנכ"ל ראשי ו-GM של Software & Advanced Technology Group.

הלוגו של Meta

Meta

"במחקר של Meta AI השתמשנו ב- XLA, טכנולוגיית ליבה של פרויקט OpenXLA, כדי לאפשר מודלים של PyTorch עבור Cloud TPU והצלחנו לשפר משמעותית את הביצועים בפרויקטים חשובים. אנחנו סבורים שקוד פתוח מאיץ את קצב החדשנות בעולם, ואנחנו שמחים לקחת חלק בפרויקט OpenXLA". – סומית' צ'ינטלה (Soumith Chintala), מתחזק ראשי, PyTorch

הלוגו של NVIDIA

NVIDIA

"כאחת המייסדות של פרויקט OpenXLA, NVIDIA מצפה לשיתוף פעולה בנושא פיתוחים של AI/ML עם קהילת OpenXLA. היא החיובית: בזכות המעורבות והאימוץ הרחב של OpenXLA, מפתחי למידת מכונה יהנו בעזרת תשתית AI מתקדמת." – רוג'ר ברינגמן, סמנכ"ל, Compiler Software, NVIDIA.