גלובס - עיתון העסקים של ישראלאתר נגיש

מטא חושפת את "מחשב-העל המהיר בעולם" למחקר בינה מלאכותית. מה זה אומר?

ענקית הטכנולוגיה קוראת לזה "SuperCluster", והרעיון הוא שיהיה למחשב המדובר כוח חישובי עצום לעבד טריליוני פרמטרים בשניות בודדות ● מטא לא מסתפקת רק בהכרזת חזון, אלא רוצה להדהים את התעשייה ● מה אפשר לעשות עם פיתוח כזה, ומה התכנון העתידי שלה?

מחשב-העל של מטא AI Research SuperCluster (RSC) / צילום: מתוך ערוץ היוטיוב Meta AI
מחשב-העל של מטא AI Research SuperCluster (RSC) / צילום: מתוך ערוץ היוטיוב Meta AI

לפני מספר חודשים, מייסד ומנכ"ל חברת מטא (אתם כנראה עדיין זוכרים אותה כחברת פייסבוק), מארק צוקרברג, וסיפר על חזונו השאפתני לגבי המטא-וורס: בעשור הקרוב, כמיליארד משתמשים יהיו בתוך המטא-וורס, העולמות הווירטואליים המתגבשים. כדי להצליח להתמודד עם חוויות המשתמש המשמעותיות האלה ולשם עוד מטרות חשובות - מטא עובדת בשנתיים האחרונות על מחשב-על מתקדם, כדי לשפר את הביצועים שלה.

בהודעה בבלוג החברה שפורסמה, החברה חושפת את ה-AI Research SuperCluster (RSC) - מחשב-על שהתחילה לבנותו בשנת 2020, והבנייה שלו תושלם במהלך השנה, שלפי החברה כיום הוא בין המחשבים המהירים בעולם, ובסיום הבנייה יהיה "המחשב הגדול, המהיר והמתקדם בעולם". על-פי מטא, המחשב יוכל להריץ חישובים בהיקף עצום, לעבד טריליוני פרמטרים בשניות ולאמן מודלים של בינה מלאכותית בסדר גודל "שטרם נראה כמותו בתעשייה". 

מחשב העל של מטא AI Research SuperCluster (RSC) / צילום: מתוך ערוץ היוטיוב Meta AI

המחשב נמצא כבר בשימוש היום. על-פי ההודעה, מטא אומרת שהחוקרים שלהם כבר החלו להשתמש ב-RSC כדי להכשיר מודלים גדולים בעיבוד ניתוב לשוני פיזיולוגי (NLP) וראייה ממוחשבת, במטרה שבעתיד יעשו זאת עם טריליוני פרמטרים.

מטא אומרת כי המחשב יוכל להריץ קוינטיליוני משימות (משמע, 18 אפסים), יוכל לאמן בינה מלאכותית בכמויות דאטה ענקיות ולהוות בסיס למערכות ראייה ממוחשבת, עיבוד שפה טבעית וזיהוי דיבור. כמובן שכל אלה יעזרו בפיתוחים שונים כמו חוויות AR רלוונטיות ועד פריצות דרך בתחומי מחקר מדעי ועוד. כאמור, הפיתוח הזה ישפיע על בניית טכנולוגיות עבור המטא-וורס, כי החזון נשען על מערכות מתקדמות של בינה מלאכותית שצריך לפתח.

המחשב המדובר יאפשר לחוקרי בינה מלאכותית של מטא לבנות מודלים משופרים ומדויקים יותר בתחומים האלה. לפי מטא, "צוותי הבינה המלאכותית של מטא כבר החלו לאמן מודלים ענקיים לצורכי מחקר במחשב העל, והם ממשיכים להשקיע בפיתוח תחום ה- Self-supervised learning בשאיפה לקדם את תעשיית הבינה המלאכותית כולה", לשון ההודעה. 

מחשב העל של מטא AI Research SuperCluster (RSC) / צילום: מתוך ערוץ היוטיוב Meta AI

קפיצת מדרגה של ממש 

כדי להבין את הקפיצה המשמעותית שמטא עוברת כאן, צריך להבין את התהליך. בשנת 2017 מטא בנתה את הדור הראשון של תשתיות מחשוב בעלות ביצועים גדולים. אז בזמנו דובר על מערכת של 22 אלף NVIDIA V100 Tensor Core GPUs - למעשה, המערכת ידעה לבצע 35 אלף עבודות אימון ביום. אז היא הבינה שהיא שדרך יעילה יותר לאמן את המודלים היא על גבי כרטיסים גרפיים (GPU), ולא מעבד רגיל (CPU), כי זה מהיר יותר. בשנת 2020 מטא החליטה שהדרך הטובה ביותר להתקדם מהנקודה הזו היא לתכנן תשתית מחשוב חדשה ולנצל את היתרונות של טכנולוגיית GPU ועוד.

מטא מסבירה כי מחשב-על נבנה משרת המשלב מספר GPUs, שמחוברים באמצעות רשת בעל ביצועים גבוהים כדי לאפשר את התקשורת שלהם. ולכן RSC אמור להוות קפיצת מדרגה של ממש: RSC כולל כיום סך של 760 מערכות NVIDIA DGX A100, שזה בעצם השרת הבסיסי של אנבידיה בעל 8 GPU על אותו הלוח - משמע, 6,080 מעבדים גרפיים בסך-הכול. 

מחשב העל של מטא AI Research SuperCluster (RSC) / צילום: מתוך ערוץ היוטיוב Meta AI

כדי שעיבוד הנתונים יהיה יעיל ומהיר במיוחד, והחיבור בין המעבדים הגרפיים יהיה יעיל, מטא אומרת שהיא משתמשת ברשת NVIDIA Quantum InfiniBand - שזה בעצם סיב אופטי שמעביר את הנתונים במהירות של 200GB בשנייה. כך זה נשאר מהיר ויעיל ומאפשר את תעבורת הנתונים. 

הטכנולוגיה הזו, InfiniBand (טכנולוגיית האצת התקשורת של מחשב-העל), פותחה במרכז הפיתוח הישראלי של אנבידיה. 

על-פי מטא, האחסון כולל 175 פטה-בייט של Pure Storage FlashArray כולל 46 פטה-בייט זיכרון מטמון ו-10 פטה-בייט של Pure Storage FlashBlade. כשיושלם תהליך הבנייה, לפי החברה, רשת InfiniBand תחבר 16 אלף כרטיסים, מה שיהפוך אותה לאחת הרשתות הגדולות ביותר שנפרסו עד כה. 

Research SuperCluster / צילום: יח''צ מטא

לכל זה מצטרפת הקורונה שהשפיעה רבות על כך. מגפת הקורונה גרמה לזה להפוך לפרויקט "משלט רחוק", והצוות היה צריך לעבוד מהבתים עד שזה הגיע לעניין פיזי. לצד זאת, הקורונה הובילה גם לבעיות בשרשרת האספקה, מה שהקשה על החברה להשיג שבבים או רכיבים אחרים.

עוד כתבות

עובדים מבוגרים טובים למקום העבודה / צילום: Shutterstock

המחקר שמנפץ את המיתוסים: עובדים מבוגרים טובים למקום העבודה

עולים יותר למעסיק? מתקשים בטכנולוגיה? מחקרים מגלים שהמיתוסים שמניעים את הגילנות במקום העבודה רחוקים מהמציאות ● בעידן שבו פלח האוכלוסייה המבוגר הוא הצומח ביותר, לארגונים כדאי לעודד העסקת עובדים מבוגרים

טל גרנות-גולדשטיין, מנכ''לית HOT / צילום: איל יצהר

עלייה קלה בהכנסות הרבעוניות של הוט הודות לשיפור במגזר העסקי

ההכנסות הרבעוניות של הוט גדלו ל-1.03 מיליארד שקל, על אף שחיקה בהכנסות במגזר הטלוויזיה והאינטרנט ● הפעילות הסלולרית צמחה במעט, וגם מכירות ציוד הקצה, אך ליבת הפעילות בשוק הקווי נותרה יציבה

ספקיות הטלוויזיה מגבירות תחרות / צילום: Shutterstock

פרטנר והוט חותכות מחירים, דיסני מגיעה: המפץ בטלוויזיה יצא לדרך, ואף אחד לא יודע איך הוא יסתיים

רגע לפני כניסת ערוץ הטלוויזיה של דיסני ומיזם FREE TV מבית קשת, הוט ופרטנר מורידות מחירים ומציעות חבילות טלוויזיה בעשרות שקלים בודדים ● האם זו תהיה מהפכת הסלולר החדשה, ואיך זה ישפיע על הרווחיות של החברות

דניאל ספיר / צילום: איל יצהר

סלקום במגמת שיפור עם רווח נקי של 28 מיליון שקל ברבעון הראשון

הטיסות לחו"ל שיפרו את ההכנסות של סלקום משירותי נדידה, וגם פעילות הסיבים והאינטרנט מניבה פירות ● ההכנסות מציוד קצה בירידה

ג'יימי דיימון, מנכ''ל ג'יי.פי מורגן / צילום: Associated Press, Michel Euler

בעלי המניות של JP מורגן דוחים מענק של 50 מיליון דולר למנכ"ל ג'יימי דיימון

רק 31% מבעלי המניות הצביעו בעד תוכנית השכר שהבנק נתן למנכ"ל ● ההצבעה לא מחייבת את דיימון להחזיר את המענק

אדי ברונשטיין, הבעלים של סנטר קאר / צילום: תמונה פרטית

בעל סוכנות רכבי יד שנייה שמנסה להתחרות בשחקנים הגדולים בתחום: "המדינה לא מבינה שבסופו של דבר המחיר הסופי משורשר לצרכן"

אדי ברונשטיין, בן 52 מאזור, נשוי+3 ● הבעלים של סנטר קאר ● "המדינה מצד אחד נותנת ומצד שני לוקחת. מצד אחד משרדי התחבורה והכלכלה מעודדים את הענף, ומצד שני רשות המסים מערימה קשיים ונוקטת קו ניצי בקשר לתחום" ● גלובס שם את הסיוע לעסקים קטנים ולעצמאים במרכז 

נדב וגדעון קייסון, מייסדי ריברסייד / צילום: מארקו אוקוייזן

מה מחפש ביל גייטס אצל ריברסייד הישראלית

הסטארט-אפ ריברסייד פיתח פלטפורמה שמאפשרת להקליט פודקאסטים באיכות שזהה לזו שבאולפן הקלטות מקצועי ● בין הלקוחות שלו נמצאים: מישל אובמה, הילרי קלינטון וביל גייטס ● וגם: היזם והמשקיע אראל מרגלית ומכון המחקר מיגל הובילו תחרות סטארט-אפים הפועלים בעולם האגרו-וולטאי ● אירועים ומינויים

השרים עודד פורר ואביגדור ליברמן / צילום: רפי קוץ

שרי האוצר והחקלאות כבר חתמו על הצווים, אז למה רפורמת החקלאות תקועה?

משרד החקלאות מתמודד עם שני אתגרים עיקריים בניסיון לקדם את רפורמת הייבוא של הפירות והירקות ● הראשון הוא הובלת שינוי מהותי בתקנות הגנת הצומח, שמגבילות את התחרות בענף ● השני הוא להגיע להסמכות עם יו"ר ועדת הכלכלה מיכאל ביטון

הנפקת חברת פיוניר / צילום: Nasdaq, Inc

פיוניר משיקה מוצר חדש לחנויות עצמאיות ונכנסת לשוק של סטרייפ וראפיד

אחרי שהתמחתה במשך שנים בהעברת תשלומים לסוחרים בפלטפורמות מסחר מקוון, פיוניר משיקה פתרון סליקה לבעלי חנויות מקוונות עצמאיות באסיה ● האם יש לה סיכוי בתחום שנשלט ע"י אחד הסטארט-אפים בעלי השווי הגבוה בעולם?

מפעל יפאורה ברחובות / צילום: אייל פישר

מס הסוכר משפיע על הצריכה? ירידה של 20% במכירות משקאות יפאורה

חברת האם של יפאורה, קרור אחזקות, הציגה בדוחותיה ירידה של 20.5% בהכנסות ממכירות המשקאות בחברת הבת ● לטענת קרור, מדובר בהשפעה של מס הסוכר, שקובע תוספת של שקל על ליטר משקה שבו שיעור הסוכר גבוה או שעומד על 5 גרם ל-100 מ"ל משקה

ג'רום פאוול, נגיד הפד האמריקאי / צילום: Reuters

פאוול: הפדרל ריזרב נחרץ במאבק להורדת האינפלציה בארה"ב

ג'רום פאוול, נגיד הבנק המרכזי האמריקאי, מביע ביטחון ביכולת לרסן את עליית המחירים בלי לגרום למיתון - אבל מצביע גם על האתגרים

סופר-פארם / צילום: בר - אל

קבוצת מקאן זכתה בתקציב הפרסום של סופר-פארם בהיקף של כ-80 מיליון שקל

הקבוצה תלווה את רשת הפארם בכל הקשור לרכישת מדיה, אינטרנט, פרסום מבוסס תוצאות וליווי אסטרטגי ● המשרד החדש של רם ברוך ונדב פרסמן יטפל בקריאטיב ● תקציב סופר-פארם טופל ב-30 השנים האחרונות בבאומן-בר-ריבנאי

מייסדי דארו: גילה חייט, אלעד שפיגלמן ואביתר בן ארצי / צילום: ארן גילאור

"הטכנולוגיה היא כלי לעשות צדק": הסטארט־אפ המשפטי של מתמחי העליון

דארו, סטארט-אפ ישראלי שנוסד לפני כשנתיים, פיתח מערכת בינה מלאכותית המנטרת מהאינטרנט עבירות בעלות משמעות ציבורית ● מטרת המיזם: לקדם אכיפה של ההפרות דרך תביעות ייצוגיות

בורסת וול סטריט / צילום: Shutterstock

וול סטריט ננעלה בירידות חדות: הנאסד"ק צלל ב-4.7%, הדאו ג׳ונס ביום הגרוע ביותר מאז 2020

מדדי המניות המרכזיים בניו יורק ירדו ב-3.5%-4.7% ● טרגט צונחת ב-26% לאחר שפרסמה דוחות מאכזבים ומושכת למטה את כל סקטור הקמעונאות ● באירופה ננעל המסחר בירידות של עד 1.3% במדדי המניות המובילים

זוהר לבקוביץ - יזם עובד בהייטק / צילום: איל יצהר

"צריך לחזור לנורמליות": זוהר לבקוביץ' חושב שהמשכורות בהייטק יצאו משליטה

יזם ההייטק זוהר לבקוביץ' חושב שהטלטלה שעוברת כעת על הענף היא רק "תחילת התיקון של הסטייה" שליוותה אותו בשנים האחרונות ● הצצה לפרויקט סוף השבוע של גלובס שיתפרסם במוסף G ויעסוק במצבו של ההייטק הישראלי ובהשלכות

זהבית כהן, מנהלת קרן AMI / צילום: רמי זרנגר

הקרן של זהבית כהן מכרה את רוב החזקותיה בגלובל-אי טרם הצניחה במניה

שוויה של חברת הטכנולוגיה הישראלית צנח בכ-70% מהשיא, והשבוע היא פרסמה דוחות והפחיתה תחזיות ● קרן AMI שמובילה זהבית כהן השקיעה 20 מיליון דולר בגלובל-אי טרם הנפקתה בוול סטריט, ונותרה עם פחות מ-2% מהמניות ועם רווח המוערך בכ-700 מיליון דולר

מטוס אל על / צילום: מיכל רז חיימוביץ

ההתאוששות בענף התיירות הזניקה את הכנסות אל על, אך הפסדיה עדיין כבדים

סיימה את הרבעון הראשון בהפסד של 66 מיליון דולר, אך שואבת עידוד מהתנופה בפעילות בחודשים האחרונים - שחזרה לקצבים שהיו לפני פרוץ הקורונה

העיר מודיעין. כלים ליצירת תכנון גמיש יותר / צילום: Shutterstock

תסתכלו על פריז ותחשבו על ת"א: איך להגדיל את הצפיפות גם בלי לבנות מגדלים

המועצה הארצית לתכנון ובנייה אישרה בשבוע שעבר את תיקון 4 לתמ"א 35, המאפשר לצופף עוד יותר את המרחב האורבני בישראל ● כיצד זה יקרה בפועל, וכיצד ייראו הערים שלנו בעתיד

מתוך הבלוג של חברת OPENAI

הטכנולוגיה שהופכת משפט קצר לציור מרהיב תוך שניות בודדות

הטכנולוגיה DALL·E 2 משתמשת בבינה מלאכותית כדי ליצור תמונות או יצירות אמנות ריאליסטיות מתיאור טקסט שנכתב באנגלית – והרשת סוערת במיוחד על היכולות המרשימות המוצגות ●  מדובר בפיתוח של חברה אמריקאית למחקר בינה מלאכותית, OpenAI

מיכל וולדיגר, הציונות הדתית / צילום: נועם מושקוביץ, דוברות הכנסת

האם עיתונאים ונציגי ציבור מודרים מדיוני ועדת סל התרופות?

ועדת סל התרופות חשופה לתקשורת, ומבקר המדינה דווקא שיבח זאת. ועדיין אפשר לשפר ● המשרוקית של גלובס