Hardware Accelerating for Machine Learning

הרקע לפרויקט:

רקע לפרויקט: הרחבת חומרת מעבד להאצת אפליקציותמכונה לומדת.
עולם הטכנולוגיה מתפתח בקצב מסחרר, ועימו צומחים הביקושים לחישובים עוצמתיים יותר ויותר. אפליקציות למידת מכונה על מעבדי קצה - חישבוים שנעשים על מטריצות גודולות וחוזרות בלולאות שוב ושוב , מה שצורך הרבה אנרגיה וזמן עיבוד, מה שעלול להוביל לצווארי בקבוק ולפגוע בביצועים. הפרויקט "הרחבת חומרת מעבד להאצת אפליקציות עתירות חישוב" נועד להתמודד עם אתגר זה. מטרת הפרויקט היא לפתח פתרון חומרה חדשני המותאם במיוחד לצרכים של אפליקציות מערכות למידת מכונה. פתרון זה יאפשר להאיץ משמעותית את ביצועיהן של אפליקציות אלו תוך הפחתת צריכת האנרגיה והזמן הנדרשים.

הצורך בפתרון חומרה חדשני נובע מכמה גורמים:
האלגוריתמים המשמשים באפליקציות מערכות למידת מכונה מורכבים ודושים חישובים רבים על מטריצות גדולות , חישובים שלעיתים מורכבים שאינם ניתנים לביצוע בצורה יעילה על ידי מעבדים כלליים. אפליקציות אלו צריכות להיות זמינות ומהירות. עיכובים בזמן התגובה עלולים לפגוע משמעותית בחווית המשתמש ואף להוביל להפסדים כספיים.
צריכת האנרגיה של מעבדים כלליים הולכת וגדלה. הדבר גורם לחששות בנוגע להשפעה הסביבתית של טכנולוגיות אלו ולעלויות התפעול שלהן.

פתרון חומרה חדשני משולב עם מעבד קיים יוכל להתגבר על אתגרים אלו על ידי:
פיתוח ארכיטקטורת מעבד ייעודית המותאמת לצרכים ספציפיים של אפליקציות מערכות למידת מכונה. ארכיטקטורה זו תאפשר לנצל בצורה יעילה יותר את משאבי החישוב ותביא לשיפור משמעותי בביצועים.
פיתוח רעויונות חומרה\מקביליות חדשות להעלאת רמת בחישובים , ביחד עם מחשבה על חיסכון באנרגיה\בשטח. טכנולוגיות אלו יאפשרו להפחית את צריכת האנרגיה של המעבד תוך שמירה על ביצועים גבוהים. פיתוח ממשקים ותוכנות המאפשרים אינטגרציה חלקה של פתרון החומרה עם מערכות קיימות.
הפרויקט צפוי להוביל לפיתוח פתרון חומרה חדשני בעל השפעה משמעותית על עתיד הטכנולוגיה. פתרון זה יאפשר להאיץ את פיתוחן של אפליקציות מערכות למידת מכונה חדשות ומתקדמות, ויפתח אפשרויות חדשות בתחומים רבים, כגון:

מטרת הפרויקט:

המטרה לכתוב חומרה שתאיץ Deep learning Inference

תכולת הפרויקט:

למידה של קוד\אלגוריתם inference על מעבד קצה
ניתוח הקוד ומציאת הזמניות להאצה בחומרה
כתיבת קוד חומרה (ווירולוג like) - לבלוקים של חורה לחישוב מקבלי
התאמת קוד\אלגוריתם inference לחומרה החשה
סימולציות ובחינת ביצועים , תהליך איטרטיבי לשיפור החורה\תוכנה עד להשגת האצה משמעותית

קורסי קדם:

הפרויקט הוא בתחום של חומרת מחשב, ארכיטקטורת מחשבים , כתיבת קוד יעיל. הוא משלב יכולת ורצון להתפתח במספר נושאים משולבים בתחום המעבדים .
קורס ארכיטקטורת מחשבים , תכן לוגי , חומרה\תוכנה , אסמבלר

דרישות נוספות:

הפרויקט הוא בתחום של חומרת מחשב, ארכיטקטורת מחשבים , כתיבת קוד יעיל. הוא משלב יכולת ורצון להתפתח במספר נושאים משולבים בתחום המעבדים . על הסטודנט להרגיש נוח עם הנושאים הנ"ל, ורצון וסקרנות ללמודה ולהתמחות בהם

מקורות:

1. https://projects.iq.harvard.edu/files/rvmlpu-barc-2020.pdf
2. https://www.mdpi.com/2078-2489/14/2/64 search for 'A Survey on RISC-V-Based Machine Learning Ecosystem'