Memory Attached Neural-Network Inference Accelerator

הרקע לפרויקט:

רשתות נוירונים עמוקות הן הבסיס לאפליקציות רבות בחיינו כגון זיהוי פנים, עיבוד קול, ועיבוד שפה. מתוך הארכיטקטורות הקיימות כיום, ארכיטקטורה מבוססת מנוע קונבולוציה הינה הפופולארית ביותר בתחומים רבים ובעיקר בתחום עיבוד התמונה. ככל שרשתות אלו גדלות אנו נתקלים בשתי בעיות עיקריות: הראשונה היא צריכה של משאבי חישוב רבים. השניה היא שימוש רב בזיכרון. במהלך השנים התפתחו מאיצי רשתות שונות על מנת להתמודד עם בעיות אלו. מאיצים אלה מתחלקים בין שתי קטגוריות עיקריות:

1. Hardware accelerator for deep neural network training.
2. Hardware accelerator for deep neural network inference.

מטרת הפרויקט:

במעבדת ENICS פיתחנו את MANNIX שהוא מאיץ חומרה המיועד לקטגוריה השנייה (inference). על בסיס ידע שנצבר מפרויקטים קודמים, בפרוייקט זה ניקח את נעשה לפרוייקט upscale ונאפשר תמיכה במודלים המוגדרים כstate of the art ובתמונות בגודל מלא .

תכולת הפרויקט:

מטלות הסטודנטים בפרוייקט זה הן:

• תמיכה ברשתות CNN עם features בעלי מימדים לא ידועים.
• הוספת תמיכה בקוונטיזציה של מודל.
• דחיסת זיכרון באמצעות פיתרון חומרתי.

קורסי קדם:

קורס עקרונות של תכנון מערכות דיגיטליות (8383607), קורס מעגלי ומערכות VLSI דיגיטליים (8383621)

דרישות נוספות:

למידת מכונה ובפרט למידה עמוקה, ידע בסיסי בשפת ורילוג ושפת c

מקורות:

1. https://en.wikipedia.org/wiki/Convolutional_neural_network
2. https://arxiv.org/abs/1704.04861
3. https://arxiv.org/abs/1512.03385
4. https://www.tensorflow.org/lite/performance/post_training_quantization