פרויקטי גמר - הנדסת מחשבים - תואר ראשון - תכן חומרה תשפ"ד
הרקע לפרויקט:
כיום מרצפים הפכו למשהו מאוד זמין והם מוציאים כמויות אדירות של מידע, כ 10 מליון דגימות זרם בשנייה (10MHz). על מנת להמיר את הזרמים לבסיסים ולהתמודד עם המידע מנתחים אותו באמצעות GPU-ים חזקים ויקרים ומידע ממרצפים רבים וחזקים. ההצעה של הפרוייקט היא באמצעות רשת נוירונים לתת תרגום מיידי לזרמים שמוציא המרצף לבסיסים. כאשר מדובר במרצף יחיד כאמור, אין צורך להתחרות על כוח עיבוד, רק לעמוד בדרישה של ניתוח בקצב של 10MHz כדי לנתח את המידע שיוצא מהמרצף בזמן אמת ולהוציא בסיסים בזמן אמת.
מטרת הפרויקט:
מטרת הפרוייקט היא לממש רשת נוירונים שתבצע base calling של גינומים בקצב שיתאים ל real time של מרצף.
תכולת הפרויקט:
להבין את האלגוריתם שבעזרתו מבוצע base calling, להבין איך עובדת רשת נוירונים, לממש את רשת הנוירונים בחומרה כך שתבצע את האלגוריתם ולהדגים פעולה.
קורסי קדם:
מעגלים משולבים
מעגלים אלקטרוניים ספרתיים
דרישות נוספות:
ידע בורילוג או קורס ב DDP
מקורות:
CoViT: Real-time phylogenetics for the SARS-CoV-2 pandemic using Vision Transformers
הרקע לפרויקט:
פעולות על מטריצות קריטיות במערכות חישוב (* עיבוד אותות, תקשורת, קריפטוגרפיה, למידת מכונה). אמנם ישנן מערכות חישוב כגון GPUים המותאמות במידה מסוימת להיות יעילות עבור פעולות אלו (שחלוף, מכפלת מטריצות, כפל וקטור במטריצה DOT-PRODUCT וכו', TRACE) הן לא יעילות עבור כולן ועבור גדלים וייצוגים מסוימים, והן יקרות או לא מתאימות לשילוב בכל מערכת חישוב או סביבה.
בפרויקט זה אנו נתכנן מאיצים מיוחדים לפעולות אלו, נשלב אותם בסביבות מעבדים גנריים ונבדוק הפעלת אלגוריתמים מתקדמים ושיפור הביצועים באפליקציות קצה.
מטרת הפרויקט:
ניתוח האצה על החמרה וגם בסביבת הפעלת תכנה. בניית פרימיטיביים יעילים העושים שימוש במשאבי החישוב המודולריים של המעבד\ארכיטקטורה הגנרית שלנו.
תכולת הפרויקט:
הסטודנטים יעבדו על גבי ארכיטקטורת מעבד מתקדמת וגנרית הניתנת להרחבה, יבנו מקרויים של ISA ותיאור ה HIGHLEVEL קוד שלהם (C). לבסוף עבור הפרימיטיביים הנמוכים ביותר יבנו קוד חמרה (לא הכרחי). החלק המשמעותי בפרויקט יהיה הרצת אלגוריתמים מתקדמים שבחרנו * בקוד בשפה גבוה (C) על גבי הסביבה, בחינת שיפור ביצועים, השוואה וניתוח.
קורסי קדם:
קורסי ארכיטקטורה או ארכיטקטורה מתקדמת (מומלץ אך לא חובה ויכולים לקחת בסמסטר א)
דרישות נוספות:
חובה יכולות טכניות, מימוש קוד והבנת מערכות מבוססות מעבד.
יכולת הפשטה והבנת עיקר ותפל –הסטודנטים ייבחנו גם ביכולתם לנתח אלגוריתמים וסיבוכיות ללא הכרת האפליקציה לעומק. ולכן יתאימו סטודנטים יצירתיים ושאפתניים.
יכולות תכנותיות גבוהות והבנת קוד.
נכונות להיקף עבודה משמעותי.
מקורות:
יינתנו למתאימים ספרי שימוש בפלטפורמה שלנו ומקורות מדויקים לכל פרימיטיב שנבנה
הרקע לפרויקט:
בחמשת השנים האחרונות חלה התקדמות משמעותית במודלים ללמידה עמוקה. מודל הTransformer המבוסס על מנגנון הAttention הוא הגורם המשמעותי ביותר לכך. על אף ההתקדמות, מודל זה דורש משאבי חומרה רבים. הגורמים המרכזיים לכך הם כמות הפרמטרים (GPT3 למשל דורש 175 מיליארד פרמטרים), שימוש בייצוג floating point (IEEE 754) ושימוש בפונקציית ה softmax.
מטרת הפרויקט:
בפרוייקט זה נחקור שיטות שונות למימוש יעיל של פונקציית הsoftmax. המשתתפים ילמדו על שיטות מימוש שונות החל מרמת האלגוריתם, דרך מימוש בחומרה ולבסוף מדידת תוצאות. תוך כדי הפרוייקט הסטודנטים יחקרו את ההשפעה של מימוש השיטות השונות על המטריקות:(PPA) Power, Performance, Area.
תכולת הפרויקט:
- כתיבת אלגוריתם יעיל לביצוע פעולת softmax
- מימוש חומרתי בשפת ורילוג של האלגוריתם המוצע
- סינטזה למימוש החומרתי ומדידת תוצאות
- בדיקת נכונות ברמת הGate-level
- סינטזה לכרטיס FPGA
- מדידת תוצאות על כרטיס הFPGA
קורסי קדם:
מעגלים אלקטרוניים ספרתיים (83308), מעבדה למעגלים אלקטרוניים ספרתיים (83315), מעגלים משולבים ספרתיים (83313)
דרישות נוספות:
שפת ורילוג, ידע בלמידת מכונה, כתיבת קוד בשפת C
מקורות:
- I. Kouretas and V. Paliouras, "Simplified Hardware Implementation of the Softmax Activation Function," 2019 8th International Conference on Modern Circuits and Systems Technologies (MOCAST), Thessaloniki, Greece, 2019, pp. 1-4, doi: 10.1109/MOCAST.2019.8741677.
- Y. Gao, W. Liu and F. Lombardi, "Design and Implementation of an Approximate Softmax Layer for Deep Neural Networks," 2020 IEEE International Symposium on Circuits and Systems (ISCAS), Seville, Spain, 2020, pp. 1-5, doi: 10.1109/ISCAS45731.2020.9180870.
- Nilsson, Peter, Ateeq Ur Rahman Shaik, Rakesh Gangarajaiah and Erik Hertz. “Hardware implementation of the exponential function using Taylor series.” 2014 NORCHIP (2014): 1-4. https://www.eit.lth.se/sprapport.php?uid=805