רובוטים יכולים לשקר

בניסויי סריקות שנערכו במספר קבוצות רובוטיקה בעולם על מנת לבחון ולהתמודד עם השפעת רובוטים זדוניים על רשתות רובוטיות אוטונומית, הצליחו החוקרים להפעיל רובוטים זדוניים כך שיגרמו לרובוטים האמינים להחמיץ את המטרה אותה היו צריכים למצוא. "רוב האלגוריתמים הקלאסיים בתחום הרובוטיקה מניחים שהרובוטים יכולים לתקשר בצורה רציפה ביניהם, ושהם כולם דוברי אמת. אבל רובוטים יכולים גם לשקר", מבהירה ד"ר מיכל ימיני. "מי שרוצה לפגוע במערכת יכול לשתול רובוט או להשתלט על התוכנה שלו, ולגרום לו לשקר לרובוטים האחרים. במתקפה מרושעת יותר, כמו זו שתוארה באחד הניסויים, רובוט זדוני אחד יכול להעמיד פנים שיש לו מספר זהויות ושהוא רובוטים רבים, ואז כשיש לו תמיכה מכמה מקורות - כל המערכת הולכת אחריו. הנושא של תקשורת ואמינות הולך יד ביד: אם הסוכן אמין אני יכולה להיעזר בו כדי לשפר את התקשורת, אבל אם הוא סוכן שקרן - הוא יכול להוליך אותי שולל".

ד"ר מיכל ימיני חוקרת רשתות אופטימיזציה ולמידה מבוזרת, עם ניתוקי תקשורת וסוכנים שקרנים. היא החלה את לימודי התואר הראשון שלה כבר בתיכון, במסגרת התוכנית לנוער מוכשר במתמטיקה של אוניברסיטת בר-אילן, סיימה תואר ראשון בהנדסת מחשבים בטכניון והמשיכה למסלול משולב של תואר שני ושלישי בהנדסת חשמל בפקולטה להנדסה של בר אילן, במהלכו חקרה רשתות רדיו קוגניטיביות. משם המשיכה לפוסט דוקטורט באוניברסיטת סטנפורד, שם שהתה שלש שנים, ובפרינסטון, שם עבדה במשך שנתיים נוספות. "במהלך הפוסט התחלתי לחקור רשתות אופטימיזציה ולמידה מבוזרת, עם ניתוקי תקשורת וסוכנים שקרנים. העבודה על ריבוי סוכנים מרתקת, אני אוהבת את התחום הזה שמשיק למערכות ותחומים רבים, ביניהם רובוטיקה שהופך עכשיו מאוד חם. כשיש משימות רובוטיות שרוצים לפתור ביחד, למשל לסרוק שטח גדול, או לבצע מעקב, אז שולחים לשטח מספר רובוטים שמחלקים את השטח ביניהם. אבל כמובן שהם צריכים להיות מתואמים ביניהם, וכאן נכנס הנושא של אמינות המידע. זה לא חייב להיות אגב השתלטות של גורם עוין: מספיק שאני מעלה, למשל, צביר רחפנים לאוויר, ויש רחפן מסוים שאני לא מגיעה אליו ישירות, כי יש ערפל, אז אני מבקשת מרחפן אחר שיתקשר איתו. גם אז האמינות יכולה להיפגע".

לדברי ד"ר ימיני, אמינות התקשורת היא אמצעי להשיג את המטרה. "לי משנה האם הרשת עמדת במטרה שלשמה היא הופעלה, האם למדתי מודל שניסיתי ללמוד בצורה טובה. ניקח לדוגמה את הנושא של למידה מבוזרת, בו מספר סוכנים רוצים לאמן ביחד מודל למידה. לכל סוכן יש את הנתונים שלו, אבל הוא לא רוצה לשתף אותם עם הסוכנים האחרים, מטעמי פרטיות. פתרון אפשרי למצב הזה הוא שכל אחד מהם יעשה את החישוב שלו וישלח אותו לענן, ואחת לכמה זמן הענן יעשה סיכום של כל מה שהוא קיבל מהמשתתפים ויחזיר להם את המידע על המודל המשותף. כך, הם לא צריכים לשלוח לסוכנים האחרים את המידע שהם לא רוצים לחלוק מטעמי פרטיות" היא מסבירה. "זה אחד המודלים הכי פופולריים היום ללמידה מבוזרת, זה רלוונטי למשל לסיווג של תמונות, בחירת מסלול נסיעה, וגם למידע רפואי, למשל תמונה של MRI שמנסה לאתר האם לחולה מסוים יש גידול. אני עובדת על כך שהמידע יהיה אמין ומאובטח, גם מבחינת מה קורה אם מישהו משקר וגם מבחינת הפרטיות וביטחון המידע".

ד"ר ימיני מאמינה במחקר מולטי-דיסיפלינרי, במסגרתו היא משתפת פעולה עם מספר קבוצות. "אני חושבת שבעיות מחקר שיש להן כמה מרכיבים הן יותר מעניינות ותורמות לאנושות, וצריך שילוב של כמה קבוצות חזקות כדי להביא פתרון מקצה לקצה" היא אומרת. "אני אמנם תיאורטיקנית, אבל אני מתעניינת גם בתחומים משיקים, של יצירת מערכת כוללת בכל הרבדים שלה – חומרה, תוכנה, אלגוריתמיקה, למידה. אני רוצה לדעת איך אפשר להבטיח חסמים על ההתנהגות של המערכת, ולוודא שהיא מתנהגת כמו שאני רוצה שהיא תתנהג בעולם האמיתי. אני משתפת פעולה עם קבוצות תיאורטיקניות בכל הנושא של למידה תחת רצון להשגת אינפורמציה, והתחלתי עכשיו שיתוף פעולה עם נוירו-הנדסה וגם עם המסלול של ננו-אלקטרוניקה".

אחד משיתופי הפעולה שלה, המתקיים מזה כחמש שנים, הוא עם ד"ר סטפני גיל מאוניברסיטת הארוורד, המתמחה ברובוטיקה. השתיים חוקרות בצוותא את החוזק והאמינות של רשתות סייבר-פיזיקליות מבוזרות. שיתוף הפעולה הזה זיכה אותן לפני מספר חודשים במלגת צוקרמן היוקרתית למחקר למקצועות טכנולוגיים (STEM). "המלגה מוענקת למחקרים הנעשים בשיתוף פעולה בין חוקרים מאוניברסיטת הארוורד לחוקרים ישראלים, והיא מלגה תחרותית מאוד – זכו בה שש קבוצות בלבד, מכל תחומי המדעים המדויקים וההנדסה בהארוורד", היא מספרת. "המלגה נוסדה במטרה לעודד שיתוף פעולה בין הארוורד ואוניברסיטאות בישראל, והיא מממנת נסיעות בין האוניברסיטאות: אני אסע אל ד"ר גיל והיא תגיע עם הסטודנטים שלה למעבדה שלי".

את המעבדה שלה מקימה ד"ר ימיני בימים אלו בפקולטה להנדסה בבר אילן, אליה הצטרפה בתשפ"ג. בשנה הקרובה היא תלמד, במסגרת המסלול להנדסת נתונים, סמינר באופטימיזציה ולמידה מבוזרת וקורס במבוא לבינה מלאכותית. היא מחפשת שותפות ושותפים לדרך. "אני מחפשת סטודנטיות וסטודנטים לתואר שני ושלישי, סקרנים, בעלי מוטיבציה, ואוריינטציה מתמטית שמעוניינים להיות חלק מהעתיד של רשתות למידה ואופטימיזציה מבוזרות, ולשתף פעולה עם קבוצות מחקר מובילות בעולם", היא מסכמת.

נשמע מעניין? צרו קשר עם ד"ר ימיני במייל