Evaluating fairness in large language models, and comparing the difference between languages

הרקע לפרויקט:

הפריצה של מודלים גנרטיביים כמו chat-GPT וMidjourney מביאה הרבה אפשרויות חדשות, אבל גם בעיות בשימוש במודלים האלו. אנו נחקור את המודלים האלו מכיוון של הוגנות - עד כמה המודלים האלו ממדלים ומגבירים הטיות שונות בדאטא לגבי גזע, מין, גיל וכ'ו. אנחנו נבדוק גם השפעה של סוג השפה (אנגלית מול עברית) במודלי שפה גדולים.

מטרת הפרויקט:

ניתוח אמפירי של ההטיות במודלים האלו לפי פילוחים שונים. אם יהיה זמן אפשר גם לעבוד על דרכים לצמצם את הפערים הללו.

תכולת הפרויקט:

לבנות מערכת אוטומטית שתריץ ניסויים על המודלים האלו, לנתח את התוצאות המתקבלות

קורסי קדם:

83622 מבוא ללמידת מכונה (יכול להלקח במקביל)

מקורות:

Is ChatGPT Fair for Recommendation? Evaluating Fairness in Large Language Model Recommendation https://arxiv.org/pdf/2305.07609.pdf