22964 מתמטיקה ללמידת מכונה
4 נקודות זכות תואר שני
שיוך: תואר שני / למידת מכונה וניתוח נתוני עתק
מחלקה: מתמטיקה ומדעי המחשב
דרישות קדם
תנאי קבלה לתואר השני: קבלה לתואר שני בלמידת מכונה ונתוני עתק.
או -
תנאי קבלה לתואר הראשון: פטור מקורסי שפה באנגלית ועמידה בדרישות ההדרכה הביבליוגרפית בספרייה. ידע קודם דרוש: מבוא לסטטיסטיקה ולהסתברות למדעים או הסתברות ומבוא לסטטיסטיקה למדעי המחשב, אלגברה לינארית לתלמידי מדעים או אלגברה לינארית 1, חשבון דיפרנציאלי ואינטגרלי לתלמידי מדעים[4097]
שפת ההוראה
עברית
תיאור הקורס ומטרותיו
הקורס מקנה את התשתית המתמטית הנדרשת להבנת העקרונות, המודלים והאלגוריתמים של למידת מכונה. הוא מתמקד בכלים מתחומי האלגברה הלינארית, החשבון הדיפרנציאלי, ההסתברות והאופטימיזציה, המשמשים בסיס לניתוח, לפיתוח ולמימוש של שיטות למידת מכונה מודרניות.
במהלך הקורס יוצגו המושגים המתמטיים המרכזיים תוך הדגשת הקשר בינם לבין בעיות אופייניות בלמידת מכונה, כגון ייצוג נתונים, אופטימיזציה של פונקציות מטרה, הפחתת ממד, אמידת פרמטרים וניתוח ביצועי מודלים. הקורס נועד להעניק בסיס מתמטי אחיד לסטודנטים המגיעים מרקע אקדמי מגוון ולהכינם ללימודי ההמשך בתוכנית.
מטרות הקורס הן:
- להקנות את היסודות המתמטיים הדרושים ללימודי למידת מכונה.
- לפתח הבנה של מושגים וכלים מרכזיים באלגברה לינארית, בחשבון דיפרנציאלי, בהסתברות ובאופטימיזציה.
- להמחיש את הקשר בין התאוריה המתמטית לבין אלגוריתמים ושיטות למידת מכונה.
- לפתח יכולת לנתח מודלים ואלגוריתמים באמצעות כלים מתמטיים.
- להכין את הסטודנטים ללימודי המשך מתקדמים בתחום למידת המכונה.
הסדר המומלץ ללימוד סדרת הקורסים בלמידת מכונה הוא כזה: מתמטיקה ללמידת מכונה, מבוא ללמידת מכונה, למידה עמוקה.
סטודנטיות וסטודנטים המתכננים ללמוד יותר מקורס אחד מקבוצה זו, באותו סמסטר, מתבקשים להביא בחשבון שקיימת חפיפה בין מועדי הבחינות של הקורסים.
ידע כישורים ומיומנויות שירכשו בקורס (תוצרי הלמידה)
עם סיום הקורס בהצלחה, הסטודנטים יהיו מסוגלים:
- להשתמש במושגים ובכלים מרכזיים באלגברה לינארית לצורך ניתוח נתונים ומודלים.
- לבצע חישובים דיפרנציאליים של פונקציות סקלריות ווקטוריות הרלוונטיים לבעיות אופטימיזציה.
- לנתח בעיות אופטימיזציה רציפה וליישם שיטות בסיסיות לפתרונן.
- להשתמש במושגים יסודיים בהסתברות לצורך ניתוח מודלים סטטיסטיים.
- ליישם פירוקי מטריצות בפתרון בעיות של ייצוג נתונים והפחתת ממד.
- להסביר את הבסיס המתמטי של אלגוריתמים מרכזיים בלמידת מכונה.
- לשלב כלים מתמטיים מגוונים לצורך ניתוח בעיות למידת מכונה.
שיטת ההוראה
הלמידה בקורס מתבססת בעיקר על הרצאות מצולמות, המציגות באופן שיטתי את המושגים והכלים המתמטיים ומשלבות דוגמאות ותרגילים המדגימים את יישומם בלמידת מכונה. הדגש מושם על הבנת הרעיונות המתמטיים ועל פיתוח יכולת ליישמם בהקשרים חישוביים.
הקורס דורש למידה עצמאית, פתרון תרגילים והשתתפות פעילה במפגשי ההנחיה. מפגשים אלה נועדו לבהיר ולהעמיק את חומר הלימוד, לתרגל את יישומו ולבסס שליטה בכלים המתמטיים שישמשו את הסטודנטים בקורסי ההמשך בתוכנית.
ספר הקורס:
Mathematics for Machine Learning, Deisenroth, M. P., Faisal, A. A., & Ong, C. S., Cambridge University Press (2020)
נושאי הלימוד
- וקטורים ופונקציות לינאריות: מבוא לווקטורים, פונקציות לינאריות של וקטורים, נורמה ומרחק, סטיית תקן ומקדם מתאם ואי-תלות לינארית.
- מטריצות ומערכות לינאריות: מבוא למטריצות, מטריצות הופכיות, המטריצה ההופכית המוכללת, דטרמיננטה ועקבה, פעולות מטריצה אלמנטריות ודירוג מטריצות.
- מרחבים וקטוריים ואורתוגונליות: מרחבים וקטוריים, טרנספורמציות אורתוגונליות, היטלים אורתוגונליים ותהליך גרם-שמידט.
- ערכים עצמיים ופירוקי מטריצות: ערכים עצמיים ווקטורים עצמיים, פירוק לערכים עצמיים, לכסון מטריצות, מנת ריילי, סיווג מטריצות ופירוק לערכים סינגולריים (SVD).
- יסודות ההסתברות: מרחב מדגם והסתברות, הסתברות שלמה, כלל בייס ואי-תלות.
- משתנים אקראיים בדידים: פונקציית הסתברות, פונקציות של משתנים אקראיים, תוחלת ושונות, התפלגויות משותפות ושוליות, התניה ואי-תלות.
- משתנים אקראיים רציפים: פונקציות צפיפות ופונקציות התפלגות מצטברת, התפלגות נורמלית, התפלגויות משותפות ושוליות, התניה וכלל בייס.
- נושאים מתקדמים בהסתברות ובסטטיסטיקה: החלפת משתנים, שונות משותפת ומתאם, תוחלת מותנית וההתפלגות הנורמלית הרב-ממדית.
- חשבון דיפרנציאלי וקטורי.
- אופטימיזציה.
הערות