20942 מבוא ללמידת מכונה[4081]

4 נקודות זכות ברמה מתקדמת ללא אפשרות לכתיבת עבודה סמינריונית

שיוך: תואר ראשון / מדעים / מדעי המחשב

מחלקה: מתמטיקה ומדעי המחשב

דרישות קדם

תנאי קבלה: פטור מקורסי שפה באנגלית ועמידה בדרישות ההדרכה הביבליוגרפית בספרייה. 
ידע קודם דרוש: מבוא לסטטיסטיקה ולהסתברות למדעים או הסתברות ומבוא לסטטיסטיקה למדעי המחשב, חשבון אינפיניטסימלי 1, חשבון אינפיניטסימלי 2 (או חשבון דיפרנציאלי ואינטגרלי א + חשבון דיפרנציאלי ואינטגרלי ב או חשבון דיפרנציאלי ואינטגרלי לתלמידי מדעים), אלגברה לינארית 1 (או אלגברה לינארית לתלמידי מדעים), מבוא למדעי המחשב ושפת Java או מבוא למדעי המחשב ושפת Java א + מבוא למדעי המחשב ושפת Java ב או תכנות וניתוח נתונים בשפת פייתון. 
ידע קודם מומלץ: מתמטיקה ללמידת מכונה. [4080] 

או קבלה לתואר שני בלמידת מכונה וניתוח נתוני עתק. ידע קודם דרוש: מתמטיקה ללמידת מכונה, תכנות וניתוח נתונים בשפת פייתון.

שפת ההוראה

עברית

תיאור הקורס ומטרותיו

למידת מכונה היא תחום מרכזי במדעי המחשב, בסטטיסטיקה ובבינה המלאכותית, העוסק בפיתוח מודלים ואלגוריתמים המאפשרים למחשב ללמוד מתוך נתונים, לזהות דפוסים, להסיק מסקנות ולבצע חיזויים. הקורס מקנה את היסודות התאורטיים, המתמטיים והחישוביים של התחום, תוך שילוב בין ניתוח מתמטי, מימוש אלגוריתמים בסביבת פייתון ובחינה אמפירית של ביצועיהם.

במהלך הקורס יילמדו עקרונות הלמידה המונחית והלמידה הלא-מונחית, מודלים ואלגוריתמים מרכזיים, שיטות להערכת ביצועי מודלים ולשיפור יכולת ההכללה שלהם, וכן מושגים מרכזיים באופטימיזציה, רגולריזציה והערכת מודלים. הקורס מניח תשתית להמשך לימודים ולעיסוק מתקדם בתחומי למידת מכונה, מדעי הנתונים והבינה המלאכותית.

מטרות הקורס הן:

• להקנות היכרות עם העקרונות, המושגים והאלגוריתמים המרכזיים בלמידת מכונה.
• לפתח הבנה מתמטית של מודלים ושיטות למידה ושל ההנחות שעליהן הם מבוססים.
• להקנות כלים לניתוח, להשוואה ולהערכה של מודלים באמצעות מדדי ביצועים ותהליכי ולידציה.
• לפתח יכולת לממש אלגוריתמים ולבצע ניסויים חישוביים בסביבת פייתון.
• לטפח חשיבה ביקורתית בבחירת מודלים, בהערכת ביצועיהם ובפירוש תוצאותיהם.

הסדר המומלץ ללימוד סדרת הקורסים בלמידת מכונה הוא כזה: מתמטיקה ללמידת מכונה, מבוא ללמידת מכונה, למידה עמוקה.

סטודנטיות וסטודנטים המתכננים ללמוד יותר מקורס אחד מקבוצה זו באותו סמסטר מתבקשים להביא בחשבון שקיימת חפיפה בין מועדי הבחינות של הקורסים.

ידע כישורים ומיומנויות שירכשו בקורס (תוצרי הלמידה)

בסיום הקורס הסטודנטיות והסטודנטים יהיו מסוגלים:

• לנסח באופן פורמלי בעיות למידה מונחית ולא-מונחית, ולהגדיר עבורן ייצוג נתונים, תכונות, מודל ופונקציית מטרה מתאימים.
• לנתח מתמטית אלגוריתמים בלמידת מכונה, תוך שימוש שיטתי בחשבון דיפרנציאלי וקטורי לצורך גזירת פונקציות מטרה, תנאי אופטימליות, וכללי עדכון באלגוריתמים מבוססי גרדיאנט.
• לבחור ולכייל מודלים והיפר-פרמטרים, ולנמק את הבחירה באמצעות שיקולים תאורטיים - ובהם מורכבות המודל, רגולריזציה ויכולת הכללה - ובאמצעות ממצאים אמפיריים המתקבלים בתהליכי ולידציה והערכה.
• לתכנן ולבצע ניסויים חישוביים בסביבת פייתון, לרבות מימוש אלגוריתמים, ביצוע ולידציה שיטתית, השוואת מודלים וניתוח כמותי של ביצועיהם.
• לנתח ולהציג את תוצאות הניסויים, להסיק מהן מסקנות מבוססות נתונים ולדווח על השיטות, הממצאים, והמגבלות באופן מדעי ובהיר.
• להעריך באופן ביקורתי ושיטתי מודלים ומערכות למידה, באמצעות ניתוח פער ההכללה, זיהוי התאמת יתר/ותת-התאמה, בחינת הנחות ומגבלות, איתור תנאי כשל והערכת רגישות המודל לשינויים בנתונים.

שיטת ההוראה

חומר הלימוד המרכזי בקורס מועבר באמצעות הרצאות מצולמות, המיועדות ללמידה עצמית ומציגות את העקרונות התאורטיים, הפיתוחים המתמטיים והאלגוריתמים הנלמדים בקורס. הלמידה נתמכת במפגשי הנחיה, בפתרון תרגילים עיוניים ובהעמקה בנושאים מתמטיים וחישוביים.

המטלות משלבות ניתוח תאורטי, כתיבת קוד, מימוש אלגוריתמים וביצוע ניסויים חישוביים בפייתון, לרבות ולידציה שיטתית, ניתוח כמותי של ביצועים, הצגת תוצאות באמצעות גרפים ודיון בממצאים. שילוב זה נועד לחבר בין הבנת העקרונות המתמטיים של השיטות לבין יישומן המעשי, ולפתח יכולת להעריך מערכות למידה באופן ביקורתי ומבוסס נתונים.

הלימוד יתבסס על ספרי הקורס באנגלית:

• The Elements of Statistical Learning: Data Mining, Inference, and Prediction, Trevor Hastie, Robert Tibshirani and Jerome Friedman, 2nd edition, Springer, 2016.

• Learning from Data, Yaser S. Abu-Mostafa, Malik Magdon-Ismail and Hsuan-Tien Lin, AMLBook, 2012.

נושאי הלימוד

• תשתית מתמטית: חשבון דיפרנציאלי וקטורי ואלגברה לינארית יישומית.
• למידה מונחית: פרספטרון, רגרסיה לינארית,רגרסיה לוגיסטית, SVM ניסוח דואלי ו- kernel.
• סוגיות מרכזיות: Overfitting, רגולריזציה, ולידציה הטיה ושונות ויכולת הכללה.
• רשתות נוירונים, עצי החלטה, Random Forests, Bagging, Boosting.
• למידה לא-מונחית: ניתוח אשכולות K-means ושיטות להורדת מימד.
• אמידת פרמטרים בגישת הנראות המירבית ובגישה הבייאסיאנית.

הערות