תקציר

כיום, מודלים בעולם הראייה הממוחשבת מצליחים לפתור משימות שונות בצורה טובה והשימוש בהם נפוץ מאוד. למרות הישגים מרשימים אלו, היכולת להבין את חיזוי מודלים אלה היא דבר מאתגר. כתוצאה מכך, תחום בשם Explainable AI , העוסק בדיוק ביכולת זו, החל להתפתח והביא לעולם שיטות שונות אשר מאפשרות הבנה של חיזוי מודלים.

בעבודה זו מוצגת שיטה גנרית ופשוטה בשם (Deep Integrated Explanation (DIX להסברת מודלים לראייה ממוחשבת. שיטה זו יוצרת מפות הסברה בעזרת אינטגרציה על המידע מייצוגי השכבות השונות ברשת בשילוב עם הגרדיאנט שלהם. בוצע ניסוי רחב שכלל מגוון של מדדים בתחום הסברת המודלים, שימוש במגוון גדול של רשתות, דאטה-סטים והשוואה להרבה שיטות שנחשבות ל-state-of-the-art בתחום הסברת המודלים. תוצאות הניסוי מדגיש את אפקטיביות השיטה והיכולת שלה לספק תוצאות טובות יותר משאר השיטות. לאורך תהליך המחקר, התבצעה בחינה מעמיקה של אפשרויות הגדרה שונות ל-DIX בכדי להבין אילו אלמנטים יוכלו להועיל בצורה המיטבית ליצירת המפות המוצלחות ביותר.
לבסוף, בוצעו בדיקות שפיות לשיטות הסברה אשר הראו את רגישות השיטה לשינוי במידע המתויג או במשקולות המודל.