זיהוי ומניעת שחיקה תודעתית בממשקי HITL

אוטומציה נועדה לצמצם טעויות אנוש אך בפועל היא משנה את מבנה תשומת הלב את האמון ואת הבקרה. לאחר שנסקרו התופעות הגורמות לשחיקה בממשקי אדם-מערכת עולה השאלה כיצד ניתן לזהות את תהליך השחיקה בזמן אמת ולמנוע את התפתחותו.

המענה לכך נמצא במבנה מערכתי שבו האדם איננו גורם חיצוני אלא חלק מתפקודה השוטף מודל ה-Human-In-The-Loop (HITL). מודל זה מציע לשלב את השיפוט האנושי כחלק בלתי נפרד ממעגל קבלת ההחלטות של המערכת האוטומטית. במקום להותיר את האדם בשולי התהליך כצופה שמופעל רק בעת כשל, הוא הופך לרכיב דינמי, הוא מזהה, מפרש, משלים ומאזן את פעולת המערכת. מערכת שבה שני גורמים שונים משתפים פעולה באופן מתמשך תוך למידה הדדית.

מאמר זה מתמקד בשלושה מישורים עיקריים:

1. זיהוי מוקדם של סימני השחיקה דרך אינטראקציה מתמשכת בין אדם למערכת מדידה
2. הערכה כיצד נמדדת שחיקה קוגניטיבית או תפקודית באמצעים אנושיים-טכנולוגיים
3. מניעה ועיצוב מחדש מערכות HITL כך שהאדם יישאר חלק פעיל במעגל הבקרה גם כאשר רמת האוטומציה גבוהה.

1. זיהוי מוקדם של השחיקה

מתבסס על ההבנה ששחיקה אינה מופיעה בפתאומיות אלא מתפתחת בהדרגה דרך דפוסים חוזרים של קשב החלטה ותגובה. בממשקי HITL הזיהוי מתבצע באמצעות תצפית משולבת הן מצד המערכת והן מצד האדם.

דפוסי התנהגות כסימן מקדים

Feigh & Pritchett (2014) הראו כי שחיקה קוגניטיבית במערכות בקרה מופיעה תחילה כירידה בקצב הבדיקה הידנית, שינוי בתדירות תשומות או עלייה בזמן התגובה. במערכות מבוססות אוטומציה ניתן לזהות שחיקה על פי אינדיקציות התנהגותיות כמו, האדם מגיב אך לא יוזם, קיבעון תפעולי, חזרה על אותן פעולות גם כשיש שינוי בהקשר, הימנעות מהחלטות חדשות ודחיית פעולה עד לאישור המערכת.

מדדים פיזיולוגיים וקוגניטיביים

Hancock & Desmond (2001) מצאו כי שילוב מדדים פיזיולוגיים כגון שונות בקצב לב, תנועות עיניים ותגובות לחץ עם נתוני ביצוע מאפשר זיהוי מדויק של עומס מנטלי. במערכות HITL מתקדמות ניתן להטמיע ניטור בזמן אמת של עומס קשב באמצעות חיישנים לא פולשניים. המטרה איננה לעקוב אחר האדם, אלא לאפשר למערכת להבין מתי תשומת הלב מתדלדלת ולהתאים את קצב הפעולה.

הקשר ארגוני וזיהוי קולקטיבי

שחיקה איננה תופעה פרטית בלבד. Sarter & Woods (1995) מצאו כי במערכות צוותיות נוצר לעיתים Shared Complacency תחושת ביטחון קבוצתית המביאה להפחתת בקרה הדדית. לכן זיהוי מוקדם צריך לכלול גם אינדיקציות קולקטיביות כמו, אחידות תגובה גבוהה מדי, שפה ארגונית אחידה סביב "הכול בסדר" או ירידה בשיעור הדיווחים האנומליים.

2. מדידה והערכה

כדי למדוד שחיקה בממשקי HITL נדרשת גישה משולבת כמותית ואיכותית גם יחד. המדידה מתבצעת בשלושה מישורים: עומס קוגניטיבי אמון דינמי וערנות מערכתית.

מדידת עומס קוגניטיבי

Wickens & Hollands (2000) הציעו את מודל Multiple Resource Theory שלפיו לאדם יכולת מוגבלת לעיבוד מקביל של מידע חזותי שמיעתי וקוגניטיבי. כאשר מערכת מציגה עודף נתונים באותו אפיק למשל חזותי בלבד העומס עולה והקשב נשחק. מדידת עומס נעשית באמצעות שיטות כמו NASA-TLX או Subjective Workload Assessment Technique (Hart & Staveland, 1988). בממשקי HITL שילוב מדדים אלה מאפשר להבין מתי יש לעבור מהצגה אוטומטית לבקרה אנושית.

מדידת אמון דינמי

Lee & See (2004) הציעו למדוד אמון לא כמצב סטטי אלא כיחס משתנה לאורך זמן. שינויים באמון משתקפים בדפוסי קלט כמה פעמים המשתמש בודק מאשר או מתקן את המערכת. במערכות מתקדמות ניתן להטמיע מנגנוני ניטור של "אמון יתר" ו"חוסר אמון" על בסיס נתוני שימוש ולשמור את האיזון דרך כיול מתמיד (Trust Calibration).

מדידת ערנות מערכתית

Warm & Parasuraman (2008) פיתחו את המושג Vigilance Decrement ירידה הדרגתית ביכולת לזהות גירויים נדירים לאורך זמן. מדידה של ערנות מתבצעת באמצעות סימולציות מבוקרות שבהן הוכנסו אירועים חריגים במרווחי זמן לא צפויים. ב- HITL ניתן ליישם מדדים כאלה בזמן אמת באמצעות משימות זעירות של "בדיקת מצב" שהמערכת מציגה למפעיל באופן אקראי כדי לוודא ערנות רציפה.

3. מניעה ועיצוב מחדש

מניעה איננה פעולה טכנית אלא עקרון עיצובי. היא מתרחשת כאשר המערכת מתוכננת כך שתשמור על האדם כגורם פעיל גם בתנאים של יציבות מלאה.

עקרון המעורבות הרציפה

Cummings & Mitchell (2008) הדגישו את חשיבות "המעורבות הרציפה" עקרון לפיו גם במצבי אוטומציה גבוהה על המשתמש להישאר בעל תפקיד תפקודי ברור. זה יכול להיות קבלת החלטה תצפית או אימות הקשר. במקום להחליף את האדם האוטומציה צריכה לאפשר לו להמשיך לשאול שאלות.

אוטומציה מסתגלת (Adaptive Automation)

Parasuraman & Mouloua (2010) הציעו את רעיון Adaptive Automation מערכת שמווסתת את רמת האוטומציה בהתאם לעומס ולביצוע האנושי. כאשר עומס הקשב גבוה המערכת נוטלת חלק גדול יותר מהתהליך וכאשר הקשב יורד היא "מחזירה" שליטה לאדם. כך נשמר מעגל למידה הדדי שבו שני הצדדים מאזנים זה את זה.

שקיפות ויכולת הסבר

Norman (2013) ו- Dzindolet ואח' (2003) הדגישו את החשיבות של Explainability מתן יכולת למערכת להסביר את פעולתה באופן שמאפשר למשתמש להבין ולהעריך אותה. מערכת שאינה ניתנת להבנה יוצרת תחושת ניכור מחלישה את האחריות ומגבירה שחיקה. שקיפות קוגניטיבית מגבירה את האמון אך גם משמרת את הספק, אלמנט חיוני במניעת אמון יתר.

אחריות הדדית ואתיקה מערכתית

Hancock & Sheridan (2011) טוענים כי במערכות אוטונומיות נדרש עקרון של Shared Responsibility. האדם והמערכת נושאים באחריות משותפת אך לא סימטרית. המערכת מבצעת האדם מפרש ומכוון. עיצוב מערכות HITL צריך להבטיח כי האחריות האנושית לא תיתפזר אלא תישאר ממוקדת במקומות שבהם שיקול דעת אנושי מוסיף ערך.

סיכום

ממשקי Human-In-The-Loop מציעים מסגרת שבה האדם והאוטומציה פועלים במעגל אחד ולא בשני עולמות נפרדים. הם מאפשרים לזהות שחיקה עוד לפני שהיא מתממשת למדוד אותה באמצעים קוגניטיביים ולמנוע אותה באמצעות עקרונות עיצוביים מושכלים. שילוב האדם במעגל הבקרה איננו צעד אחורה אלא חיזוק של מערכת הלמידה הכוללת.

האתגר של העידן הנוכחי איננו עוד להאיץ את האוטומציה אלא לעצב אותה כך שתשמור על גבולות הקשב על ביקורת אנושית ועל אחריות מערכתית חכמה. במובן זה ה- HITL איננו רק טכנולוגיה הוא עקרון של זהירות מערכתית שמטרתו למנוע את הפיכתה של היעילות לחולשה.