גבולות האמון במערכת מאמר זה ממשיך את הדיון שנפתח ב“מגבלות טכניות, קהל שבוי והמחיר של אכיפה מוסווית”, שבו נבחנה התופעה של מגבלות טכנולוגיות כאמצעי אכיפה מוסווים. כעת, המבט מופנה אל תגובת הנגד האנושית, הופעתן של מערכות הצל (Shadow IT), ביטוי מורכב לדינמיקה פסיכולוגית וארגונית שבה האדם והמערכת מגיבים זה לזה במאמץ לשמור על שליטה בתוך […]

בעשורים האחרונים הפכו מערכות המידע הארגוניות לא רק לתשתית טכנולוגית, אלא למרחב שבו נבחנים יחסי הכוח, הסמכות והאמון בתוך הארגון. הן אינן רק כלים לתפעול ולבקרה אלא חלק מהמנגנון התרבותי שבתוכו הארגון חושב ופועל. במציאות זו, הביטוי “המערכת לא מאפשרת” הפך כמעט לאמירה מכוננת. משפט קצר שמרכז בתוכו את גבולות הסמכות, את תפיסת הקשב ואת

גישה שיטתית ליישום מערכות מידע ארגוניות יישום מערכות מידע ארגוניות (Enterprise Information Systems – EIS) מציב בפני ארגונים אתגר מהותי, האם להתאים את תהליכי העבודה למערכת הנרכשת, או שמא להתאים את המערכת לתהליכים הקיימים בארגון? החלטה זו, הנראית לכאורה טכנית, היא למעשה החלטה אסטרטגית בעלת השלכות רחבות כמו, עלויות הפרויקט, משך היישום, רמת האימוץ בקרב

לאחר ניתוח מנגנוני האמון, הקשב והבקרה, עולה כי אחת הסכנות המרכזיות באוטומציה מתקדמת היא שחיקה תודעתית, מצב שבו האדם נותר פורמלית במערכת אך מאבד רלוונטיות תפקודית. כאשר המערכת מבצעת את מרבית הפעולות באופן עצמאי, המעורבות האנושית מתרוקנת ממשמעות, והאחריות עלולה להפוך להצהרתית בלבד. מכאן שהשאלה המרכזית איננה כיצד לעורר מודעות, אלא כיצד לתכנן מערכת שאינה

אוטומציה נועדה לצמצם טעויות אנוש אך בפועל היא משנה את מבנה תשומת הלב את האמון ואת הבקרה. לאחר שנסקרו התופעות הגורמות לשחיקה בממשקי אדם-מערכת עולה השאלה כיצד ניתן לזהות את תהליך השחיקה בזמן אמת ולמנוע את התפתחותו. המענה לכך נמצא במבנה מערכתי שבו האדם איננו גורם חיצוני אלא חלק מתפקודה השוטף מודל ה-Human-In-The-Loop (HITL). מודל

אוטומציה נועדה להקל על האדם לשפר את הדיוק לצמצם טעויות ולייעל תהליכים. עם זאת ככל שהמערכות נעשות מתוחכמות ויציבות יותר מתרחשת תופעה הפוכה, האדם מפחית את מעורבותו הקשב נשחק והבקרה מאבדת ממשמעותה. תהליכים אלו אינם מקריים, הם נובעים מדפוסים קוגניטיביים מוכרים שנחקרו בעשורים האחרונים במסגרת תחום Human Factors וחקר ממשקי Human Automation Interaction (HAI). ביסוד

יחסי הגומלין בין אדם למערכת האדם הפועל בתוך מערכת אוטומטית נדרש למצוא איזון עדין בין הצורך לשלוט לבין הצורך לאפשר למערכת לפעול מעצמה. כדי לשמור על איזון זה, הוא מפעיל שלושה מנגנוני חשיבה בסיסיים: אמון, קשב ובקרה. שלושת המנגנונים מלווים כל מערכת אנושית, אך בעידן שבו פעולות רבות עוברות לאחריותן של מערכות חכמות, הם עוברים

האדם ניחן ביכולת חשיבה מורכבת אך גם במגבלות קוגניטיביות קבועות. הוא קולט מידע, מפרש אותו ומקבל החלטות על בסיס ניסיון, דפוסי פעולה והרגלים שנבנו לאורך זמן. המגבלות הללו אינן כשל, אלא חלק טבעי ממבנה החשיבה האנושית. האדם איננו מחשב, אלא יצור תודעתי הפועל בתוך הקשר, זמן ולחץ. במערכות פשוטות, מגבלות אלו כמעט ואינן מורגשות, אך

התקדמות האוטומציה במערכות טכנולוגיות הביאה לשינוי מהותי באופן שבו האדם פועל, חושב ומקבל החלטות. המערכות הפכו לחכמות, מדויקות ומבוססות אלגוריתם, עד כי חלק ניכר מן ההכרעות שבעבר נדרשו לשיפוט אנושי מתבצעות כיום באופן אוטומטי. תהליך זה, שנועד להקל על האדם, לצמצם טעויות ולשפר יעילות, הוביל בפועל לשינוי עמוק יותר, שינוי במבנה היחסים שבין האדם לטכנולוגיה.