פרשת (System Risk Indication) SyRI אינה מרתקת משום שמדובר בעוד מערכת ממשלתית שנויה במחלוקת, אלא משום שהיא חושפת שינוי עמוק הרבה יותר, שינוי בדרך שבה מדינה מסתכלת על אזרחיה. המערכת פותחה בהולנד ככלי לאיתור הונאות בקצבאות. לכאורה, מדובר במטרה מנהלית לגיטימית ואף מוכרת. מדינות רווחה מתמודדות עם מערכים רחבים, עם מספר עצום של בקשות, זכאויות, […]

אוטומציה נועדה לצמצם טעויות אנוש אך בפועל היא משנה את מבנה תשומת הלב את האמון ואת הבקרה. לאחר שנסקרו התופעות הגורמות לשחיקה בממשקי אדם-מערכת עולה השאלה כיצד ניתן לזהות את תהליך השחיקה בזמן אמת ולמנוע את התפתחותו. המענה לכך נמצא במבנה מערכתי שבו האדם איננו גורם חיצוני אלא חלק מתפקודה השוטף מודל ה-Human-In-The-Loop (HITL). מודל

אוטומציה נועדה להקל על האדם לשפר את הדיוק לצמצם טעויות ולייעל תהליכים. עם זאת ככל שהמערכות נעשות מתוחכמות ויציבות יותר מתרחשת תופעה הפוכה, האדם מפחית את מעורבותו הקשב נשחק והבקרה מאבדת ממשמעותה. תהליכים אלו אינם מקריים, הם נובעים מדפוסים קוגניטיביים מוכרים שנחקרו בעשורים האחרונים במסגרת תחום Human Factors וחקר ממשקי Human Automation Interaction (HAI). ביסוד