במשך שנים, מערכות ציבוריות נשענו על הנחה יציבה למדי, מידע שמוזן אליהן עשוי להיות חסר, שגוי, מגמתי או מנוסח היטב, אך הוא עדיין נשאר מידע. גם כאשר אזרח מילא טופס באופן מטעה, גם כאשר ספק ניסח מסמך באופן שנועד להטות החלטה, וגם כאשר עובד בחר מילים שנועדו ליצור רושם מסוים, המערכת לא בלבלה בין התיאור […]
קריסת ההבחנה בין תוכן לבין הוראה Read More »
המעבר ממערכות מבצעות למערכות מחליטות אינו שינוי טכנולוגי נקודתי, אלא שינוי עומק באופן שבו מבינים שליטה, סמכות ואחריות. תשתיות הענן, שבעבר שימשו בעיקר כאמצעי לאחסון והרצה, הפכו לסביבה שבה מתרחשת קבלת החלטות בפועל. בתוך אותה תשתית פועלים מודלים של בינה מלאכותית, ועל גביהם נבנים סוכנים שמסוגלים לא רק לנתח מידע אלא גם לפעול, לקרוא מערכות,
המפגש בין אבטחת ענן, בינה מלאכותית ואחריות אנושית Read More »
סייבר אנושי (המוכר מקצועית כ- Human Factors in Cybersecurity) הוא גישה בתחום אבטחת המידע, שמניחה כי הטכנולוגיה לבדה אינה מספיקה כדי להגן על ארגונים, וכי הגורם האנושי הוא רכיב קריטי במערך ההגנה. זהו המפגש שבין פסיכולוגיה לטכנולוגיה, ההבנה שתוקפים לא מנסים רק "לפרוץ למחשב", אלא "לפרוץ לאדם" שמפעיל אותו. ההגנה הזו לא נבנית דרך הצהרות
אבטחת מידע במרחב של החלטות אנושיות Read More »
ההתפשטות המהירה של אוטומציות מתקדמות במערכות מידע יצרה בלבול מושגי עמוק. בארגונים רבים נעשה שימוש כוללני במונח "בינה מלאכותית", מבלי להבחין בין מערכות הפועלות על בסיס חוקים עסקיים מוגדרים מראש לבין מערכות המבוססות על למידת מכונה. הבלבול הזה אינו עניין תאורטי. הוא משפיע ישירות על אופן תכנון המערכת, על רמת הסיכון התפעולי, על מבנה הבקרה,
חוקים עסקיים, AI ו-ML במערכות מידע Read More »
האמונה שמערכת טובה היא מערכת שאינה זקוקה לאדם נראית לכאורה טבעית. היא נובעת מההיגיון הכלכלי והניהולי של מאה השנים האחרונות, שבו יעילות נמדדת ביכולת לצמצם עלויות, לקצר זמני ביצוע ולהחליף עבודה אנושית בעבודה אוטומטית. תפיסה זו אומצה בתחילה בעולם הייצור, אך במעבר לעולם המידע היא קיבלה ממד חדש, ככל שהמערכת עצמאית יותר, כך היא נתפסת
מערכת שמאבדת את האדם, מאבדת את היכולת ללמוד Read More »
גבולות האמון במערכת מאמר זה ממשיך את הדיון שנפתח ב“מגבלות טכניות, קהל שבוי והמחיר של אכיפה מוסווית”, שבו נבחנה התופעה של מגבלות טכנולוגיות כאמצעי אכיפה מוסווים. כעת, המבט מופנה אל תגובת הנגד האנושית, הופעתן של מערכות הצל (Shadow IT), ביטוי מורכב לדינמיקה פסיכולוגית וארגונית שבה האדם והמערכת מגיבים זה לזה במאמץ לשמור על שליטה בתוך
Shadow IT כתגובה לאובדן אמון וגבולות קשב Read More »
בעשורים האחרונים הפכו מערכות המידע הארגוניות לא רק לתשתית טכנולוגית, אלא למרחב שבו נבחנים יחסי הכוח, הסמכות והאמון בתוך הארגון. הן אינן רק כלים לתפעול ולבקרה אלא חלק מהמנגנון התרבותי שבתוכו הארגון חושב ופועל. במציאות זו, הביטוי “המערכת לא מאפשרת” הפך כמעט לאמירה מכוננת. משפט קצר שמרכז בתוכו את גבולות הסמכות, את תפיסת הקשב ואת
מגבלות טכניות, קהל שבוי והמחיר של אכיפה מוסווית Read More »
לאחר ניתוח מנגנוני האמון, הקשב והבקרה, עולה כי אחת הסכנות המרכזיות באוטומציה מתקדמת היא שחיקה תודעתית, מצב שבו האדם נותר פורמלית במערכת אך מאבד רלוונטיות תפקודית. כאשר המערכת מבצעת את מרבית הפעולות באופן עצמאי, המעורבות האנושית מתרוקנת ממשמעות, והאחריות עלולה להפוך להצהרתית בלבד. מכאן שהשאלה המרכזית איננה כיצד לעורר מודעות, אלא כיצד לתכנן מערכת שאינה
שימור נוכחות אנושית במערכות אוטומטיות Read More »
יחסי הגומלין בין אדם למערכת האדם הפועל בתוך מערכת אוטומטית נדרש למצוא איזון עדין בין הצורך לשלוט לבין הצורך לאפשר למערכת לפעול מעצמה. כדי לשמור על איזון זה, הוא מפעיל שלושה מנגנוני חשיבה בסיסיים: אמון, קשב ובקרה. שלושת המנגנונים מלווים כל מערכת אנושית, אך בעידן שבו פעולות רבות עוברות לאחריותן של מערכות חכמות, הם עוברים
גבולות קוגניטיביים באוטומציה Read More »