האדם ניחן ביכולת חשיבה מורכבת אך גם במגבלות קוגניטיביות קבועות. הוא קולט מידע, מפרש אותו ומקבל החלטות על בסיס ניסיון, דפוסי פעולה והרגלים שנבנו לאורך זמן. המגבלות הללו אינן כשל, אלא חלק טבעי ממבנה החשיבה האנושית. האדם איננו מחשב, אלא יצור תודעתי הפועל בתוך הקשר, זמן ולחץ. במערכות פשוטות, מגבלות אלו כמעט ואינן מורגשות, אך ככל שהמערכות נעשות מהירות, עמוסות ומורכבות יותר, כך הן נחשפות ביתר חדות.
כאשר האדם פועל בתוך מערכת אוטומטית, מתרחש שינוי מתמשך באופי החשיבה. המערכת מייצרת תחושת ביטחון הנובעת מהיציבות, מהדיוק ומהיכולת לחזות תוצאות מראש. תחושה זו מפחיתה את הצורך בבחינה חוזרת של המידע ומעודדת הסתמכות הולכת וגוברת על המערכת עצמה. החשיבה הביקורתית נדחקת בהדרגה לשוליים, והאדם פועל מתוך הרגל במקום מתוך הערכה מודעת של המציאות. כך נוצרת תופעה כפולה, ככל שהמערכת אמינה יותר, כך האדם נעשה זהיר פחות, ככל שהיא מתפקדת כראוי, כך הוא מתרגל לחשוב פחות.
תופעה זו מתעצמת כאשר המערכת מפיקה זרם רציף של מידע. במקום שבו כל פעולה נרשמת ו/או מוצגת מתרחש עומס תודעתי הגורם להיחלשות יכולת ההבחנה. הקשב האנושי, המוגבל מטבעו, מתפזר בין משימות רבות, והתגובה הופכת לסלקטיבית. האדם לומד לסנן את מה שאיננו נתפס כחריג, אך יחד עם הרעש נעלמים גם האותות החשובים. זהו מנגנון הגנה טבעי של התודעה, אך במערכת אוטומטית הוא מייצר עיוורון חלקי, חוסר רגישות להתרחשויות חריגות בדיוק כאשר נדרש שיקול דעת אנושי.
בהדרגה נוצר מצב שבו המערכת פועלת היטב, אך האדם חדל להפעיל את מלוא כושר השיפוט שלו. הוא ממשיך לתפקד, אך הריכוז, הערנות והביקורת מתחלפים בביטחון ובהסתמכות. המוח האנושי, המבקש להימנע מעומס, מעדיף קביעות על פני בדיקה, שגרה על פני מאמץ. ככל שתהליך זה נמשך, כך קטן הסיכוי שהאדם יזהה את הרגע שבו האמון הופך להטיה, או שהשגרה מתחלפת בשחיקה.
שלושת מוקדי ההשפעה
כדי להבין כיצד תהליכים אלו מתפתחים, יש לבחון שלושה מוקדים עיקריים של השפעה קוגניטיבית: האמון, הקשב והבקרה. שלושתם פועלים יחד בתוך כל מערכת אנושית, אך בעידן האוטומציה הם רוכשים משמעות חדשה. הם אינם רק תכונות אישיות או הרגלי עבודה, אלא מנגנונים מערכתיים המעצבים את אופן פעולתה של התודעה האנושית במפגש עם טכנולוגיה.
האמון הוא נקודת המוצא של היחסים בין אדם למערכת. הוא מאפשר פעולה חלקה, מפחית עומס החלטות ומייצר תחושת יציבות. אולם כאשר האמון הופך להרגל שאיננו נבחן, הוא עלול להחליף את הבקרה ולהפוך למקור של ביטחון מדומה. המערכת נתפסת כבלתי ניתנת לטעות, והאדם, מתוך נוחות ותחושת ביטחון, מפסיק להניח שהשגיאה עדיין אפשרית.
הקשב הוא המנגנון המאזן את האמון. הוא מאפשר לזהות חריגות, להפעיל ביקורת ולשמור על קשר רציף עם המציאות. אך בעידן של עומס מידע, הקשב מתפזר ומאבד את עוצמתו. כאשר האדם נחשף ללא הפסקה לגירויים חוזרים, הוא לומד להתעלם מהם, וההבחנה בין עיקר לטפל מיטשטשת. תהליך זה אינו ביטוי לאדישות, אלא לאופן שבו התודעה מגנה על עצמה מעומס יתר. אך דווקא הגנה זו מייצרת סיכון, משום שהיא מפחיתה את יכולת הזיהוי בזמן אמת.
הבקרה היא החולייה האחרונה במעגל. היא מגלמת את תחושת האחריות האנושית כלפי המערכת.
כאשר היא מתקיימת באופן רציף, היא משמשת מנגנון תיקון טבעי: האדם בוחן, מאמת ומבקר את פעולת המערכת. אך במערכות יציבות, שבהן אין חריגות נראות לעין, הבקרה נשחקת. היא נעשית טקסית, מתבצעת לשם שמירה על נוהל ולא מתוך הבנה ממשית של תפקוד המערכת. כך מתחלפת הבקרה בשגרה, והאחריות המודעת מוחלפת באחריות פורמלית בלבד.
תהליך מתמשך של הסתגלות
שלושת המנגנונים: אמון, קשב ובקרה אינם פועלים בנפרד. הם מזינים זה את זה, וביחד יוצרים תהליך מתמשך של הסתגלות. כאשר האמון גובר, הקשב נחלש, כאשר הקשב נשחק, הבקרה מאבדת את משמעותה. המערכת נראית אמינה, האדם חש בטוח, אך בפועל הוא ניתק את עצמו בהדרגה מן היכולת להבין מה מתרחש בתוכה. הוא איננו נוטש את אחריותו, אך תודעת הבקרה שהייתה פעם אקטיבית הופכת פסיבית.
תהליך זה הוא יסוד הפגיעות בעידן האוטומציה. לא במובן של טעות אנוש, אלא במובן של היחלשות תודעתית מבנית. ככל שהמערכת מתוכננת לפעול ללא שגיאות, כך קטן מקומו של הספק, והאדם, מתוך תחושת ביטחון ושאיפה ליעילות, מאבד את אחד המשאבים המרכזיים שלו – יכולת הביקורת.
סיכום
התופעות הקוגניטיביות אינן כשלים נקודתיים, אלא ביטויים טבעיים לאופן שבו המוח האנושי מתמודד עם עומס, שגרה ואמון. בעידן האוטומציה הן הופכות מגורמים תומכים לגורמים מגבילים, משום שהמערכת מחזקת את אותן נטיות בדיוק. היא מתוכננת לצמצם עומס, להקל על קבלת החלטות ולספק ביטחון. אך בכך היא גם מחזקת את ההרגל האנושי לסמוך, להסתגל ולהתמסר ליציבות.
המאמר הבא בבחינה הוא להבין כיצד שלושת המוקדים: האמון, הקשב והבקרה מתפתחים ממנגנונים מווסתים לתהליכים פגיעים, וכיצד ניתן לזהות את הרגע שבו היתרון הקוגניטיבי הופך למקור סיכון.