בעידן הביג דאטה בני אדם הם רק מצבור נתונים

הביג דאטה והאלגוריתמים שמשמשים את החברות הגדולות מתייחסים אלינו כאל נתונים, דפוסים שאפשר לחזות בדיוק מתמטי. אנחנו מפסידים מכך הרבה דברים, אבל הטרגדיה האמיתית תתרחש כשנשתכנע שזה אכן מה שאנחנו

יובל דרור
שתפו כתבה במיילשתפו כתבה במייל
שתפו כתבה במיילשתפו כתבה במייל
מעבר לטוקבקים
אילוסטרציה אלגוריתם
יובל דרור

"הגיהנום הוא הזולת" (l'enfer, c'est les autres). קביעה זו נחשבת לאחת מאמרות הכנף המוכרות ביותר של , אך למעשה לא הוא אמר אותה, אלא דמות שכתב, גרסין, במחזה "דלתיים סגורות". רבים מפרשים משפט זה כפשוטו: האנשים האחרים שסובבים אותי, אלו שאני צריך להתמודד עם קיומם, הם גיהנום, שכן אני מוכרח להיות בחברתם וחברתם זו היא הגיהנום שלי. אבל לפסוק הזה יש הסבר עמוק ומורכב יותר.

היחיד, מסביר סארטר, הושלך אל העולם בלי שביקש זאת וזה עולם שאין בו תכלית או מסגרת מוסרית נתונה מראש. אדם לא נועד להיות משהו מכוח החלטה אלוהית, מסורת משפחתית או חוק מדינה. תחת זאת הוא צריך לגלות את תכלית קיומו, הוא צריך לבחור אותה, הוא צריך לקבוע עבור עצמו מיהו וכיצד עליו לחיות את חייו. הוא נדון לחירות, לחופש, לבחירה בלתי פוסקת, וזהו גזר הדין הקשה ביותר שאפשר להעלות על הדעת.

אף על פי שסארטר עוסק ביחיד, הוא אינו מכחיש את עובדת קיומם של אנשים אחרים, של הזולת. הוא מבין שאנחנו חיים בקונטקסט חברתי, מוקפים בזולת שמשפיע עלינו ובמובנים רבים עושה מאיתנו את מי שאנחנו. מצב עניינים זה מוביל למאבק אפי בין הרצון שלי, ואולי אפילו החובה שלי, לבחור את חיי בעצמי, לבין הניסיון של אחרים להשתלט על חיי ועל מי שאני באמצעות הפיכתי לאובייקט.

כל אחד מאיתנו מרגיש את נפשו כדבר מורכב, מסובך ועשיר, כשדה פתוח של אפשרויות, כחירות שאי אפשר לסכמה במילה אחת, אבל האחרים נוטים לתפוס אותנו בצורה פשטנית, שטחית, כאובייקט לכל דבר. הם לא חוששים לתאר אותנו באמצעות מילה אחת, שאמורה להקיף את כלל פנימיותנו: זה "עצבני", ההוא "רברבן", זה "ביישן" והאחרון "אגואיסט".

ז'אן פול סארטר
ז'אן פול סארטר. מה שתיאר הוא רק ההתחלהצילום: אי־פי

האחרים, מסביר בספרו "ז'אן פול סארטר: דרכי החירות" ("האוניברסיטה המשודרת"), אינם מתייחסים אלי כפי שאני מתייחס אל עצמי, "מבפנים". הם אינם רואים את הנסיבות של התנהגותי, של בחירותי או של החלטותי. תחת זאת הם רואים אותי "מבחוץ" ומשום כך הם מטילים עלי רשת של אבחנות המבוססות על נתונים עובדתיים, שאותם הם מסכמים לכדי מילה אחת שאמורה לייצג את כל כולי, את מי שאני.

אחת הסיבות לכך שאיננו מהססים לנהוג כך כלפי אחרים, אף על פי שבתוך תוכנו אנחנו זועמים כשמתנהגים אלינו באופן דומה, היא ש. סארטר, הסביר פרופ' ברינקר, יצא נגד העמדה המקובלת שלפיה פעולות של בני אדם נובעות מאופיים. הוא לא מקבל את הטענה שאדם חומק מלשלם את החשבון במסעדה או מלהלוות כסף לחבר בצרה מפני שהוא "קמצן". תחת זאת, מה שמניע את התנהגותו הם מחשבותיו, ניסיונו, רגשותיו כלפי כסף שיסודם בתגובה למצב מסוים (נניח, מחסור קיצוני בתקופת ילדותו).

משום כך, טוען סארטר, לא תכונת האופי של האדם ("קמצן") מובילה אותו להתנהג כפי שהוא מתנהג, אלא תסביכיו, פחדיו ורגשותיו. קמצנותו אינה עובדה חיצונית, המוטלת מלמעלה כסוג של גזירה, אבל הזולת לא רואה זאת כך. הזולת משתמש בתקציר המתאר את כלל פעילויותי בעבר ואז, "בסוג של כישוף", הוא מתחיל לראות בתקציר הזה את הסיבה לכל דבר שאני עושה. פעולה זו של הזולת שוללת ממני את חירותי, שכן היא הופכת אותי לאובייקט שאין לו יכולת להשתנות — כזה שאפשר לחזות את התנהגותו מראש. זו הסיבה האמיתית ש"הגיהנום הוא הזולת".

המספרים מדברים בעד עצמם

התיאור הזה של סארטר הוא תיאור של דינמיקה מדכאת, מכיוון שהוא מצביע על האופן שבו הסובבים אותנו, אפילו אלו הקרובים אלינו, תופסים אותנו. אבל אם סארטר, שמת ב–1980, היה חוזר לרגע אל החיים ונחשף לעידן הביג דאטה (Big Data), .

בעידן הדיגיטלי כל פעולה ברשת מותירה אחריה שובל ארוך של מידע. אם נכנסתי לאתר אמזון, הקלקתי על ספר מסוים ואז רכשתי אותו, אני סבור בטעות שהמידע היחיד שיש כעת לאמזון הוא שאחד בשם "יובל דרור" קנה את הספר "אקזיסטנציאליזם הוא הומניזם" של ז'אן פול סארטר. בזה זה נגמר.

בפועל, , תוצאה של הפעולה הבודדת שביצעתי: מאיזה אתר אינטרנט הגעתי אל עמוד הספר, כמה זמן שהיתי בו, כיצד הזזתי את העכבר בעמוד כאשר עיינתי בספר, כמה זמן עיינתי בו, על מה התעכבתי, האם עיינתי בספרים אחרים, כמה זמן עבר עד שרכשתי אותו, האם רכשתי ספרים אחרים הקשורים בפילוסופיה, האם קניתי ספרים אחרים שקשורים בפילוסופיה אקזיסטנציאליסטית, האם רכשתי את הספר מהבית, באיזו שעה רכשתי את הספר ועוד ועוד.

בעבר לא היה אפשר לעשות דבר עם נחשול המידע הזה, אבל בשנים האחרונות פותחו כלים שמאפשרים לאגור את כל המידע העצום (Big Data) שמגיע ממני ומשאר מאות מיליוני המשתמשים של אמזון, להכניס אותם למאגר מידע ואז להתחיל לחתוך, לנתח, לסווג ולפעול על פיו.

סטיבן בייקר כתב בספרו (תרגום: גיא הרלינג, מודן הוצאה לאור), כיצד עסקים מסווגים את הגולשים שנכנסים לאתריהם אל תוך "דליים". כותרות הדליים האלו הן אותן כותרות שדיכאו אותנו אך לפני רגע: "חובב אופנה לצעירים", "קונה אימפולסיבי", "נאמן למותגים", "מכור לדיאטות", "בזבזן" ועוד. הסיווגים השונים מתבססים על הפעולות שביצענו בעבר והם הופכים לחזות הכל.

ב–2008 כתב מי שהיה עורך כתב העת "Wired", כריס אנדרסון, שבעולם של מאגרי מידע עצומים, המתמטיקה מחליפה כל כלי מחקרי אחר שאפשר להעלות על הדעת. "אפשר לזרוק לפח את כל התיאוריות על ההתנהגות האנושית, מבלשנות ועד סוציולוגיה. תשכחו מטקסונומיה, אונטולוגיה או פסיכולוגיה. מי יודע למה אנשים עושים את מה שהם עושים?" הוא שאל. "הנקודה היא שאנחנו יכולים לעקוב אחר ההתנהגות שלהם ולמדוד אותה בדיוק מדהים ועם מספיק מידע, המספרים מדברים בזכות עצמם".

מכאן שבעידן הביג דאטה כל אחד ואחת מאיתנו הופך לאובייקט. אף אחד מהאתרים, השירותים או האפליקציות שבהן אתם משתמשים לא באמת מתעניין בכם, במה שמניע אתכם, בסיבות האישיות, הפנימיות, שדחפו אתכם לבצע פעולה כלשהי.

ויקטור מאייר־שוננברג וקנת קוקייר טוענים בספרם "ביג דאטה: המהפכה שתשנה את האופן שבו אנו חיים, עובדים וחושבים", שכחברה ניאלץ לשים בצד את האובססיה שלנו לסיבתיות (Causality) ולהחליפה בקשרים, בקורלציות. ניאלץ להתמודד עם העובדה שאנחנו לא יודעים "למה", אנחנו רק יודעים "מה". האמת היא שלא נדע "למה" לא מכיוון שהתשובה בלתי אפשרית, אלא מפני שכלי הביג דאטה לא מתעניינים ב"למה"; אלו לא השאלות שהם שואלים.

, היה איש פרסום מעולה כיוון שהוא ידע איך להתחבר לסיבות שבגללן אנשים קונים דבר מה. הוא חשב שכדי למכור מוצר, הוא צריך להבין למה אנשים ירצו לקנות אותו, מה יניע אותם לפעולה. כאשר הוא מכר מקרן שקופיות הוא סיפר סיפור על קשר בין אנשים, על העבר, על נוסטלגיה, הוא השווה בין גלגל השקופיות לקרסולה שהיא קרוסלת החיים שסובבת סביב־סביב.

דון דרייפר מתוך "מד מן"
דון דרייפר מתוך "מד מן". כדי למכור מוצר - צריך להבין למה אנשים ירצו לקנות אותוצילום: אי־פי

אבל בעידן הביג דאטה שאלת המוטיבציה, שאלת ה"למה", עברה למושב האחורי ואולי נזרקה מהרכב לגמרי. אם ב–1944, כשסארטר כתב את "בדלתיים סגורות", הזולת היה הגיהנום, ב–2017 הביג דאטה והאלגוריתמים הם הגיהנום. הם מתייחסים אלינו כאל נתונים, כאל דפוסים שחוזרים על עצמם — כאל דפוסים שניתן לחזות בדיוק מתמטי.

המקלדת בטלפון הסלולרי שלי יודעת להציע לי את המילה "טוב" אחרי שאני מקליד את המילה "בוקר", , כי זה מה שהקלדתי ברוב המקרים אחרי שהקלדתי את המילה "בוקר". ווייז שואלת אם אני בדרך לעבודה כשאני נכנס למכונית שלי בבוקר, חוץ מאשר בשבת, פייסבוק וגוגל מציגות בפני פרסומות שהן סבורות שיעניינו אותי, אמזון מציעה לי ספרים שאולי ארצה לרכוש. כולם נורא רוצים לעזור לי ואף אחד לא באמת מתעניין בי, במי שאני, במה שמניע אותי. זה לא רלוונטי, זה רעש.

כאשר סארטר מצביע על האופן שבו אני מתייחס אל האחר, הוא במובן מסוים מנסה לשכנע אותי לחדול מלנהוג כך. הוא פונה אלי, אל אנושיותי, ואומר לי, "הרי אתה לא אוהב שהזולת מתייחס אליך כאל אובייקט, אז אולי תפסיק לעשות את זה לאחרים?" סארטר לא אופטימי בכל הנוגע להצלחה שלי לבצע את השינוי, ובכל זאת, זהו שיח שמתנהל בין בני אדם.

אלא שכעת השיח אינו נמצא עוד בידי בני אדם או בין בני אדם. בני האדם לקחו את ההתנהגות שלהם, שהופכת את כל מי שסובב אותם לאוסף של עובדות, התנהגויות ותכונות אופי, ולימדו את האלגוריתמים לראות כך את כולם, את כל בני האדם, את כל העולם, כל הזמן. בשבילם אני מספר סידורי, אובייקט בעל אוסף של תכונות. כל אחד מכם יכול להיכנס ולבדוק מה גוגל חושבת עליכם, מה היא הסיקה לגביכם ומשום כך אילו מודעות היא תציג לכם. כך אלגוריתמים רואים אותנו. את כולנו.

בסדרת הטלוויזיה האלמותית "האסיר" אומר מי שקוראים לו "מספר שש": "אני לא אתן לדחוף אותי, לתייק אותי, לתייג אותי, לתדרך אותי, לחקור אותי או למספר אותי. חיי הם ברשותי". "לכל מטרה ועניין, לכל אדם יש מספר. שלך מספר שש", מסביר לו החוקר בקור רוח. "אני לא מספר. אני אדם חופשי", עונה מספר שש. נראה אותו אומר את זה למנוע החיפוש של גוגל.

בין התודעה לאין־תודעה

מהסיפור הזה אפשר וצריך ללמוד שני לקחים מרכזיים.

הראשון הוא שאנחנו נוטים ללמד את הטכנולוגיות שאנחנו מפתחים להתנהג כמונו. מהבחינה הזו סארטר לא היה מופתע מכך שלקחנו את אחת מתכונות היסוד שלנו — לראות את האנשים שסביבנו כאובייקטים — והעברנו אותה אל המחשבים שאמורים לסייע לנו לראות את העולם. ועדיין, עובדה זו צריכה לשמש לנו תמרור אזהרה.

מי שחושב שבעידן האולטרה־טכנולוגי, סופר־דיגיטלי, אקסטרה־מתמטי, הקיום האנושי יהפוך לאובייקטיבי יותר, מדויק יותר, נטול הטיות ואפליות או במילים אחרות נקי מהפגמים האנושיים, לא מבין שאחד הפגמים האנושיים העיקריים שלנו הוא הטמעה של אותם פגמים, כלומר התפיסות וההטיות שלנו, אל תוך הטכנולוגיות שאנחנו מפתחים.

צילום מסך חיפוש גוגל

עובדה זו מחריפה במיוחד בעידן שבו האלגוריתמים מסיקים בעצמם מסקנות מתוך מאות אלפי דוגמאות שמוזנות לתוכם, שכן הדוגמאות, כמו דיווחים עיתונאיים, קובצי קורות חיים, דיווחי משטרה על מעשי פשע ועוד, הן כשלעצמן תוצאה של מציאות מוטה ומשום כך האלגוריתם לומד אותה כעובדה: שחורים מעורבים יותר במעשי פשע בהשוואה ללבנים, נשים מרוויחות פחות מגברים וכן הלאה.

אבל גם אם בדרך נס כלשהי פותחה טכנולוגיה שמצליחה לחמוק מכל אלו, המשתמשים ישתמשו בה דרך פגמיהם, הטיותיהם ובעיותיהם. הטכנולוגיה לא תצליח לנקות את הקיום האנושי מבעיותיו, כי הטכנולוגיה היא יציר אותו קיום פגום, שעתוק שלו.

הלקח השני הוא שחץ ההשפעה בין הטכנולוגיה והחברה הוא דו־כיווני. אלו לא רק המפתחים והמשתמשים שמשפיעים על אופיה ודרך פעולתה של הטכנולוגיה. תחת זאת, הטכנולוגיה מעצבת בחזרה את האופן שבו בני האדם תופסים את עצמם, את חייהם, את הזולת; אותם אלגוריתמים שהבינו שנשים מרוויחות פחות מגברים יציגו את המציאות הזאת חזרה לשולחיהם, שבתורם יפנימו עובדה זו כמציאות אובייקטיבית, בלתי ניתנת לשינוי. אחרי הכל, האלגוריתם אמר!

אם "אדם שאוחז בפטיש רואה בכל דבר מסמר", מה קורה לבני אדם שמשתמשים בטכנולוגיה שלא מתעניינת כלל באנושיותם של בני אדם אחרים, בסיבות התנהגותם, במוטיבציות שלהם? מה קורה לחברות ולארגונים שרואים בנו אוסף של עובדות חיצוניות, עדר של אובייקטים חסרי ייחודיות? האם זה מקרה שחברות דוגמת גוגל, פייסבוק, אפל או אמזון, לצד חברות טכנולוגיה רבות נוספות, התפתחו לכדי חברות חסרות פנים, חברות אטומות, שאין להן שירות לקוחות, אין להן מספר טלפון שבאמצעותו אדם יכול לתקשר עם אדם אחר?

סארטר טוען שהמבט שלי על עצמי מנוגד תמיד למבטו של הזולת עלי, עובדה שמובילה לקונפליקט של תודעות. בעידן הדיגיטלי, הקונפליקט עולה מדרגה והוא מתנהל בין התודעה שלי לאין־תודעה של האלגוריתם שמסווג אותי.

יש לקוות שבמאבק הזה לא נוכנע, שכן כניעה זו תגרום לכך שגם אנחנו, כל אחד ואחת מאיתנו, נתפוס את עצמנו כאובייקט, כמי שנתונים לשליטתם המוחלטת של כוחות חיצוניים, כמי שנשללו מהם החירות והזכות לבחור את חיינו. אם חלילה זה יקרה נדע שהמכונה ניצחה ניצחון מוחלט, נדע שאנחנו אכן מספר.

תגובות

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר הארץ