בין פרויד לצוקרברג: האלגוריתמים שחונקים את הזהות שלכם - המעבדה - הבלוג של מעבדת המדיה והמידע של האוניברסיטה הפתוחה - הארץ

טרם ביצעת אימות לכתובת הדוא"ל שלך. לאימות כתובת הדואל שלך  לחצו כאן

רשימת קריאה

רשימת הקריאה מאפשרת לך לשמור כתבות ולקרוא אותן במועד מאוחר יותר באתר,במובייל או באפליקציה.

לחיצה על כפתור "שמור", בתחילת הכתבה תוסיף את הכתבה לרשימת הקריאה שלך.
לחיצה על "הסר" תסיר את הכתבה מרשימת הקריאה.

בין פרויד לצוקרברג: האלגוריתמים שחונקים את הזהות שלכם

החיישנים והאלגוריתמים שעוקבים אחרי כל צעד שלנו מבטיחים ללמד אותנו להשתפר, אבל מה אנחנו עלולים לאבד בדרך?

תגובות
מתוך "מראה שחורה"

ערן פישר

בשנים האחרונות אנחנו עדים למארג הולך ומתרחב של טכנולוגיות ותחומי ידע שמבטיחים להמיר את נתוני העתק (ביג דאטה) – שמצטברים מעצם ניהול חיינו במרחב הרשתי – לידע על העולם וגם עלינו. המאמץ האדיר הזה לתרגם נתונים להבנה של העצמי מסמן דרך חדשה לחשוב את העצמי.

מה שמאפיין את העצמי האלגוריתמי החדש, ומבדיל אותו מהמשגות מודרניסטיות שלו,  הוא הבנה שמבוססת על פרפורמטיביות, הבנה של העצמי שמבוססת התנהגות ומופעים שמנוטרים דיגיטלית – (מה קנינו, כמה זמן שהינו באתר, למי התקשרנו, ומתי).  

חישבו על People Keeper, מערכת שנועדה לעזור למשתמשים להבין את העצמי שלהם בכל הנוגע ליחסים עם אנשים אחרים. המערכת, שכוללת שעון חכם ויישומון רשת, מנטרת מגוון נתונים הנוגעים לאינטראקציות של המשתמשים עם אחרים, הן באמצעות חיישנים ביומטריים, והן באמצעות דיווח עצמי של משתמשים. מכל הנתונים האלה, המערכת מפיקה  תוצאה קוהרנטית לגבי האופן בו משתמשים מרגישים כלפי אדם אחר. סרטון השיווק של המערכת מסביר:

רוחב הפס של תשומת הלב והזמן שברשותנו מוגבלים. המעגלים החברתיים שלנו מתרחבים. ריבוי היחסים עשוי להציף אותנו. כעת יש לכך יישומון. פיפל קיפר מנטרת את התגובה הפיזית והרגשית שלכם בשעה שאתם מבלים, ואז מנתחת את הנתונים במטרה לזהות מי מלחיץ אותך, מרגש אותך או גורם לך להיות עצוב או שמח. עיקבו אחרי המדדים של היחסים שלכם ותנו לפיפל קיפר למצוא את היחסים שטובים לכם. היישומון מנהל באופן אוטומטי את היחסים שלכם, כדי שאתם לא תצטרכו לעשות את זה, מתאם פגישות עם אנשים שגורמים לכם להרגיש טוב, וחוסם את אלו שלא" (People Keeper 2017).

זהו מקרה-מבחן קיצוני למדי במובן זה שהוא מאוד מודע לעצמו, ומבטא בגלוי את האידאולוגיה של הטכנולוגיה הזאת ("אנחנו נעזור לך להבין את עצמך באמצעות נתונים"). הוא ייחודי גם בכך שהוא אינו מוצר מסחרי רגיל אלא פרויקט אומנותי שנועד "לבחון את ההשלכות של חיים מכומתים על יחסים".

המציאות הזאת ודומותיה נסקרות בדרך כלל תחת המטרייה של העצמי המכומת (quantified self), פרקטיקות שמנטרות מדדים, ומנתחות אותן במטרה לרכוש תובנות לגבי העצמי.

אך מקרה המבחן הזה אינו חריגה מהמציאות הנוכחית אלא דווקא דוגמה מזוקקת ושנונה למציאות הזאת. אנחנו מוקפים במכשירים שמנטרים את המידע האישי שלנו, מנתחים אותו, ומשקפים לנו בחזרה מי אנחנו, בין אם רצינו ובחרנו בכך ובין אם לאו. כך, למשל, במקרה של הפיד של פייסבוק או אינסטגרם.  

משתמשים רואים רק מיעוט משלל הפרסומים של חבריהם. ההכרעה מה יראו היא אישית עבור כל משתמש ונעשית באמצעות "אוצרות אלגוריתמית" - המערכות של החברות משקללות מספר עצום של נתוני משתמשים מאחורי הקלעים  כדי לבנות את החוויה שאנחנו מכירים.

סוג כזה של אוצרות אלגוריתמית קיימת גם במערכת ההמלצות של אמזון שמפנה רוכשי ספרים לכותרים אחרים שעשויים לעניין אותם, או מערכת המלצות הסרטים באתר נטפליקס.

אוצרות אלגוריתמית היא לכן מנגנון מרכזי בקביעת התכנים התרבותיים אליהם אנחנו חשופים ואותם אנחנו צורכים. למעשה, יש תעשייה שלמה של פרסום שנסמכת על המערכת הטכנולוגית הזאת ומנסה לדעת מה אנחנו רוצים עוד לפני שאנחנו יודעים. פייסבוק יודעים לזהות דעיכה של יחסים רומנטיים.

בין אם אנחנו מחילים אותה על עצמנו או מאפשרים לאחרים להחיל אותה עלינו, הרי שאנו נתונים בתוך מערכת טכנולוגית מתוחכמת שמאפשרת לנו לפגוש ולהבין את עצמנו באמצעות פרדיגמת ידע, או אפיסטמה חדשה המבוססת על פרפורמטיביות. ההנחה מאחורי פיפל קיפר, לדוגמה, היא שאם נאסוף ונעבד המון נתונים התנהגותיים באמצעים טכנולוגיים נוכל להבין את עצמנו טוב יותר מאשר אם נסמוך על התחושות שהגוף משדר לנו או המחשבות שמאפשרת לנו התודעה.

העצמי הפרפורמטיבי אדיש לקטגוריות חברתיות נתונות של מגדר, השכלה, או הכנסה, כמו גם ל"נרטיבים הגדולים" של המודרניות, כמו לאומיות או מעמד. במקום להיות מוגדר על יד הנרטיבים הללו, העצמי האלגוריתמי מתכונן לא באמצעות תהליך רפלקסיבי (כלומר תהליך בו התודעה מתבוננת בעצמה) אלא דווקא באמצעות מעקף של התודעה לעבר אינדיקטורים פרפורמטיביים של התנהגות ופעולות, שחיצוניים לתודעה ונאספים באמצעות אובייקטים לא-אנושיים.

נתונים מסוג זה הם המשאב החדש שמאפשר לחשוב על העצמי האלגוריתמי. נתונים שמהווים עדות לקיומנו. הסוציולוגית דברה לופטון (Lupton) מכנה אותם "נתונים חיים", מונח דו-משמעי, המתייחס הן לחיות ולדינמיות של הנתונים, לעובדה שהם מיוצרים וזורמים כל העת, הן לעובדה שהם מהווים אינדיקטורים של "החיים עצמם", היבטים של החיים – רגשיים, פיזיולוגיים, יחסיים, תקשורתיים וכיוצא באלה – שכעת הולכים ונרשמים כנתונים דיגיטליים, מהיומיומי (כמו השעה ביום בה הזמנו מוצר מאתר ברשת) ועד הנשגב (כמו לידת ילדנו) – הולכים ונרשמים כנתונים דיגיטליים.

המספרים מאיימים על עצמאות ה"אני"

המודל האפיסטמולוגי האלגוריתמי של העצמי מאתגר את הסובייקט הליברלי, המודל הדומיננטי של העצמי במערב במאות האחרונות. סובייקט שיכול – בסופו של תהליך אחרי שהוא קולט מידע ומעבד אותו – לנסח עמדה אותנטית של העצמי אל מול העולם; לחוש עצמו סובייקט מרגיש, חושב, ומחליט אל מול המציאות האובייקטיבית.. כל המוסדות המרכזיים של המודרניות מניחים שיש סובייקט כזה – צריך ליצור אותו, אבל זה אפשרי: השוק החופשי, הדמוקרטיה, מערכת המשפט, אפילו האהבה הרומנטית.

בזירה הפוליטית העצמי הזה הוא אזרח שיכול לעצב את עמדתו בנוגע לעניינים שעל סדר היום ואשר יודע להחליט עבור מי להצביע; בזירה הכלכלית העצמי הזה הוא שחקן רציונלי שמקבל החלטות בהתאם לאינטרסים שלו כעובד וכצרכן; בזירה הפרטית העצמי הזה יכול להכריע עם מי לפתח יחסים; ובזירה התרבותית הוא יכול להחליט באיזה סרט לצפות ויכול לגבש דעה ביקורתית  עליו.

כעת ההכרעות הללו ניתנות בידי אלגוריתמים שאורגים נתונים לכדי העמדה של העצמי של מול העולם, או הסובייקטיביות שלו. לנוכח הסמכות של אלגוריתמים, ההילה האובייקטיבית, מדעית וטכנית שלהם, מתחזק האמון שלנו ביכולת של המערכת הטכנולוגית הזאת לשקף לנו אני "אמיתי" יותר.

הרעיון שהתודעה היא בעייתית לצורך הבנה של העצמי וצריך לעקוף אותה הוא לא חדש – הוא עצמו רעיון מודרניסטי. אחת הביקורות החשובות על העצמי הליברלי מגיעה מפרויד שגם לא סמך על התודעה, וגרס שאין לנו גישה ישירה לעצמיות המלאה שלנו, ופיתח תיאוריה ופרקטיקה – הפסיכואנליזה – שתכליתן לעקוף את התודעה כדי להגיע למהות אנושית עמוקה יותר.

יש לא מעט מן המשותף למודל הידע האלגוריתמי על העצמי ולמודל הפסיכואנליטי: שני המודלים מהווים ביקורת על המודל הליברלי, שניהם מייחסים חשיבות לפרפורמטיביות (גם הפסיכואנליזה מבקשת לפענח את עצמי דרך פעולות: חלומות, פליטות פה, התנהגויות); ושניהם גופי ידע בעלי השלכות חברתיות ותרבותיות רחבות – השיח הפסיכואנליטי חדר לתרבות הכללית, ואילו הידע האלגוריתמי על העצמי מתרקם מול עינינו באינספור נקודות מפגש של אדם ומכונה. אבל אני רוצה להתעכב על ההבדל ביניהם.

הידע הפרפורמטיבי על העצמי שנוצר באמצעות נתוני עתק ואלגוריתמים הוא א-תיאורטי ואפילו אנטי-תיאורטי. זו מערכת ידע שלא מתיימרת להסביר את ה"למה" אלא לזהות את ה"איך",  ובעיקר מכוונת לנבא איך נפעל בעתיד. כך לדוגמה, האלגוריתם של אמזון עשוי להבחין שאנשים שרוכשים ספרים של המינגווי עשויים גם לקנות מקדחה ולהציע לקוראי המינגווי מבחר דגמים של מקדחות.

בין פסיכולוגיה למספרים

אנחנו יכולים לבנות תיאוריה פרשנית סביב הזיקה הזאת אבל בגוף ידע פרפורמטיבי כזה, יש פחות דגש על מתן הסברים. וזו נקודה חשובה, שנוגעת לזיקה שבין ידע ופרקטיקה, או בין תיאוריה על העצמי והעצמי שפועל בעולם.

פסיכואנליזה הציעה ידע ביקורתי על העצמי. בגלל שהיא מבוססת על תיאוריה היא יכולה, למשל, להצביע על היבטים פרפורמטיביים כשייכים לחלקים של העצמי. למשל כשאדם אומר בטיפול (או מחוצה לו) "התנהגתי באופן מסוים בסיטואציה מסוימת", הוא עשוי לפענח את ההתנהגות הזאת כתגובה חרדתית למציאות, לאתר את השורש של החרדה הזאת, ובאמצעות טיפול להגיע למצב שהוא מתנהג באופן שונה בפעם הבאה שהחרדה מופיעה.

המהלך הזה דורש תיאוריה. פסיכואנליזה רואה בידע על העצמי בסיס להבנה של מה שמגביל את החופש של האדם, ומכאן גם אפשרות להצביע על מהלך כמו-טרנסנדנטלי של שחרור.

הידע הפסיכואנליטי על העצמי, אם כן, כולל היבטים שלא מתקיימים בעצמי הפועל, הפרפורמטיבי, אלא יונקים מאופק אליו העצמי רוצה לצעוד. לדוגמה, אופק בו העצמי פועל באופן שונה לנוכח הופעה של חרדה. כאן מתגלה מלוא חשיבותה של הרפלקסיביות, של היכולת של התודעה להתבונן בעצמה, להתאוות לתקן את עצמה ולמצוא נתיבים לעשות כן.

הרפלקסיביות מאפשרת לנו הן להגיב באופן חרדתי הן לזהות את ההתנהגות הזאת כפוגענית עבור העצמי. כך, דבר מה שאינו קיים בעצמי בפועל יכול לסמן נתיב לעצמי ללכת בו ולהפוך לכזה. בדיוק במובן הזה אסכולת פרנקפורט ראתה בפסיכואנליזה מופת של תיאוריה ביקורתית שמייצרת ידע שמתאר את המציאות ובה בעת שהוא מאפשר לנוע לעבר לה למציאות חדשה.

הידע הפרפורמטיבי של נתוני עתק ואלגוריתמים מצייר עצמי הרבה יותר מונולוטי: עצמי פועל, ומתנהג. כזה שמעוגן הרבה יותר בעקרון המציאות – במה שקיים ברגע נתון. זה ידע שמסלק מתפיסת העצמי כל היבט שאין לו ביטוי התנהגותי, ושלכן חסרים בו מנופים לביקורת. גם העצמי המכומת מציע אידיאולוגיה של שיפור  עצמי - אבל הוא מנסה לעשות זאת דרך אותה פריזמה מספרית צרה שדרכה הוא רואה את המציאות.

אז אולי העצמי האלגוריתמי, הפוסט-הומניסטי, הוא מסמר נוסף בארון הקבורה של העצמיות המודרניסטית, כדוגמת התפיסה הפסיכואנליטית של העצמי. את הוויתור הזה על מרכיב הביקורת בידע על העצמי – שמשמעו חתירה לעבר אופק אוטופי ואידיאלי שעומד בלב התפיסה הומניסטית – יש רבים שחוגגים, בהציעם שיש כאן פתח להבנייה של זהות פחות מהותנית ויותר גמישה, משוחררת מנרטיבים מודרניסטיים גדולים. עצמי אלגוריתמי יכול להיתפס כהתגלמות טכנולוגית של רעיונות פוסטמודרניסטיים של זהות, עצמי פרפורמטיבי שאינו כפוף לשיחים טוטאליים ודכאניים.

האבולוציה של הקפיטליזם: יצרנות, צרכנות ומידע

אלא שבוויתור על מרכיב רפלקסיבי וביקורתי של העצמי, ועל אופק אוטופי לחתור אליו טמונה גם סכנה` במרחק בין מי שאנחנו ומי שנתהווה נוצר ואקום שמאפשר בדיוק לכוחות המערכתיים ולשיחים דכאניים להשפיע במטרה לעצב סובייקטיביות שנוחה למערכות הללו.

כך למשל, הקפיטליזם היצרני של ראשית המאה ה-20 עיצב סובייקטיביות שמגשימה את עצמה באמצעות עבודה קשה, חריצות, וצייתנות. לעומתו,  הקפיטליזם הצרכני של המחצית השניה של המאה ה-20 עיצב עצמי שמתקשה לחוש ולהגשים את עצמו שלא באמצעות צרכנות.

עכשיו אפשר לשאול באיזה אופן הקפיטליזם המידעי של המאה ה-21 מעצב עצמי שחש צורך לשתף ולהיות נעקב (מה שמאפשר את כינונם של מאגרי נתוני-עתק) ועצמי שמוותר על האוטונומיה שלו להבין את עצמו ושמעביר את הסוכנות הזאת לאלגוריתמים שההיגיון עליו הם מושתתים נותר סמוי לגמרי מעיניו.

וכאן הייתי מנסח מחדש את הקביעה הקודמת שלי: כינון העצמי באמצעות נתוני עתק ואלגוריתמים אינו נטול תיאוריה, הוא עצמו מסתמך על "תיאוריה" כלשהי, שחוקרים ביקורתיים של אלגוריתמים מנסים לחשוף. למשל הסתמכות על לולאות היזון-חוזר (feedback loops) בין בני אדם ואלגוריתמים כאמצעי להתקרב לידע אמיתי על העצמי.

אנחנו פועלים על טכנולוגיה דיגיטלית, שבתורה מגיבה אלינו ומכוונת את תנועותינו העתידיות, ומשנה את העולם מולו אנחנו ניצבים. אנחנו עוברים על עמוד החדשות באתר הרשת החברתית, קוראים פוסטים שמעניינים אותנו ומגיבים, ובתמורה האלגוריתם קובע מה יוצג לנו להבא.

בחלוף הזמן ניטה לחשוב על עמוד החדשות כשיקוף של העצמי. בעולם של שפע אפשרויות פרשניות לעצמי, לולאות היזון-חוזר כאלו מעודדות יצירה של פרשנות יחידנית (אף אם גמישה, מרובה, משתנה, בלתי-מוחלטת, ולא-מהותנית), אותה אנחנו פוגשים כל העת על המסך. הניסיון לתאר את העצמי האלגוריתמי כאמיתי ואותנטי יותר מהעצמי הרפלקסיבי של המודרניות – בגלל שגילויו מבוסס על נתוני אמת ועל אלגוריתמים אובייקטיביים – הוא מוטעה. בבסיסו של העצמי האלגוריתמי עומדת מערכת ידע שלמה שאינה מייצרת יעילות טכנולוגית בלבד, אלא מציעה המשגה חדשה של העצמי, שאינה פחות אידיאולוגית מעצמיים קודמים.

מספרים במקום זהות

להמשגה החדשה הזאת של העצמי יש גם משמעות פוליטית מרחיקת לכת. ההנחה הנרקיסיסטית שמובלעת בעצמי האלגוריתמי, שהעצמי שקול לדפוס הנתונים הפרפורמטיביים שלו, אשר אינו זהה לדפוס הנתונים של אף אדם אחר, ולכן הוא ייחודי לגמרי היא מסוכנת מבחינה פוליטית.

תפיסת הזהות המודרניסטית היתה מבוססת על זהות, על שייכות של הפרט לקטגוריות של אנשים זהים. כך אדם במאה ה-20 יכול היה להרגיש שהוא חלק ממעמד העובדים, או חלק מזהות נשית או הומואית. זה לא שכל מי שנמצא בַקטגוריות הללו זהה בכל – אלא שהם תופסים את עצמם זהים במה שחשוב מבחינה פוליטית. למשל שהם סובלים מאותה אפליה, או חולקים אינטרסים כלכליים משותפים. כך, הזהות שלהם (האופן בו הם תופסים את עצמם) היתה פוליטית, כיוון שהדבק שחיבר אותם לאחר הנמצא באותה קטגוריה היא פוליטית.

לעומת הזהות הפוליטית של המודרניות, האפיסטמה האלגוריתמית גורסת שאין לנו דרך לדעת את עצמנו באמצעות אותו שיוך מודרניסטי. בדרך זו היא מחזיקה את הכוח לפרק קטגוריות חברתיות כמו מגדר, מעמד, או אתניות, ומפרקת את התשתית להזדהות ופעולה פוליטית קולקטיבית.

במקום זאת, היא מציעה לכל אחד ואחד מאיתנו זהות מבוססת נתוני עתק, שמתיימרת להיות אובייקטיבית, ומנותקת מאנשים אחרים. אמנם כיום רשתות חברתיות כמו פייסבוק וטוויטר דווקא מנצלות את הנטיות הפוליטיות שלנו,, כאשר הן מקבצות לפיד שלנו את מה שמי שאנחנו אוהבים לשמוע. אבל כאשר הדגש עובר למראה של העצמי דרך המדדים המספריים ה"אובייקטיביים" שמייצרים האלגוריתמים - הדבר עשוי לקדם זהות פוסט פוליטית מכניסטית, שתרדד את ההקשרים הפוליטיים ותרחיק אותנו מזהות פוליטית.

ד"ר ערן פישר הוא ראש תחום תקשורת, המחלקה לסוציולוגיה, למדע המדינה ולתקשורת



תגובות

דלג על התגובות

בשליחת תגובה זו הנני מצהיר שאני מסכים/מסכימה עם תנאי השימוש של אתר הארץ

סדר את התגובות