האלגוריתמים (עדיין) לא כאן כדי להחליף אותנו

סקר נרחב בארה"ב מצא כי 74% סבורים שהרשתות החברתיות לא משקפות את המצב האמיתי בחברה ו-58% אינם מקבלים את הרעיון שאלגוריתמים יחליטו בנושאים ציבוריים

יגאל באום
יגאל באום
שתפו בפייסבוק
שתפו כתבה במיילשליחת הכתבה באימייל
שתפו כתבה במיילשליחת הכתבה באימייל
מעבר לטוקבקיםכתוב תגובה
הדפיסו כתבה
יגאל באום
יגאל באום

74% מהאמריקאים סבורים כי הרשתות החברתיות אינן משקפות את מצב האמיתי בחברה ו-58% אינם מקבלים את הרעיון שאלגוריתמים יחליטו בנושאים ציבוריים מסוימים בגלל הטיה אנושית. רק 40% סבורים שניתן לתכנת אלגוריתמים באופן שלא יהיה מוטה. סקר רחב היקף (4,590 משתתפים) של מכון Pew מציג תמונה די מפתיעה בכל הקשור ליחס החברה לעולם הטכנולוגי שבו אנו חיים. רשתות חברתיות ואלגוריתמים הולכים יד ביד, הואיל והדרך שבה הרשתות פועלות היא על ידי ניתוח מתמיד של התנהגות האנשים, יצירת אלגוריתמים חדשים ולימוד אלגוריתמים קיימים באמצעות המידע. בעולם בכלל ובארה"ב בפרט הרשתות החברתיות הם חלק מהותי משגרת החיים ודומה שהכנסת פרמטרים מדידים לתחומי האינטראקציות החברתיות שלנו רק מתגברת והולכת.

מהסקר עולה בין היתר כי שיעור של 56%-68% אינם מקבלים את הרעיון שאלגוריתמים יחליטו באופן אוטומטי בנושאים כמו: הערכת מידת המסוכנות של מועמדים לשחרור מהכלא, סינון אוטומטי של קורות חיים, ניתוח ראיונות וידאו של מועמדים לעבודה ומדידת מצבם הכלכלי של אנשים לקביעת דרוג האשראי שלהם. הסיבות העיקריות נגד השימוש בהם קשורות לחדירה לפרטיות, היותם לא בהכרח מדויקים בהתייחסם לבני אדם והעובדה שהם מפלים לרעה או לא הוגנים.

אלגוריתמים הם רכיבים פוליטיים ומונעים על ידי מי שתכנת אותם
אלגוריתמים הם רכיבים פוליטיים ומונעים על ידי מי שתכנת אותםצילום: peshkov / Getty Images / iStockp

התגובות הכלליות היו שהרשתות החברתיות בעיקר משעשעות, הרגש הכללי כלפיהן חיובי למרות שהיו גם גילויים של כעס, ככלל: ככול שהגיל יורד תחושת הבדידות עולה ביחס ישר לתחושת השעשוע, כלומר צעירים ומבוגרים שותפים לתחושות כלפי הרשתות - ואולם צעירים חשים בודדים יותר. לאמריקאים באופן כללי לא אכפת שהמידע שלהם נמצא בידי הרשתות החברתיות, אבל הם לא מסכימים לכל שימוש בו. למשל, מאוד מפריע להם שמידע שלהם מועבר לגורמים פוליטיים או לממשל. הם הרבה יותר ליברלים ביחס להעברת מידע לגופים מסחריים או לגורמים הקשורים לצרכנות.

יחסם לאלגוריתמים נראה מתקבל על הדעת – המחשבה שאלגוריתמים פועלים באופן מנותק מהקשר ומונעים רק על ידי חישובי תועלת, הוא כמובן לא הגיוני, אלגוריתמים הם רכיבים פוליטיים ומונעים על ידי מי שתכנת אותם, כמובן שהם לומדים ומתפתחים והופכים יעילים יותר, אך המטרות שלהם הוגדרו על ידי בני אדם שיצרו את הרציונל שדרכו הם עוצבו לראשונה. כמובן שהם לומדים ומתפתחים והופכים יעילים יותר, אך המטרות שלהם הוגדרו על ידי בני אדם שיצרו רציונל מסוים. האם אלגוריתמים יכולים לבחור עובד? האם רק על ידי ניתוח תוכן של אופן כתיבת קורות החיים וסינון מלים ספציפיות ניתן לקבוע איכותו? את אופיו או את המוטיבציה שלו? האם ניתוח ההתנהגות שלנו ברשתות החברתיות מגדיר אותנו? האם מניתוח סטטוסים שלנו ושל בני המשפחה או החברים ניתן לקבוע מי אנחנו? האם תיוגים, קישורים, אזכורים שאנחנו קשורים אליהם מגדירים אותנו באופן כזה או אחר? האם מה שאחרים אמרו עלינו מגדיר אותנו?

המעבר לחברה אלגוריתמית היא מטרה שמשרתת כוחות מאוד מסוימים שיודעים להפיק ערך גבוה ממנה. רשתות חברתיות, בנקים, תאגידי תרופות, חברות תקשורת, חברות אשראי וחברות אחרות מחזיקים בכמויות מידע בלתי נתפשות (ביג דאטה). מדובר בכוח שאינו גלוי ובלתי נגיש לציבור הרחב הנמצא גם בידי גופים מדינתיים. האם קיימים ממשקים בין מאגרי הנתונים הללו? בכל הקשור לרשתות החברתיות, יש לומר שהתקשורת מסבירה לנו שהרשתות הן הזירה החדשה של הדיון הציבורי והמרחב הדמוקרטי החדש, אבל עמדה הזאת איננה עולה בקנה אחד עם תוצאות הסקר.

תחושת אי הנוחות של האמריקאים בסקר אל מול האלגוריתמים יתכן ומשקפת משהו אפילו עמוק יותר, האלגוריתמים הם למעשה כוח ממסדי שנראה שהופך להיות מקבל ההחלטות על גורלם, בסקר עלו טענות שחזרו ונשנו על חוסר הוגנות ועל התנגשות בין ערכים 'אנושיים' לקבלת החלטות מתוך מניעים שאולי מתנגשים עם ערכים אלה. אלא שהתנגשות זו היא לב ליבו של העניין – עולם שבו ההחלטות מתקבלות על ידי חישובים של עלות מול תועלת, ניצול זמן, צמצום מרווח הטעות לאפס – זהו עולם ערכים שניתן לכמת אותו ולהכניס אותו למשוואות של כדאיות.

האם ל"אנושיות" יש מקום בעולם כזה? האם אפשר לכמת ערכים אנושיים ורוחניים? האם אלגוריתם יכול להעריך רגשות? ואם כן - האם הן עדיין תחשבנה לרגשות? ההתנגשות בין עולם האלגוריתמים לחיים האנושיים היא בלתי נמנעת, אך לא מדובר בהתנגשות שתוביל להתמוטטות המערכת, אלא ליצירת מערכת חדשה שבה עולמות שלמים יוכפפו לאידיאל האלגוריתמי החדש. מה שהסקר כן מוכיח הוא שהתהליך הזה עשוי להתרחש לאט יותר מכפי שנהוג לחשוב.

תגובות

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר הארץ