יגאל באום
יגאל באום
סניף ביטוח לאומי בתל אביב. "עתידם של החלשים נקבע על ידי 'מוח אלגוריתמי'"
סניף ביטוח לאומי בתל אביב. "עתידם של החלשים נקבע על ידי 'מוח אלגוריתמי'" קרדיט: ðéø ëôøé
יגאל באום
יגאל באום

במליאת האו"ם הקרובה עומד לנאום חוקר בשם פיליפ אלסטון, עורך דין ניו יורקי שמונה על ידי האו"ם לבדוק לעומק את השפעתן של חברות הטכנולוגיה הגדולות על מדיניות הרווחה של ממשלות, במיוחד בעולם המערבי. במאמר שפורסם החודש בעיתון הבריטי "גרדיאן" טוען אלסטון כי העולם מתקדם לקראת דיסטופיה מוחלטת בנושא זה. לדבריו, חברות בינה מלאכותית משמשות למעשה כמתווכות בין המדינה לבין השכבות החלשות ביותר בחברה במה שמכונה "מדינת הרווחה הדיגיטלית".

כמובן שהמעורבות הזו מוצגת (על ידי המדינות וחברות הטכנולוגיה) ככזו שנותנת שירות לאוכלוסייה ונועדה לשפר את מצבה, אלא שבפועל היא בנויה על קיצוצים מאסיביים בתקציבים וחתירה ל"התייעלות". מי שניזוק מכך ברמה הגבוהה ביותר הם אזרחים שמתקשים לתפקד מול מערכות דיגיטליות. בשל כך, הם "נענשים" ומוטלים עליהם סנקציות. אזרחים בעלי רמת השכלה בסיסית מתקשים לשרוד בחיי היום-יום הדיגיטליים, ובבריטניה למשל כל אזרח רביעי הוא כזה.

מערכים שלמים של החלטות בדבר מדיניות הרווחה מועברים מההתנהלות של ממשלות לרמת נמוכה יותר של פקידות בתהליכים לא מוסדרים. התוצאה היא שעתיד השכבות החלשות ביותר בחברה מופקד בידי קבוצה של מנהלים בכירים, לרוב ללא רגולציה וכמעט ללא פיקוח. אלסטון טוען כי הממשלות, בשילוב הטכנולוגיות החדשות הללו, מקימות מערכים המשלבים מעקב אחרי האזרחים, תוך בדיקה מתמדת של יכולתם לעמוד בתשלומים וביצוע פעולות ענישה. מדובר במנגנונים שמערך השיקולים שלהם הוא אוטומטי, ולדברי אלסטון, אינם לוקחים בחשבון את הממד האנושי.

שיחה עם חוקר האו"ם פיליפ אלסטון

מה שנעדר מהדיווח בגרדיאן ומהציטוטים שיוחסו לאלסטון, הוא מה גורם למערכות הללו לפעול ובשם מי מיישמות חברות הטכנולוגיה את המדיניות הזו. הרי כל מערכת בינה מלאכותית שיוצרת אלגוריתמים עושה זאת מתוך תפישת עולם מסוימת. מהי תפישת עולם זו? ומי החליט עליה? אלסטון מניח שיש בעיה שקוראים לה "אוכלוסייה מוחלשת" ושיש חברות טכנולוגיה שנותנות לה "פתרון", כאשר במקביל הממשלות הופכות לגופים חסרי משמעות. אלא שנקודת המוצא צריכה להיות שונה.

לפי חוקי הניאו-ליברליזם שבו אנו חיים, כל דבר בעולמנו ניתן לכימות ומכל דבר ניתן להפיק רווח. חברות הטכנולוגיה אינן מתעניינות כלל באוכלוסיה המוחלשת. למעשה, אותם אומללים אינם נחשבים הרבה מעבר לסטטיסטיקה בטבלאות. ובמלים אחרות: היותם בני אדם איננו רלוונטי לדיון. הם פשוט משמשים כספרות בתחשיבים של מנהלים בכירים שמעניינים בהגדלת שורת הרווח. אם המדינה איננה פועלת יותר לרווחת האזרחים הללו ופונה למיקור חוץ, היא מעבירה אותם לידי גופים שפועלים משיקולים כלכליים. הציפייה של חוקר האו"ם, שכוונותיו לבטח טהורות, או של כל אחד אחר לצורך העניין, כי בינה מלאכותית שבסופו של דבר מתרגמת פעולות למערך בינארי מתמטי של 0-1 תכניס "שיקולים אנושיים", היא מראש ציפייה לא הגיונית. המחשבה שמנהלים בכירים וגדודי רואי החשבון שלהם ישלבו שיקולים כאלה, כשהכלל היחיד שמנחה אותם הוא רווח או הפסד - גם היא אינה ריאלית.

ג'רמי בנת'ם. פנאופטיקון מודרני
ג'רמי בנת'ם. פנאופטיקון מודרניצילום: ויקיפדיה

את מחקרו ביצע אלסטון בלא פחות מ-34 מדינות ולדבריו עדיין לא מאוחר לשנות את המצב. "יש להבטיח רמת חיים גבוהה יותר עבור המוגבלים ומעוטי היכולת ולפתח דרכים חדשות עבור אלה שנותרים מאחור. זו תהיה מהפכת 'מדינת הרווחה הדיגיטלית' האמיתית". בנוסף, אלסטון קובע שהניסיון לתת לחברות הטכנולוגיה לפקח על עצמן בעצמן - לא עובד ויש לבטלו לאלתר. הממשלות הן אלה שצריכות לחזור ולמלא את תפקיד הרגולטור היחיד. ושוב, נשאלת השאלה כיצד ניתן לבטל את הכשל האינהרנטי הטמון כאן. האם הבינאריות שלפיה פועלים אלגוריתמים יכולה להכיל התייחסות לחולשות בני האדם? אלסטון טוען שכן. לדעתו, ניתן להפנות את המהפכה הדיגיטלית למען הטוב ולשיפור חייהם של אנשים. ייתכן שהוא צודק, אך האם הציפייה שחברות פרטיות יעשו זאת הוא הגיוני?

היחלשות הממשלות נובעת מסיבות רבות, אך אין ספק שאחת מתוצאותיה היא הישענות גוברת על חברות טכנולוגיה והעברת מערכי שליטה וטיפול שלמים לידיהן. עוד במאה ה-18 פיתח הפילוסוף ג'רמי בנת'ם את רעיון הפנאופטיקון, שהוא למעשה מבנה (במקור כלא) שבו ניתן לצפות בכולם מעמדה מרכזית אחת, בעוד אלה אינם יכולים להבחין בעמדה וחשופים זה לזה מכיוון שתאיהם שקופים. מבנה זה בהחלט מזכיר את מבנה הרשתות החברתיות הדיגיטליות של היום. הרעיון שהאזרחים כולם (לא רק בשכבות החלשות) נתונים במערך אחד מורכב, שמנוהל על ידי כוח אחד מרכזי, איננו חדש, אך מה שאנו רואים לנגד עינינו, בעשור האחרון במיוחד, מדגים מה קורה שהמבנה כזה מופקד בידי שני כוחות שהשילוב ביניהם הוא בעל עוצמה כמעט בלתי מוגבלת: חברות פרטיות וכוח חישוב המונע באמצעות בינה מלאכותית.

הממשלות של ימינו נחלשות או נסוגות באופן מודע ומחושב לעמדות אחרות. משיכת ידן מטיפול באזרחים נובעת גם מתפישה כלכלית יזומה, הזוכה לרוב לגיבוי הפקידות במשרדי האוצר. אלסטון טוען בדו"ח שלו כי ניתן לנצל את הכוח הדיגיטלי לטובת האזרחים, אך עלינו לזכור כל הזמן כי מי שקובע את תפישת העולם שמאחורי הבינה המלאכותית ו"המוח האלגוריתמי" הם עדיין בני אדם. ולכן, כל עוד בני אדם מוכנסים לטבלאות רווח והפסד המתעלמות מגורמים כמו חמלה אנושית, אין כל סיכוי לשינוי.

יגאל באום

יגאל באום | |מחוץ לרשת

מומחה לשיווק, מעצב תקשורת חזותית, בוגר בצלאל, חוקר תקשורת ומחלוצי האינטרנט הראשונים בישראל, לומד לתואר שני בתקשורת מחקרית, מורה ומרצה בתחום.

חוקר את הרשת יותר מ-20 שנה ומלווה את התפתחותה: ההתפתחות הטכנולוגית מהירה עד כדי כך שהיא מציבה את האנושות בפני אתגרים מורכבים מאי פעם, אלא שבני האדם נוהגים להתייחס לטכנולוגיה כפי שדג מתייחס למים.

הבלוג יציג נקודת מבט ביקורתית לאור המצב הזה.

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר הארץ