קוד העירום והמוסר החדש של פייסבוק

שיתוף פעולה חדש בין פייסבוק והממשל באוסטרליה יעזור למשתמשי הרשת החברתית להגן על עצמם מפני "פורנו נקמה". הם רק צריכים לשלוח לרשת החברתית תמונות חושפניות שלהם ולהסביר מה רגיש בהן. כן, קראתם נכון

יגאל באום
יגאל באום
שתפו בפייסבוק
שתפו כתבה במיילשליחת הכתבה באימייל
מסך פתיחה של פייסבוק
קרדיט: אליז אמנדולה / אי-פי
יגאל באום
יגאל באום

בכתבה שפורסמה בגרדיאן  בשבוע שעבר הוצגה יוזמה חדשה של פייסבוק, שבשיתוף פעולה עם הרשויות האוסטרליות, יזמה פיילוט חדש שמטרתו הגנה על משתמשים מ"פורנו נקמה". ברשת החברתית מגדירים באופן זה סיטואציה שבה אנשים מפיצים תמונות עירום ותמונות אינטימיות אחרות של בני הזוג שלהם כנקמה על סיום מערכת יחסים (שכנראה לא היתה מוצלחת במיוחד?). הכיוון נשמע טוב, ואפילו חיובי, אלא שהביצוע, איך לומר, קצת מטריד.

איך פועלת ההגנה של פייסבוק מ"פורנו נקמה"? ראשית, מי שחושד שתמונות בעלות אופי מיני שלו נמצאות אצל אדם אחר שעלול לעשות בהן שימוש צריך לשלוח אותן לפייסבוק וגם לעצמו דרך המסנג'ר. כן, שמעתם נכון, לשלוח את התמונות לפייסבוק. ברגע שהתמונות החושפניות והרגישות מגיעות לפייסבוק, טובי המומחים בחברה יערכו דיון בקשר לתמונות ויחליטו אם פרסומן יהווה הפרה של תנאי הקהילה של פייסבוק.

לאחר דיון מעמיק זה יושתל בתמונות קוד מיוחד שנקרא Hash - מעין טביעת אצבע ייחודית של תמונה שמזהה אותה כתמונה לא חוקית. התמונות יישמרו זמן מה בשרתי החברה ולאחר מכן יוסרו לצמיתות, אבל מה שיישאר הוא "טביעת האצבע" הייחודית של התמונה. בכל פעם שמי שברשותו התמונות המסוכנות ירצה להעלות אותן - הקוד יתריע על כך ולא תהיה לו אפשרות העלאה שלהן לרשת.

ההצעה של פייסבוק איננה ישימה עדיין בעולם, והיא כאמור הושקה כפיילוט בתחילת החודש באוסטרליה – שם היוזמה פועלת בשיתוף של גורמים ממשלתיים על מנת להילחם בתופעה של שיימינג ופגיעות נוספות.

היוזמה מעניינת מבחינות רבות ואפשר לראות כמה היא מורכבת ומסובכת. למעשה היא מכילה בתוכה ארבעה גורמים שונים: הצד הנפגע, הצד הפוגע (או עם פוטנציאל לפגוע), האלגוריתם הדיגיטלי ומתכנתים אנושיים מפייסבוק. איך שלא נסתכל על הסיטואציה - היא בעייתית, בעיקר בגלל שהיא ניתנת לפרשנות שונה של כל אחד מארבעת הצדדים; האם ההגדרה "תמונה בעלת אופי פוגעני" תהיה מוסכמת על כולם? אפשר לחשוב על עשרות סיטואציות שעשויות להתפרש אחרת על ידי כל אחד מהגורמים האלה, אולם לפי פייסבוק הסמכות העליונה תהיה בני אדם – אותו צוות של החברה שיחליט מה נכנס בקטגוריה של "בעל אופי פוגעני" ומה לא.

דמיינו תרחיש אפשרי בו הוועדה המיוחדת יושבת ועוברת על 20 תמונות שהגיעו ממשתמש כלשהו. הם מסתכלים על כל אחת מהתמונות, מנתחים אותן לפרטי פרטים, ובסוף שולחים הודעה רשמית לאותו משתמש שהוחלט כי רק 12 תמונות עומדות בתקן ואילו האחרות לא נחשבות פוגעניות לפי "כללי הקהילה" של פייסבוק. לפי איזה פרמטרים החלטה כזאת בכלל יכולה להתקבל? ואיך המשתמש אמור להגיב?

הסיפור מדגים במיוחד את מערכת היחסים המורכבת שבני אדם מקיימים עם מרחבי הסייבר ואת שני המנגנונים שקיימים סביבנו: מין העבר האחד יש לנו את המנגנון האנושי ומין העבר השני המנגנון האלגוריתמי. אלא שהיוזמה החדשה של פייסבוק מצביעה דווקא על תרחישים במרחב הסייבר שאלגוריתמים לא יצליחו לפתור. בעיקר בגלל שבני אדם אינם חושבים בצורה בה אלגוריתם חושב: הם מורכבים מדי, לא צפויים, לא מחושבים, מלאים באסוציאציות ובהסחות דעת.

אלגוריתם, גם המשוכלל ביותר, לא יהיה מסוגל לפענח על פי פיקסלים בתמונה כוונות, או השלכות רגשיות של תמונות. זה יתאפשר אך ורק כאשר בני אדם יתחילו לשלוח תמונות ואת ההסבר שלהם למה זה פוגעני בעיניהם, במקרה כזה האלגוריתמים של פייסבוק יוכלו לבנות מאגר נתונים שמבוסס על הצהרות "אמיתיות" של בני אדם. לכן, סביר בהחלט שהמטרה האמיתית של פייסבוק בכל העניין היא קבלה של עוד חומרים, עוד מידע שמשתמשים פשוט מנדבים.

חשוב לציין שהיוזמה איננה רק של פייסבוק, אלא שיתוף פעולה עם מוסד ממשלתי מדיני (אוסטרלי). משמעות שיתוף הפעולה הזה הוא שחברת הייטק פרטית משתפת פעולה עם גוף ציבורי ממשלתי, ויחד הם מגדירים עבור הציבור האוסטרלי אילו תמונות פוגעניות, ומה מותר או אסור לפרסם ברמה המוסרית. לאחר מאבק של נשים רבות להציג צילומים שלהן מיניקות (בהם רואים חלק משד או פיטמה, שומו שמיים), אנחנו יודעים שתמונות עירום מוסרות במהירות על ידי פייסבוק. אם כך, מהם הפרמטרים שיקבע הצוות המיוחד של פייסבוק? האם זה יהיה מבט של העיניים? חשיפה של כתף? ירך? הוצאת לשון? מחשוף?

כך או כך, ממשלת אוסטרליה חושבת ומאמינה שצוות של מתכנתים או מומחים מטעם פייסבוק יכול לנסח עבור החברה את הקודים האלה. יוזמה זו איננה יוצאת דופן - כולנו נרגיש בשנים הקרובות את ההתנגשות הבלתי נמנעת בין העולם הדיגיטלי לעולם האנושי, ואת הרצון למצוא פתרונות לנושאים סבוכים, אלא שהעולם האנושי ועולם המכונה הם קןוים מקבילים ולא בהכרח מצטלבים.

באחד הפרקים של "תרגיע" לארי דיוויד מזמין מונית דרך "אובר", וכדרכו, הוא כמובן מסתכסך עם הנהג שממהר לתת לו דירוג של כוכב אחד באפליקציה. הסכסוך של לארי עם הנהג - שבעבר היה נקודתי ולא הייתה לו משמעות - הופך להיות קבוע ונצחי. כלומר, לארי קיבל דירוג כנוסע גרוע במרחב הסייברי ואין דבר שהוא יכול לעשות כדי למנוע את זה. בעולם האמריקאי הנוכחי כפי שמשתקף בסדרה – אלגוריתמים יתייגו אתכם לעולמי עד, המכונה לא סולחת ולא מעניין אותה מהי טעות אנושית, אפשר להיות בטוחים שזאת רק ההתחלה.

יגאל באום

יגאל באום | |מחוץ לרשת

מומחה לשיווק, מעצב תקשורת חזותית, בוגר בצלאל, חוקר תקשורת ומחלוצי האינטרנט הראשונים בישראל, לומד לתואר שני בתקשורת מחקרית, מורה ומרצה בתחום.

חוקר את הרשת יותר מ-20 שנה ומלווה את התפתחותה: ההתפתחות הטכנולוגית מהירה עד כדי כך שהיא מציבה את האנושות בפני אתגרים מורכבים מאי פעם, אלא שבני האדם נוהגים להתייחס לטכנולוגיה כפי שדג מתייחס למים.

הבלוג יציג נקודת מבט ביקורתית לאור המצב הזה.

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר הארץ