זה לא פורנו ילדים, זה בסך הכל הסהרה

המשטרה בלונדון החליטה לעשות שימוש במערכות בינה מלאכותית על מנת לאתר חומרים פדופיליים; בינתיים, המערכת מתקשה להבדיל בין מדבריות לעירום

יאיר בריל - צרובה
שתפו כתבה במיילשתפו כתבה במייל
שתפו כתבה במיילשתפו כתבה במייל
מעבר לטוקבקים
דיונות חול בניו מקסיקו
יאיר בריל - צרובה

מערכות של בינה מלאכותית הן הדבר החם בכל הקשור לזיהוי, תיוג וסיווג תמונות ברשת. עם זאת, לצד היתרונות נראה שעדיין נדרשת לא מעט עבודה ללמד אותן מערכות לפעול בצורה נבונה. המקרה של משטרת לונדון מוכיח שהדרך לשם עוד ארוכה, בטח יותר ממה שרבים רוצים להאמין.

משטרת לונדון החלה לעשות שימוש במערכות זיהוי תמונות לצרכים שונים, ובחלק מהמקרים המערכת פועלת באופן די טוב. לדוגמה, בזיהוי סמים, כסף ונשק. בפעולות אחרות היא עדיין דורשת שיפור רציני. כחלק מהנסיון לפעול נגד פדופילים ברשת, נעשה שימוש במערכות על מנת לסמן תמונות עירום של ילדים, אך מתברר שבינתיים המערכת לא מצליחה להבדיל בין תמונות עירום לתמונות של מדבריות.

הצב של MIT. מערכות שעוד דורשות הרבה עבודהצילום: MIT

"לפעמים המערכת מעלה תמונה של מדבר ומזהה אותה כחומר לא הולם או פורנוגרפי", אמר מארק סטרוקס, ראש המחלקה הדיגיטלית לזיהוי פלילי במשטרה. "מסיבה מסוימת, לאנשים רבים יש שומרי מסך של מדבריות והמערכת מזהה אותם כצבע עור".

בשיחה עם הטלגרף הבריטי, אמר סטרוקס כי המשטרה עובדת עם מומחים מעמק הסיליקון, אך גם עם השימוש במומחים ברור כי ישנן לא מעט בעיות במערכות הבינה המלאכותית שטרם נמצא להן פתרון. לפני כחודש דיווחנו במדור כי חוקרים ב-MIT הצליחו לשטות במערכת זיהוי מתקדמת ולגרום לה לזהות תמונה של צב תלת-מימדי כרובה. במקרה אחר, זיהתה מערכת של גוגל תמונה של שתי נשים שחורות כקופים.

אך לצד זיהוי שגוי של תמונות שכל קשר בינן לבין פורנוגרפיה מקרי לחלוטין עד לא קיים, מערכות הבינה המלאכותית גם סובלות מחוסר יכולת להבין דקויות של החברה שבה הם פועלים. כך למשל סימנה המערכת של פייסבוק את תמונת הילדה העירומה ממלחמת וייטנאם כחומר לא הולם, מה שהוביל להסרתה מהאתר. אמנם פייסבוק הודתה בטעות והתמונה שבה להופיע, אך המקרה המחיש את העובדה שעוד יעבור לא מעט זמן עד שבני אדם יוכלו לנוח בשקט בידיעה שמערכות אוטומטיות עושות את העבודה בשבילם כמו שצריך.

לחצו על הפעמון לעדכונים בנושא:

תגובות

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר הארץ