כשהחוקים של אסימוב כבר לא מספיקים - גאדג'טים - הארץ
מוסר של רובוטים

כשהחוקים של אסימוב כבר לא מספיקים

הרובוטים נכנסים ליותר ויותר תחומים בחיינו, משדות הקרב ועד כבישי ארה"ב, ובקרוב הם גם יתחילו להחליט בעצמם במי לירות. עכשיו צריך ללמד אותם מתי לא

שתפו כתבה במיילשליחת הכתבה באימייל
אקונומיסט

בסרט המדע הבדיוני הקלאסי "2001: אודיסיאה בחלל" מחשב הספינה, "האל", ניצב בפני דילמה. כשמשלחת אסטרונאוטים יוצאת לחקור חפץ לא מוכר על-פני כוכב הלכת צדק, תוכנת המחשב להבטיח את הצלחת המשימה, אך בו-זמנית לדאוג שמטרת המשימה האמיתית תישמר בסוד מצוות החללית. כדי ליישב את הסתירה, פועל המחשב לחיסול הסגל האנושי של המשלחת.

ככל שרובוטים נעשים עצמאיים הרעיון של מכונות הנדרשות לפתרון שאלות אתיות חורג מגבולות המדע הבידיוני והופך לחלק מהעולם האמיתי. בהתאם למציאות המתחדשת, נדרשת החברה לדאוג שלרובוטים יהיו כלים טובים יותר לביצוע שיפוט מוסרי מאלו שהיו להַאל.

משלי שועלים לרובוטים

בחזית הפיתוח של מכונות אוטונומיות (self-determining machines) ניצבים . האבולוציה של התהליך מניבה מגוון מרשים של מינים: "פשפש החול" מסוגל לקפוץ מחלון או על גגות תוך-כדי צילום של הסביבה. לאחר מכן הוא עובר לנסיעה על גלגלים עד למכשול הבא. רובוט ה-RISE , מזכיר בצורתו מקק בעל 6 רגליים ומיועד לטיפוס על קירות. ה-LS3 הוא רובוט דמוי כלב המותאם לשאת אספקה עד משקל של 180 ק"ג תוך תנועה בתנאי שטח קשים. אב הטיפוס של מודל ה-SUGV, רובוט בגודל מזוודה שתוכנן לזהות אדם בתוך קהל ולעקוב אחריו. פיתוחים נוספים כוללים מזל"ט במשקל טבעת נישואין ומל"ט הבנוי לשאת פצצות במשקל 2.7 טון.

קרדיט: roborama

רובוטים הופכים כיום נפוצים גם בסקטור האזרחי. מטוסי נוסעים מותאמים כבר מזמן לנחות לבד ורכבות בלתי-מאויישות נפוצות גם כן. דגמי המכוניות V40 של וולוו והמיניואן B-max מתוצרת פורד מנווטים אוטומטית בפקקים. מחשב המכונית בולם כשהוא מזהה גופים קרובים. במקביל נערכות נסיעות מבחן במכוניות לא מאויישות. של 402336 ק"מ על כבישי ארצות-הברית, כאשר . לפני מספר ימים ערכה וולוו נסיעת מבחן משולבת למספר מכוניות ללא נהג על כביש מהיר בברצלונה.

בבסיס גישת השליטה העצמית עומדת ההנחה כי ככל שתגדל התפוצה ומידת התחכום של המכונות האוטונומיות, הן יידרשו להכריע בשאלות של חיים ומוות ובזמן אמת. גישה זו שואבת השראה מודל ההכוונה העצמית בבני אדם, כאשר היחס למכונה מונחת המחשב הוא כאל יצור מתפתח המעורב בסביבתו בניסיון להטמיע אספקטים חשובים ומעניינים של הסביבה וגם להתאים עצמו לסביבה. מגמה כזו מעלה את הצורך בסמן ערכי. מעגל ההפעלה של מערכות נשק מתקדמות עדיין משלב לוחם מפעיל, אך ההתפתחות הטכנולוגית צפויה בסופו של דבר לקדם פלטפורמות בלתי-מאויישות שיבחרו ויתקפו מטרות ללא התערבות אדם.

כשזה יקרה, המכונות יידרשו להכריע בשאלות אתיות: האם מל"ט רשאי לירות לעבר בית בו אותר מבוקש המסתתר בלב אוכלוסייה אזרחית? האם רכב ללא נהג שיזהה פגיעה אפשרית בהולכי רגל, חייב לסטות מיד מהנתיב, גם במחיר פגיעה ברכבים אחרים או סיכון הנוסעים? האם רובוט לחילוץ והצלה באזורי אסון חייב לדווח על תמונת המצב האמיתית, מבלי להביא בחשבון את ההשלכות של זריעת פאניקה בציבור? סוגיות אלו הולידו תחום מחקר שנקרא "אתיקת מכונות", המכוון בבסיסו להקניית כישורי שיפוט טובים למכונות, או במילים אחרות- להבחין בין טוב לרע.

קרדיט: גוגל

דרך אפשרית אחת להתמודדות עם דילמות קשות מסוג זה תהיה פשוט להימנע מהן מראש, בין אם על-ידי איסור השימוש במכונות אוטונומיות בשדה הקרב או באמצעות חוק שיחייב את הימצאותו של נהג אנושי ברכבים. ארגונים שונים, כגון הוועד הבינלאומי להגבלות על אמצעי לחימה רובוטיים (ICRAC) פועלים בימים אלה נגד התרחבות היקף השימוש במל"טים ובכלים אוטונומיים נוספים. אולם הפוטנציל החיובי בשימוש ברובוטים אוטונומיים אינו נופל מהתכונות השליליות. חיילים רובוטיים לא יאנסו, לא יישרפו כפרים מתוך שאיפות נקם, או יהיו בעלי מוסר רופף בהשפעת המתח הנפשי שבצל הלחימה. קרוב לודאי שרכבים ללא נהג יהיו בטוחים יותר מממכוניות רגילות, כפי שהתעופה נעשתה יותר בטיחותית מאז שילוב הטייס האוטומטי. סבסטיאן ת'רן, הנחשב לחלוץ בתחום, מאמין שרכבים ללא נהג יוכלו להציל את חייהם של מיליון בני-אדם בשנה.

על כן רצוי שהחברה תשאף לשיפור יכולות השיפוט וההטמעה של הרובוטים- ותתקדם לעבר היעד הזה במהרה. היות והתשתית הטכנולוגית מקדימה בדרך-כלל את החקיקה, מספר מדינות בארצות-הברית נאבקו להכשרת רכבים ללא נהג שיפעלו בתחום האפור של החוק. יחד עם זאת, מובן שתחום בעייתי זה מניח התאמה של דיני תעבורה וכללי נסיעה ברורים.

החוקים לפי אסימוב

תקנון "שלושת חוקי הרובוטיקה" נוסח ב-1942 על ידי סופר המדע הבדיוני אייזק אסימוב והגדיר את הקווים המנחים של אתיקת המכונות בסדר חשיבות יורד:

1. לא יפגע רובוט לרעה בבן אדם, ולא יניח, במחדל, שאדם יפגע.

2. רובוט חייב לציית לפקודותיו של אדם, כל עוד אינן סותרות את החוק הראשון.

3. רובוט ידאג לשמור על קיומו ושלמותו, כל עוד הגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני.

אלא שחוקים אלה לרוב אינם עומדים במבחן העולם האמיתי: רובטים לוחמים יפרו בהכרח את הכלל הראשון. מה גם שסדרת סיפורי הרובוטים של אסימוב מהנה בדיוק מפני שהיא עוסקת בחיכוכים ובמשברים העלולים להיווצר בשל חוקים אלו, ובפתרון בעיות שנובעות מהתנגשות בין החוקים. מכאן שפיתוח ורגולציה של רובוטים אוטונומיים תובע מסגרת מפותחת יותר של נורמות וכללי התנהגות. ישנם שלושה תחומים עיקריים שטעונים עדיין שיפור.

שלושה קווי יסוד לחוקי הרובוטיקה

ראשית, על החוקים יהיה להגדיר מי יישא באחריות המשפטית במקרי פגיעה של מל"ט בחפים מפשע או תאונה ברכב ללא נהג. האם הנושא באשמה יהיה מפתח הרובוט, המתכנת, היצרנית או המפעיל? כדי לקשור גורם כזה או אחר באחריות לכשל המערכתי, מכונות אוטונומיות יצטרכו לשאת קופסא שחורה שתתעד בפירוט את תהליך קבלת ההחלטות. כך יוכלו הרובוטים בעת הצורך להסביר את המחשבה שקדמה לפעולה. לנקודה זו יש השלכות על היבטים בתכנון המערכתי: ייתכן שפרט זה פוסל למשל את השימוש ברשתות עצבים מלאכותיות, המציעות מערכת לומדת ומסתגלת שתתאים עצמה לסביבה, במקום למלא אחר הוראות וכללים מוגדרים.

שנית, לפני שמטמיעים מנגנון אתי פעיל במכונות, על כללי השיפוט להתאים למה שרוב החברה תופסת כהתנהגות נכונה וערכית. שיטות מתחום הפילוסופיה הניסיויית מסייעות להבנה טובה יותר של תהליכים פסיכולוגיים, שהינם בעלי השפעה מרכזית על האינטואיציה הפילוסופית.

ההיבט האחרון והחשוב ביותר הוא שיתוף פעולה נרחב בין מפתחים, מומחים מתחום האתיקה, עורכי-דין וקובעי מדיניות. מהלך כזה יציע מנעד רחב ורב-גוני של מערכות חוקים לפני שהרובוטים יעמדו לרשות עצמם. פילוסופים העוסקים באתיקה ומהנדסי מכונות יפיקו תועלת בדרכם משיתוף הפעולה: הפילוסופים האקספרימנטליים ירוויחו הבנה טובה יותר בתחומם מהנסיון ללמד מכונות כללי מוסר, ואילו למהנדסים לא יהיה מנוס מלהוכיח לחברה שלא עשו קיצורי דרך בשאלות של לאתיקה.

הטכנולוגיה הצעידה את האנושות אל הקידמה, אבל כל חידוש העלה גם שאלות חדשות ובעיות. מבחינה זו, מכונות אוטונומיות אינן יוצא מן הכלל. ככל שיימצא מהר יותר מענה מוצלח לשאלות האמורות, כך יוכל המין האנושי להנות מהיתרונות הרבים שהרובוטים ללא ספק נושאים בצידם.

קרדיט: BLOGSONOR4

תגובות

הזינו שם שיוצג כמחבר התגובה
בשליחת תגובה זו הנני מצהיר שהינני מסכים/ה עם תנאי השימוש של אתר הארץ