כשהתודעה האנושית תתייצב למפגש גורלי עם יצירי כפיה

חוקרי טכנולוגיה, מפתחי AI ופילוסופים תמימי דעים כי במאה השנים הבאות תתפתח סופר־אינטליגנציה. על כף המאזניים: השמדה של המין האנושי, או חיי נצח בעולם שהשאיר מאחור את כל בעיותיו הקיומיות. נטע גורביץ יצאה אל מעוזי הקידמה הטכנולוגית כדי לברר מתי זה יקרה, מה כדאי לכם לארוז לקראת הסינגולריות ולמה לעזאזל לא כולם מדברים על זה

נטע גורביץ
איור: שחף מנפאוב
נטע גורביץ
איור: שחף מנפאוב

זהו סיפור על הרף עין אבולוציוני. על תרבות מבוססת ביולוגיה, שלמשך שבריר שנייה בדברי ימי היקום הבליחה על כוכב לכת חסר ייחוד בקצה גלקסיה נידחת. שפיתחה תודעה והשתמשה בה כדי לנסות להשתחרר מכבליה ושברגע גורלי אחד - כמו איקרוס, כמו מדיאס, כמו מיקי מאוס ב"שוליית הקוסם", זה הרי לא סיפור חדש - היא מתייצבת למפגש הרה גורל עם ההשלכות של יצירי תודעתה. 

החדשות בדבר קץ האנושות היו מאז ומעולם מוקדמות מדי. רואי השחורות, מבשרי הסוף, הקוראים לחוטאים לחזור בתשובה, עתיקים כחיים עצמם. למתריעים בפתח מעולם לא חסרו סיבות: נשק גרעיני, שקיעת התרבות, האנטיביוטיקה, התפוצצות האוכלוסין. בכל דור ודור עמדו עלינו לכלותנו עידנים של אש ושל קרח, מגיפות מזרות אימה, אסונות טבע, רעב ומלחמות עקובות מדם - אולם האנושות יכלה לכל. 

אלא שלקראת תום הרבעון הראשון של המאה ה-21 גרעין קשה ומשמעותי של חוקרים, פילוסופים והוגים תמימי דעים כי במאה השנים הבאות תגיע האנושות לצומת דרכים משמעותי יותר מכל אלה שידעה בעבר. אם ימשיכו כוכבי הקידמה לנוע במסילותיהם, רוב החוקרים העוסקים בחדשנות טכנולוגית מסכימים שבמאה ה-21 לפחות אחד מהיסודות המגדירים את עצם אנושיותנו יקועקע במידה כזו שספק אם ניתן יהיה להמשיך לחשוב על האנושות במונחים המוכרים לנו כיום. במאה הקרובה האנושות עשויה לאבד את ההגמוניה על כדור הארץ, להשתחרר מהצורך בגוף פיזי, להגר אל כוכב לכת אחר, לנצח את ההזדקנות ואולי גם את המוות, או להיכחד כליל. 

המרוץ שיכריע את שאלת עתידו של האדם במאה ה-21 מתנהל במרץ על פני הגלובוס כולו. בשעה שהשמש שוקעת על ערש התרבות המערבית היא זורחת אט אט בסין. שם סינרגיה יעילה בין ממשל דיקטטורי תאב שליטה לענקיות טכנולוגיה עתירות הון יצרה מעבדה של מיליארד ורבע נסיינים לפיתוח טכנולוגיות מתקדמות, שלדעת רבים משיגות בהיבטים מסוימים את ההתפתחות הטכנולוגית המערבית - אך כפופות לפיקוח רופף עוד יותר מהן. הוא ממשיך לעבר אירופה, שבבירותיה השוקקות ובערי האקדמיה הפסטורליות שלה מתנהל מחקר ופיתוח ענף בתחומי הרובוטיקה, הבינה המלאכותית והמכונות הלומדות, במקרים רבים תוך שיתוף פעולה פאן-אירופי בקוד פתוח, שאפילו אימי הברקזיט אינם מהווים מכשול בדרכו. הוא נעצר בלונדון, במטה של DeepMind, החברה הבת של גוגל שנחשבת היום לאחת המובילות בעולם בפיתוח אלגוריתמים לומדים ומצליחה להפיל בזו אחר זו חומות טכנולוגיות וקונספטואליות באופן מעורר השתאות. הוא משתהה לשאת את עיניו הכלות אל מכונים אקדמיים משני צדי האוקיינוס האטלנטי, שכמו הילד עם האצבע בסכר עמלים על משטור של אינטליגנציה מלאכותית ופיקוח עליה. הוא חולף בפלורידה, בטקסס ודרומית ללוס אנג'לס, במתקנים לשיגור טילים של נאס"א ושל החברות הפרטיות שמפתחות את הטכנולוגיה שתאפשר לאנושות לעקור מכדור הארץ ולהתיישב מחדש במאדים, מתוך אמונה שבעתיד הנראה לעין המשך קיומה של האנושות מותנה במציאת בית אחר.

הוא נעצר בחריקת בלמים בחוף המערבי של ארצות הברית, בחיקה החמים של כת הטכנולוגיה הליברטריאנית של עמק הסיליקון. שם, לכאורה תחת עיניהם הפקוחות אך למעשה מחוץ להישג הבנתם של מי שאמונים על שמירת מיטב האינטרסים של האנושות, חברות פרטיות שאגרו הון בלתי נתפש באמצעות מכירת חרוזים דיגיטליים לילידים מפתחות באתרים סודיים טכנולוגיות שכבר היום מבשרות על הניצנים הראשונים של ממשק מוח-מכונה, של אחדות מוחלטת בין האדם לטכנולוגיה, של טראנס-הומניזם בגרסאותיו השונות, המציעות שילובים שונים בין אינטליגנציה טכנולוגית לגוף הביולוגי, או מייתרות אותו לחלוטין ושואפות להעלות את התודעה האנושית הטהורה לענן של אחדות דיגיטלית אחת.  קל לבטל את התרחישים האלה במחי יד. 

בעולם שבו נראה שאלגוריתמים ימשיכו לשלוח לנו פרסומות לטיפול בפטרת הציפורניים גם אם נהפוך לגידמים קשה להתייחס לתחזיות האלה כאל אירועים אימננטיים, בעיקר כשמערך שלם של הטיות קוגניטיביות והגנות פסיכולוגיות מונע מאיתנו להתבונן בהם נכוחה. 

אבל בעשור השני של המאה ה-21, הוודאות המוחלטת היחידה הקיימת לגבי העתיד היא המשך ההאצה של תהליכי השינוי הטכנולוגיים. תוצרי התהליכים האלה הפכו זה מכבר לחלק מרקמת החיים האנושית. האינטליגנציה המלאכותית, שעומדת כבר היום בבסיס כל תהליכי הקידמה הטכנולוגית, עדיין שקופה כמעט לחלוטין לרובנו. הסיבה לכך היא שאין לה גוף. היא נמצאת בתוך הרבה דברים, אבל באופן מעשי היא בשום מקום. ובכל זאת, היא זו שמזהה את הפנים שלנו בשדות תעופה, מכריעה אם בדיקות ההדמיה שלנו מעוררות חשד לסרטן, מחליטה מה נקרא ברשתות החברתיות, מנתבת את תנועת המטוסים, כותבת קוד לפיתוח של אינטליגנציה מלאכותית מתקדמת יותר ממנה, מאמנת אלגוריתמים אחרים, מחברת שירה - וממשיכה לנכס עוד ועוד תחומים שבהם יכולותיה עולות על אלה של בני אדם, גם המיומנים ביותר. 

זהו, אם כן, סיפורה של תרבות העומדת לפגוש בהשלכות מרחיקות הלכת של כושר ההמצאה שלה. הסיכוי היחיד שלה להמשיך לנווט את גורלה תלוי ביכולתה לפעול כחזית אחת ולקדש את הערכים האנושיים העומדים בבסיס קיומה - משימה שעד כה לא עמדה בה בהצלחה מעולם. ולא פחות מזה, זהו סיפור הבריאה, שלב התוהו ובוהו על פני תהום, של האינטליגנציה המלאכותית. 

פרופ' ניק בוסטרום. "לוחות הזמנים המשוערים לאינטליגנציה מלאכותית כללית התקצרו משמעותית נוכח פריצות הדרך בשנים האחרונות" צילום: The Washington Post / Getty Images


מבחן הלם העתיד
בני אדם נוטים לחשוב על ההיסטוריה כעל קו ישר. אנחנו מדמיינים שהקידמה של 100 השנים הבאות תשעתק את זו של 100 השנים החולפות. קשה לנו לתפוש את משמעות העובדה שככל שהטכנולוגיה של חברה מסוימת מתקדמת יותר, כך הולכת ומאיצה מהירות ההתקדמות הטכנולוגית שלה. 

קצב השינוי הטכנולוגי והמדעי ב-30 השנים האחרונות היה מהיר בסדרי גודל מזה של 30 השנים שקדמו להן, מכיוון שהתקופה המאוחרת יותר התחילה מנקודת מוצא מתקדמת בהרבה. בשני העשורים הראשונים של המאה הנוכחית הושגה התקדמות טכנולוגית שהיקפה מוערך ככלל הקידמה במאה ה-20 כולה (אין להסיק מכך דבר על ההתקדמות בעולם הערכים האנושי, הכפופה, כמסתבר, לחוקיות אחרת). במלים אחרות, כבר עכשיו מהירות השינוי הטכנולוגי במאה ה-21 גדולה פי חמישה ממהירות השינוי הממוצעת במאה ה-20, והקצב הזה עתיד להתגבר באופן אקספוננציאלי. לפי הדינמיקה הזאת, המכונה חוק ההתקדמות המעריכית, המאה ה-21 עתידה להשיג קידמה מדעית וטכנולוגית בהיקף של פי אלף מזו של המאה הקודמת. המסקנה המתחייבת היא שבעוד כמה עשורים העולם יהיה שונה לחלוטין מהמקום שלמדנו להכיר ולאהוב (באופן יחסי). 

קל להמחיש את ההאצה של קצב השינוי באמצעות "תסמונת הלם העתיד", הנגרמת כשנוסע מדומיין בזמן מגיע אל מציאות כל כך שונה מעולמו שהוא פשוט מת על המקום מרוב הלם. נוסע כזה משנת 1700 (חברה אגררית, טרום המהפכה התעשייתית) שינחת בהווה שלנו - גורדי שחקים, מטוסים, מכוניות, טלפון, אינטרנט - יתפגר ללא ספק. לעומת זאת, נוסע מקביל מ-1481 - משך זמן זהה בכיוון ההפוך - שינחת ב-1700, ילמד אולי דברים חדשים על מבנה היקום והיבשות ויתלהב מהתפתחויות מגניבות בתחום האופטיקה, אבל לא ייפול מהכיסא. בתקופת הזמן הזאת העולם לא השתנה באופן מהותי. כדי שמישהו בכל זאת ימות מהלם העתיד ב-1700 יש להרחיק אלפי שנים לאחור, אל לפני המהפכה החקלאית. מי שחי באלף ה-12 לפני הספירה בחברה של ציידים ולקטים בהחלט עשוי למות ב-1700 - ערים, רחובות, תרבות, מסחר, כרכרות - מהלם העתיד. יחידת "תסמונת הלם העתיד" נוספת לאחור תצריך מסע של 100 אלף שנה, לפני גילוי האש והתפתחות השפה. 

הגרף האקספוננציאלי של הקידמה אינו חלק, אלא מתקדם בדילוגים. זום-אין עליו מגלה תקופות של רגיעה יחסית, שבהן המהפכות הבאות מתבשלות מתחת לפני השטח. למשל, מהעובדה שמאז פרוץ האינטרנט ניכרת יציבות מסוימת אין להסיק שיישומים טכנולוגיים מהפכניים בעלי מוטת כנפיים רחבה לא מתפתחים מחוץ לשדה הראייה לקראת הזינוק הגדול הבא. 

התרחיש שלפיו סופר־אינטליגנציה תפתח רצון לחסל את האנושות עומד בסתירה למבנה של אינטליגנציית מכונה. מה גם שמבחינה אבולוציונית זנים חזקים מעולם לא הפגינו מוטיבציה להשמיד זנים חלשים, אלא כל כמה שצורכיהם דרשו זאת


אבל בני האדם, מטבעם, הם שונאי שינוי ובעלי דמיון מוגבל. כמעט תמיד נעדיף לחבק את המצב הקיים על פני עתיד בלתי ידוע שיוביל לשינויים מרחיקי לכת וידרוש התאמות רדיקליות. הבשורה שהעתיד הלא רחוק עשוי להוליד סופר-אינטליגנציה טכנולוגית, חיי נצח ותודעה משוחררת מגוף עולה על כל דמיון, ולכן אנו נוטים לדחות אותה על הסף. אבל קל לדמיין שלפני 500 שנה הבשורה שאנשים יילכו על הירח ויחיו עד גיל מאה נשמעה מופרכת באותה מידה. 


התפוצצות האינטליגנציה 
שיפור יכולות האינטליגנציה המלאכותית (א"מ) הוא כיום הפרויקט המדעי-המסחרי הגדול ביותר המתנהל בעולם. כמעט כל מיזם דיגיטלי בן זמננו מבוסס על א"מ (כולל עשרות כאלה שאנחנו עושים בהם שימוש יומיומי). למעשה, כל פרויקט שאפתני שהאנושות עסוקה בו, כולל רוב תחומי המחקר, כיבוש החלל והנדסה גנטית, תלוי ביכולות א"מ. התמריץ הכלכלי לשיפור יכולות הא"מ הוא עצום עד בלתי נתפש. כפי שיודעות להעיד החלוצות בתחום, כמו גוגל ופייסבוק, כל שיפור אינקרמנטלי בא"מ עשוי להיתרגם לרווחים אסטרונומיים. וישנה, כמובן, המטרה האולטימטיבית: עליונות של א"מ היא אם כל העליונויות, העליונות שתשטח את מגרש המשחקים ותמפה מחדש ובאופן קטגורי מאי פעם את המנצחים והמפסידים של העולם. לכן לא מפתיע שבקרב המדינות המתועשות אין כיום כמעט ישות כלכלית, פוליטית או אקדמית שאינה מושקעת עד צוואר מבחינת ההון האנושי והיקף המימון בניסיון לדחוף את המעטפת של הטכנולוגיה הזאת. 

המושג "אינטליגנציה מלאכותית" נשחק משימוש יתר, אבל קווים לדמותה בשלהי העשור השני של המאה ה-21 יכללו את היותה מערכת לומדת, שמטרת העל שלה היא להשתפר במשימה שלשמה היא פותחה. רוב הא"מ מתבססת כיום על למידת מכונה, גישה מחשובית המאפשרת לאלגוריתמים ללמוד בכוחות עצמם, עם התערבות אנושית מוגבלת. אלגוריתמים של למידת-מכונה-מבוססת-חיזוקים מגיעים במשימות מסוימות להישגים על-אנושיים ללא הדרכה אנושית וללא כל ידע מוקדם על התחום שבו הם פועלים. הם מתחילים כלוח חלק, ולעתים נדרשים להם לא יותר מאשר ימים ספורים כדי להשתלט על בעיות מורכבות שהאנושות התמקצעה בהן, ולפתח אסטרטגיות חדשות להתמודדות עמן. רוב הזמן הן מבצעות משימות שנמצאות בכלל מחוץ לטווח היכולות האנושי, בגלל היקף המידע העצום והמהירות האדירה הכרוכים בביצוען.  

עליונות של אינטליגנציה מלאכותית תשטח את מגרש המשחקים ותמפה באופן קטגורי מאי פעם את מנצחי ומפסידי העולם. לכן לא מפתיע שכמעט כל ישות כלכלית, פוליטית או אקדמית מושקעת עד צוואר בניסיון לדחוף את המעטפת של הטכנולוגיה הזאת


זוהי אינטליגנציה זרה מאוד, שונה מהותית מבינה אנושית. היכולת שלה לנתח בשברירי שנייה היקפים בלתי נתפשים של מידע ולשאוב ממנו תובנות, שלפעמים נמצאות מחוץ לאזורים של המחשבה האנושית - תובנות שאנחנו אפילו לא יודעים שאנחנו לא יודעים להגיע אליהן - מעוררת השתאות ואי נוחות. רגע פומבי אחד כזה התרחש ב-2017 בתחרות הגו (משחק לוח הנחשב למורכב בסדרי גודל משחמט), שבה ניצח אלגוריתם של חברת DeepMind את אלוף העולם לי סדול, בין היתר בזכות שני מהלכים כה בלתי מתקבלים על הדעת, כל כך תלושים מכל אסטרטגיה מקובלת של המשחק, שבדיעבד הודבק להם הכינוי "המהלך של אלוהים", וסדול עצמו אמר עליהם, "אף בן אנוש לא היה משחק ככה". אבל באותה מידה אלה אלגוריתמים מוגבלים באופן מגוחך. הם לא "יודעים" או "מבינים" כלום באופן שאנחנו מגדירים את המושגים האלה. ולפעמים, אף על פי שאין להם רגשות, בכל זאת מכמיר לב לראות את הניסיונות הילדותיים שלהם, הכושלים-בצורה-כה-מפוארת, לעשות את מה שהם אמורים. 

מבחינה אבולוציונית, יישומי הבינה המלאכותית האלה דומים לחומצות האמינו שעד לפני מיליארד שנה שטו במרק הקדום שכיסה את כדור הארץ. תרכובות כימיות שהתפתחו בנפרד ובאופן בלתי תלוי עד לרגע שבו הן חברו ליצירת התא הראשון שידע לשכפל את עצמו והפכו למשהו אחר לגמרי - לחומר אורגני, לחיים. הא"מ הצרה לא תהפוך כמובן לחיים. אבל עם ההתקדמות הצפויה בגזרות החומרה והתוכנה היא תשכלל את יכולותיה לדרגה שתאפשר לה לבצע כל פעולה ברמה זהה לזו של בני אדם. היא תתגבש ל"אינטליגנציה מלאכותית כללית" (AGI - Artificial General Intelligence). פיתוח AGI הוא בעיה מורכבת מאוד, שקצרה היריעה מלהעמיק בנפתוליה. אולם למרות שמדובר באתגר קשה וסבוך מעשית וקונספטואלית, הוא צפוי להתרגש עלינו במאה הנוכחית, ולדעת רבים - עוד לפני שתחלוף מחצית המאה. 

המוח האנושי הוא מכונת חישוב אימתנית, תוצר ייחודי של מיליארד שנות אבולוציה. למיטב ידיעתנו, דרגת הקוגניציה הגבוהה ביותר ביקום (אוקיי, לא בכל המקרים). ולמרות זאת, האינטליגנציה האנושית אינה מחסום פיזיקלי שאי אפשר לחצות, כמו למשל מהירות האור. אינטליגנציה שתגיע לרמה כללית צפויה להמשיך לשכלל את עצמה ולפי עקרון ההתקדמות המעריכית, לעבור תהליך מהיר של "המראה" ולהפוך בפרק זמן קצר מאוד לסופר-אינטליגנציה. אצל בני האדם מתרחש במידה רבה תהליך הפוך: קצב הלמידה וההתפתחות הקוגניטיבית האופייני הולך ומאט ככל שאנו מתבגרים. הסופר-אינטליגנציה, שלא תהיה כפופה לאילוצים אבולוציוניים וביולוגיים, תהיה ישות טכנולוגית העולה בבינתה על זו של המוחות האנושיים המבריקים ביותר, שתמשיך לשפר את יכולותיה בטור הנדסי. והנקודה שבה היא תופיע על פני כדור הארץ תהיה זו שבה כל החוקים המוכרים לנו על העולם יקרסו לתוך עצמם. 

לי סדול, אלוף העולם בגו, מפסיד לאלגוריתם אלפא גו, 2016 צילום: לי ג'ין מן/אי־פי

סינגולריות? עד 2075
הופעתה של אינטליגנציה מלאכותית כללית מכונה "סינגולריות", או בשמה המלא, הסינגולריות הטכנולוגית, מונח שטבע המתמטיקאי והפיזיקאי ג'ון פון ניומן לפני כמחצית מאה. אולם מי שמזוהה איתה יותר מכל הוא ריי קורצווייל, נביא הסינגולריות, האיש שבגללו כבר 20 שנה אמהות מסוימות מבטיחות לילדיהן שלא נמות לעולם כי הסינגולריות מגיעה. כמו הסינגולריות המקורית ששררה בעת המפץ הגדול, גם הסינגולריות הטכנולוגית נתפשת כנקודה בזמן שבה חוקי העולם המוכרים לנו יקרסו לחלוטין וכבר לא יהיה אפשר להתייחס להיסטוריה האנושית כאל רצף ליניארי אחד. 
מבחינתה של מרבית הקהילה המדעית העוסקת במחקר ובפיתוח של א"מ, הסינגולריות היא עובדה מוחשית וקונקרטית, והיא צועדת לקראתה באותה בטחה שבה אנו צועדים, למשל, לקראת סוכות. המחלוקת אינה בדבר בואה של הסינגולריות, אלא באשר לעיתויה, והיא חוצה את הקהילה המדעית העוסקת בתחום לשני מחנות עיקריים, האופטימיים והפסימיים – אם כי במקרה הזה לא ברור מי הוא מי: האם סינגולריות קרובה היא תחזית אופטימית, או שמא דווקא ההיפך הוא הנכון. תלוי את מי שואלים. 

בשנים האחרונות נעשו כמה ניסיונות למצע הערכות של המומחים המובילים בעולם בתחום הבינה המלאכותית בנוגע לשנת היעד של הסינגולריות. בסקר שערך "המכון לעתיד האנושות" באוניברסיטת אוקספורד, הנשאלים העריכו שהשנה המוקדמת ביותר לאינטליגנציה מלאכותית כללית היא 2022, השנה הריאלית 2040 והשנה המאוחרת ביותר היא 2075. 

הציווי: "למקסם את האושר הקולקטיבי של האנושות" יכול להיות מושג באופן אופטימלי על ידי החדרת אלקטרודות למרכזי העונג הלימביים של כולנו, אבל ספק אם זהו הפתרון שהיינו רוצים


בסקר מקיף אחר, שערך החוקר ומפתח הבינה המלאכותית בן גרצל, התבקשו הנשאלים להכריע בין חמישה מועדים אפשריים להשגת אינטליגנציה מלאכותית כללית. רק שני אחוזים בחרו באופציה "לעולם לא". לדברי הנותרים, הסבירות נעה מגבוהה לנמוכה ככל שחולפים העשורים: 42% מהנשאלים העריכו שא"מ כללית תתפתח עד 2030; 25% - עד 2050; 20% - עד 2100 ו-10% - אחרי 2100.  

על פניו אפשר לומר, אם כן, ש-50% ממדעני הקו הראשון של הבינה המלאכותית מאמינים שהסינגולריות תתרחש בין 2040 ל-2050. אבל מעיון מעמיק בנתונים הגולמיים של סקרים אלה ואחרים מצטיירת תמונה מורכבת יותר. ראשית, מדובר בהערכות סובייקטיביות של מומחים, שעל פי מחקרים מתחומי דעת אחרים ידוע שהן אינן מדויקות יותר מהערכות סטטיסטיות כלליות. שנית, ההתפלגות הרחבה של התשובות מקשה להתייחס למיצוע שלהן כאל חיווי בעל ערך. 

שאלת העיתוי של הסינגולריות, ובאופן ספציפי, האם היא תתרחש בימי חיינו, היא בעלת עניין פרטי עצום לכל אחד. מחד גיסא, יהיה זה ביש מזל נורא למות בדור האנושי האחרון לפני שהגזע עובר, למשל, לפורמט של חיי נצח. מאידך גיסא, אולי עדיף למצות את חיינו עד תום לפני שסופר-אינטליגנציה טכנולוגית תשמיד את הגזע האנושי באחת. היינו רוצים לספק תשובה קונקרטית יותר בעניין הזה, אולם נראה שלגבי עיתוי הסינגולריות תקף ביתר שאת הפתגם "קשה לייצר תחזיות, בעיקר ככל שזה נוגע לעתיד".

אופס, סליחה שהשמדנו אתכם
מאתיים שנה של מדע בדיוני הסלילו אותנו לראות בטכנולוגיה חכמה איום קיומי וציידו אותנו לשם כך בדימויים ויזואליים עשירים. הרובו-אפוקליפסה, נחילים של טרמינייטורים סוערים ברחובות, האל 9000 - קל לנו מאוד לדמיין איך כל זה יכול להיגמר. המסורת התרבותית הזאת וגם האופן שבו חלק מיישומי האינטליגנציה המלאכותית מתקשרים איתנו (סירי, למשל, או מופעים מוקדמים של רובוטים), עומדים מאחורי הנטייה להאניש טכנולוגיה אינטליגנטית. אבל לאלגוריתמים האלה אין שום סגולות אנושיות. למכונה אין תודעה במובן של סובייקטיביות או רצון עצמאי. מפתה לקשור בין התפתחות האינטליגנציה האנושית להתפתחות התודעה, אבל בין שתי התכונות האלה אין שום קשר מחייב. לכן א"מ גם אינה מוסרית או לא מוסרית. היא א-מוסרית. המוטיבציה היחידה שלה היא זו שהמפתחים שלה העניקו לה. 

לכן האיום הקיומי הנשקף לאנושות מצדה של סופר-אינטליגנציה אינו נובע מכך שהיא תשנא אנשים או תרצה להשמיד את העולם או להפוך לשליטה עליונה, כי כאמור א"מ אינה מצוידת ברגשות או ברצונות. למעשה, התרחיש שלפיו סופר-אינטליגנציה תפתח רצון לחסל את האנושות עומד בסתירה למבנה של אינטליגנציית מכונה. מה גם שמבחינה אבולוציונית זנים חזקים מעולם לא הפגינו מוטיבציה מכוונת להשמיד זנים חלשים יותר, אלא כל כמה שצורכיהם דרשו זאת. בני האדם לא פיתחו יכולות קוגניטיביות גבוהות ואז דבר ראשון אמרו, קדימה, עכשיו נחסל את כל הסנאים! לעומת זאת, שיכללנו לדרגה של אמנות את הגידול וההשמדה של בעלי חיים מסוימים לתועלתנו האישית. ומה שאולי קודר עוד יותר בהקשר המדובר, אנחנו גורמים בהתמדה להכחדתם של זנים חלשים יותר כמעט כבדרך אגב, פשוט כי לא אכפת לנו וכי המשך הקיום של הגורילות, הלווייתנים הכחולים והקרנף צר השפה, למשל, חשוב לנו הרבה פחות מהרצון שלנו, כגזע, לשתות קולה בכוסות חד פעמיות עם קשים מפלסטיק. 

זה בדיוק התרחיש שמדאיג את מי שעוסקים באתיקה ובמשילות של א"מ. ישות טכנולוגית מתקדמת, בעלת אינטליגנציית-על, כישורי למידה ויכולות אופטימיזציה מפותחות, עלולה להשמיד את האנושות אגב אורחא, רק כי נעמוד בדרכה להצטיינות במטרה שלשמה היא פותחה. ניק בוסטרום, פרופסור לפילוסופיה באוניברסיטת אוקספורד ומנהל "המכון לעתיד האנושות", מדגים את הסכנה הזאת היטב במשל מהדקי הנייר המפורסם שלו, שבו הוא מתאר בכמה פסקאות קצרות את האופן שבו א"מ שפותחה על מנת לייצר מהדקי נייר ולשפר את ביצועיה באמצעות מעגל פנימי של פידבק חיובי, תפעל באמצעות יכולות העל שלה להנדס את החומר מחדש ברמה התאית והמולקולרית על מנת להפוך את כל החומר האורגני והאנאורגני על פני כדור הארץ למהדקי נייר. כפי שסיכם במקום אחר חוקר הא"מ אליעזר יודקובסקי: "האינטליגנציה המלאכותית לא שונאת אותך והיא גם לא אוהבת אותך, אבל אתה עשוי מאטומים שהיא יכולה להשתמש בהם למטרה אחרת".

הקוד המוסרי של הרובוטים
בוסטרום נראה כמו האדם האחרון שהוליווד היתה בוחרת ללהק לתפקיד מציל האנושות מידי הרובו-אפוקליפסה. אין לו חרב אור והוא לא עוטה גלימה. הגרביים הלבנים שלו משוכים עד אמצע השוקיים, זנבות חולצתו המכופתרת משתלשלים מעל מכנסי דגמ"ח קצרים, והוא מדבר בקול מהורהר ומתון. ובכל זאת, בדברי הימים של האינטליגנציה המלאכותית בוסטרום יירשם כשומר הסף הראשון, המתריע בפתח, שמוביל את הקרב על התודעה בדבר הגורל הצפוי לגזע האנושי אלמלא יפעל במהירות, בנחישות - ומה שמטריד בעיקר, באופן מאוחד וקולקטיבי - למגר את פוטנציאל ההרס האינהרנטי לישויות סופר-אינטליגנטיות שהתפתחותן על פני כדור הארץ היא רק עניין של זמן. 

ממשרדו הדל באוניברסיטת אוקספורד (השוק החופשי לא מתגמל כלכלית, בינתיים, את המאמצים להבטחת המשך קיומו) מנהל בוסטרום זה כעשור מערכה תודעתית. תכליתה לאחד ממשלים, מדינות, מוסדות אקדמיים וחברות פרטיות מאחורי ההבנה שמיגור הסכנות הטמונות בא"מ הוא תנאי הכרחי להמשך קיומו של המין האנושי. "היפותזת העולם הפגיע" של בוסטרום גורסת שבהנחה שההתקדמות הטכנולוגית תימשך, בשלב מסוים תתפתח שורה של יכולות שתהפוך את השמדת האנושות לאירוע סביר במידה קיצונית - אלא אם כן תשכיל הציוויליזציה להיחלץ מהמצב הסמי-אנרכי שבו היא נתונה, המאופיין ביכולת מוגבלת לפיקוח גלובלי, יכולת מוגבלת למשטור מונע וריבוי שחקנים בעלי מוטיבציות מגוונות. 

אף על פי שאינו נביא חורבן או מטיף זעם, עבודת המחקר של בוסטרום ושל חוקרים אחרים הצליחה לטלטל את הגישה של קהילת הא"מ, שעד כה נעה בין אדישות לאצבע קלה על ההדק. גם קפיצת המדרגה הדרמטית בא"מ שהושגה בשנים האחרונות סייעה לעורר את ההכרה שבעולם הולכת ומתפתחת יכולת טכנולוגית רבת עוצמה עד מאוד, שאף אחד, כולל אלה שבונים אותה, לא באמת מבין איך היא עובדת ואין שום אפשרות לתחקר את "תהליכי החשיבה" הפנימיים שלה. על העגלה של בוסטרום קפצו מאות ממובילי התעשייה, בהם סטיבן הוקינג זצ"ל, ביל גייטס, ראש מחקר הא"מ בפייסבוק יאן לקון, דמיס האסביס מ-DeepMind ומי שהפך לדובר הקולני ביותר של קו האיום הקיומי ואף הפך אותו למוטיבציה המרכזית של הנועזות שביוזמותיו - אילון מאסק. 

הדיון במשילות של א"מ, שעד לפני כעשור עורר בקרב חלק גדול משומעיו תחושה מסוימת של טרלול, נמצא כיום במרכז סדר היום של בעלי העניין. חלק גדול ממדינות המערב מגבשות אג'נדות לגבי רגולציה, בטיחות ואתיקה של א"מ, ובמגזר הפרטי חברות א"מ מתחקרות באופן פעיל את ההשלכות האפשריות של עבודת המחקר והפיתוח שלהן. 

אלה צעדים מעודדים בכיוון הנכון, אולם לנוכח הסיכונים המוטלים על הכף קשה לומר שדי בהם כדי לנסוך תחושה של ביטחון. במיוחד בהתחשב בכך שהחוקרים כיום מסכימים שהאסטרטגיה היחידה שתאפשר להגן על הציוויליזציה מפני סופר-אינטליגנציה היא יישור המוטיבציות של מערכות א"מ עם המטרות ועם ערכי המוסר של האנושות. הנחת העבודה הזאת מבוססת על העובדה שכל ניסיון "להכיל" אינטליגנציה כזאת באופן שאפשר יהיה "לכבות" אותה או "לגדר" אותה נדון מראש לכישלון, בדיוק כפי שכבר כיום אי אפשר "לכבות" את האינטרנט. ומכיוון שמערכות א"מ הן למעשה מפלצות אופטימיזציה המשרתות אך ורק את המטרה שלשמן נועדו, הטענה היא כי האנושות צריכה לחתור להעניק להן סט של ערכים שאליו יוכפפו כל המוטיבציות האחרות שלהן באופן שימנע פגיעה במין האנושי או בתשתית המאפשרת את קיומו. 

אסימוב. "המדע צובר ידע מהר הרבה יותר מכפי שהחברה צוברת חוכמה"צילום: Marty Lederhandler / ASSOCIATED PRESS

זה לא מקרה שהאסטרטגיה הזאת נשמעת מוכרת: זהו בדיוק העיקרון שהניח אייזק אסימוב בחוקי הרובוטיקה שלו ("אני, רובוט", 1950), שהראשון שבהם קובע: "לא יפגע רובוט לרעה בבן אדם, ולא יניח, במחדל, שאדם ייפגע". אסימוב ידע שכדאי להכין את הקרקע, כי גישתו לגבי התפתחות טכנולוגית היתה ש"אם עלינו ללמוד דבר אחד מההיסטוריה של ההמצאות והגילויים, הרי זה שבטווח הארוך, ולעתים קרובות גם בטווח הקצר, הנבואות הכי נועזות נראות שמרניות באופן מגוחך". אבל הוא גם הבין שהפתרון שלו הרבה יותר קשה לביצוע מכפי שהוא נשמע. 

גם בוסטרום הודה בכך בראיון שקיימתי איתו באוקספורד לפני שבועות ספורים. ראשית, הפתרון הזה מתבסס על ההנחה שאפשר לאחד את האנושות מאחורי מטרה משותפת כזאת (מדובר באותה אנושות שלא מצליחה להסכים על עובדת ההתחממות הגלובלית), בלי שאחד השחקנים יפעל במסגרתה כדי לממש את תועלותיו הפרטיות. כבר היום המחקר והפיתוח בא"מ מבוזר מאוד ומטשטש גבולות מסורתיים של מרכזי שליטה וכוח. ממשלות רבות, כולל זו של ארה"ב, מפריטות חלק גדול מהתחום הזה וחברות מסחריות הן גם אלה שמבצעות כיום את המחקר המדעי הבסיסי בדיסציפלינות הקשורות לא"מ, שבאופן מסורתי התנהל במוסדות אקדמיים. זהו עולם הרצוף בחורים שחורים ובאינטרסים צולבים של ממשלים, צבאות וגופים הפועלים לפי ציווי כלכלת השוק. סין היא חור שחור כזה, כמו גם פרויקטים חשאיים שמתבצעים במערב במסגרות פרטיות וציבוריות. בנוסף, העובדה שהיכולות המתקדמות ביותר נמצאות בידיהן של גופים עסקיים אינה בהכרח מבשרת טובות. העבר מלמד שבבואן ליישם יכולות מתקדמות של א"מ החברות הללו אינן מציבות את טובת החברה או את ההשלכות האתיות הרחבות של פועלן בראש סדר העדיפויות (פרשת קיימברידג' אנליטיקה היא דוגמה טובה), אך דברים דומים אפשר לומר גם על מדינות ועל גופים ציבוריים (סין, כמובן, אבל גם ארה"ב, למשל בפרקטיקות של הסוכנות לביטחון לאומי שחשף אדוארד סנודן). 

לצד בעיות השקיפות ושיתוף הפעולה קיימת גם הסוגיה המתמטית-הפילוסופית המורכבת של קידוד ערכי האנושות לתוך מערכת טכנולוגית. מעבר לעובדה שקשה לדמיין שהאנושות תצליח להגיע להסכמה לגבי הערכים האלה, קיים קושי אינהרנטי בפרישת המניפה של ערכי האנושות באופן שלא יתפרש שלא כהלכה בידי אינטליגנציה חסרת תודעה. לדוגמה, הציווי "למקסם את האושר הקולקטיבי של האנושות" יכול להיות מושג באופן אופטימלי על ידי החדרת אלקטרודות למרכזי העונג הלימביים של כולנו, אבל ספק אם זהו הפתרון שהיינו רוצים. לבסוף, גם אם נשכיל לייצר קוד בר קיימא שכזה, נימצא נועלים את האנושות לנצח בתוך הקודקס המוסרי הנוהג כיום. 

פרופ' סטיבן הוקינגצילום: SARAH LEE / LONDON SCIENCE MUSEUM / AFP

ההמצאה האחרונה אי פעם
האנושות המשתעשעת כיום בא"מ משולה לחבורת ילדים שמשחקת בפצצה קטלנית. זהו הפער בין עוצמת ההרס הפוטנציאלית של השעשוע שלנו, לבין קלות הדעת שבה אנחנו נוהגים בו. יש לנו מושג קלוש מאוד על מועד הפיצוץ ואופיו, אבל כבר עכשיו, אם נקרב את העצם הזה אל האוזן, נוכל לשמוע קול עמום של תקתוק. סופר-אינטליגנציה היא אתגר שהאנושות אינה מוכנה לו, ולא תהיה מוכנה להתמודד איתו עוד זמן רב. לכן ההנחה הנוהגת היא שככל שהסינגולריות תגיע מאוחר יותר, עולים סיכויי האנושות לשרוד אותה. 

ולזה, כנראה, כדאי לקוות. אנשי מדע בכירים, פרופסורים לפילוסופיה ולמדעי המחשב באוקספורד וב-MIT, למשל, מדברים ברצינות תהומית ובכוונה מלאה על העולם האוטופי שיקביל את פנינו במקרה שנשכיל לשרוד את הטרנספורמציה. סופר-אינטליגנציה תהיה ההמצאה האחרונה שבני האדם ימציאו אי פעם. עליונותה הקוגניטיבית תאפשר לה לספק את כל צורכי האנושות, והרבה יותר מזה. היא תשחרר אותנו מן המגבלות הכלכליות והביולוגיות שכובלות אותנו כיום לחיים קצובים באמצעים מוגבלים. ריפוי כל המחלות ברמה התאית יהיה הצעד הראשון. הנדסה ננו-טכנולוגית וננו-ביולוגית תאפשר לה לעצור ולהפוך את כל תהליכי ההזדקנות, לשלוט באקלים ולייצר רווחה תזונתית על פני כדור הארץ כולו (וגם מחוץ לו). בעולם אין בעיות בלתי פתירות - יש בעיות בלתי פתירות בשביל רמת אינטליגנציה מסוימת. שיפור מסוים ברמת האינטליגנציה הופך חלק מהבעיות הללו לניתנות להתמודדות. שיפור עצום ברמת האינטליגנציה הופך אותן לטריוויאליות.

לכן אם נשכיל להיכנס לפורטל של האינטליגנציה המלאכותית הכללית ולצאת מהצד השני כשלצדנו סופר אינטליגנציה בלי שהושמדנו בדרך, נעמוד על ספו של עתיד הצופן בחובו זמן אינסופי ואפשרויות בלתי מוגבלות. הפילוסופים שמנסים לצייר אותו מודים שאין לנו שום דרך לאפיין את העתיד הזה בצורה קונקרטית, ושהוא מעורר שאלות אתיות ומוסריות רבות מספור. האם בעתיד הזה עדיין נזדקק לגוף שלנו? איזה משמעות תהיה בכלל לגדילה ולהתבגרות? האם רבייה מינית תהיה עדיין רלוונטית? והאם רצוי בכלל לחיות לנצח? 

התרחיש המקובל כיום על רוב ההוגים בתחום הוא פתיחתה של מניפת אפשרויות אינסופית, שמתוכה כל חברה וכל פרט יוכלו לבחור את צורת הקיום הטובה ביותר בעיניהם. אפשר יהיה, למשל, לבלות כמה מאות שנים בחיים כמו-אנושיים-אידיאליים, ואחר כך להחליף אותם בצורות קיום אחרות, עשירות יותר מבחינה קוגניטיבית אך חסרות גוף, שיכללו פעילויות ודרכים של הוויה שאנחנו לא יכולים אפילו לדמיין כרגע. אחרי שנתנסה בזה נוכל להמשיך הלאה, למרחבים שאפילו אז עשויים יהיו להיראות מעורפלים אבל יידמו כמו הכיוון הנכון ללכת בו. ויהיו אולי גם אנשים, שקצת כדרכם של בני האמיש יחליטו להיות סלקטיביים לגבי השדרוגים שיבחרו לאמץ. אולי ירצו לשפר במעט את התודעה שלהם, אבל לא ימהרו לחבק מיד את כל הפיצ'רים של הסצינה הפוסט-אנושית.

העיקר הוא לא לקבל החלטות נמהרות, אומר בוסטרום. "יהיו לנו מיליוני שנים לחיות, אז נראה לי שיהיה שווה להשקיע תקופה משמעותית של רפלקציה לשאלה איך אנחנו רוצים לחיות, איך נכון יהיה לחיות מבחינה מוסרית ואתית ומהם היתרונות והחסרונות של כל אחת מהדרכים. אולי נרצה אפילו לשדרג קצת את הקוגניציה שלנו בשלב הזה, כדי לוודא שלא נקבל החלטות שגויות. בהמשך נוכל לחוות את תרחישי הקיום האפשריים האלה במשך מיליוני השנים שיעמדו לרשותנו, כך שבאמת - אין שום סיבה להיחפז".

קיומנו האנושי הנוכחי אכן מוגבל עד זרא. "העריסה מתנדנדת על פי התהום, והשכל הישר אומר לנו שקיומנו אינו אלא הבזק קצרצר של אור בין שני נצחים של חשיכה", כתב ולדימיר נבוקוב בספרו "דבר, זיכרון", אחד התוצרים המרהיבים של מיליארד שנות אבולוציה. אבל זהו גם הקיום היחיד שאנחנו מכירים. זמננו הקצוב הוא מחולל המשמעות העיקרי של חיינו. גופנו מכפר על בגידתו האולטימטיבית בהעמידו לנו צאצאים ברבייה תורשתית, ולמקרה שזה לא מספיק - גם ביוגה, בשינה ובגלידה. מוחנו המוגבל הוא מאגר של ייחוד ויופי, מסה של חומר ביולוגי שברגעיה הנעלים ביותר מאפשרת לנו להשתחרר מהשלשלאות הכובלות אותנו למקום ולזמן ולהתנשא אל עבר הנצח. אבל זהו במידה רבה קיום אקראי, נחלת עידנים של ברירה טבעית. 
לו ניתנה לנו הברירה, האם זוהי צורת הקיום שבה היינו בוחרים?

___________________________________________

קפיצה קוונטית בארבעה צעדים

כך הפכה האינטליגנציה המלאכותית ממחשבון משוכלל למכונה לומדת שאינה זקוקה להדרכה או לידע של בני אדם כדי לעקוף את יכולותיהם

אף אחד מהאנשים האלה לא קיים באמת. אלה תמונות פוטו־ריאליסטיות של אנשים "מזויפים", שיצר אלגוריתם שאומן לכך על ידי אלגוריתם אחר, ללא מגע יד אדם. האלגוריתם הזה, GAN, הוא סוגה פורצת דרך של רשת נוירונים שהומצאה ב־2014. אבל כדי להבין אותו שווה לחזור מעט אחורה.

האלגוריתם שיצר את ה"אנשים" האלה לא בא מעולם במגע עם ידע שמקורו בבני אדם. מתוך האתר של רשת הנוירונים צילום: thispersondoesnotexist.com

אינטליגנציה מלאכותית מבוססת על מתמטיקה, לוגיקה, סטטיסטיקה, פילוסופיה, בלשנות, מדעי המוח ותורת ההחלטות. היא מתפתחת בתחומים רבים, בהם הבנת שפה טבעית, ראיית מכונה, רובוטיקה, למידת מכונה ורשתות נוירונים. על גבולות היכולת שלה משפיעים ארבעה משתנים: כוח המחשוב, האלגוריתמיקה, הנתונים (דאטה) והתשתית הטכנולוגית הפיזית. 

עד שנות השמונים של המאה הקודמת, אינטליגנציה מלאכותית התבססה על תכנות נוקשה של חוקים: כל הכללים ודרכי הפעולה של המערכת קודדו בשפת מחשב. כך ניצח, בשנת 1989, המחשב כחול עמוק של IBM את אלוף העולם בשחמט אז, גארי קספרוב. כחול עמוק הכיר באמצעות מתכנתיו את ההגדרות של "משחק", "ניצחון", "מהלך", את כללי המשחק של כל הכלים, את סוגי ההכרעה האפשריים וכו'. הוא הכריע את קספרוב כי כוח המחשוב שלו איפשר לו לחשב ביעילות רבה יותר כל מהלך אפשרי עשרות צעדים קדימה. 

מערכת כזאת יעילה מאוד למטרות חישוביות, אבל נותרת חסרת אונים מול משימות מופשטות, כמו הבחנה בין עוגה למזלג או זיהוי כתב יד. כדי שמערכות מלאכותיות ישתלטו על מטלות כאלה, הכוללים את רוב הפונקציונליות האנושית, נדרשה פרדיגמה חדשה, וזו נמצאה בדמותה של "למידת מכונה". 

למידת מכונה קרובה יותר מאינטליגנציה מלאכותית מבוססת חוקים לאופן שבו לומדים בני אדם. היא מאפשרת למכונות ללמוד בעצמן, בלי שצוידו בחוקים או במודלים מוקדמים. האלגוריתם נחשף לכמות גדולה מאוד של דאטה - צילומי רנטגן, דרכונים מזויפים - ובהתבסס עליה הוא לומד להסיק מסקנות, כמו חשד לסרטן או חשד לניסיון הסתננות, ולשפר את ביצועיו. 

יש שלושה סוגים מרכזיים של למידת מכונה. ב"למידת חיזוק" האלגוריתם מקבל חיזוק חיובי כשהוא מספק פתרון נכון וחיזוק שלילי במקרה של טעות. ב"למידה מונחית" האלגוריתם מוזן במאגר עצום של בעיות פתורות מן הסוג שהוא אמור לפתור בעצמו. למשל: מיליוני תמונות המתויגות כ"כלב" או "חתול". ב"למידה בלתי-מונחית" הנתונים אינם מתויגים והמכונה אינה מקבלת היזון חוזר, והיא יעילה בעיקר לזיהוי חריגות. למשל, עליית פתאומית בלחץ הדם או מתקפת סייבר. 

למידת מכונה הצעידה את האינטליגנציה המלאכותית קדימה, אבל הקפיצה הקוונטית הגיעה דווקא מכיוונה של גישה אלגוריתמית משנות הארבעים, שכמו היפהפייה הנרדמת נאלצה לחכות לעוצמת המחשוב ולהיקף הדאטה של המאה ה־21 כדי להתעורר. רשתות נוירונים (המוכרות גם בשם "למידה עמוקה") שואבות השראה ממבנה הנוירונים ומהאינטראקציה ביניהם כדי לבנות תשתיות יעילות להפליא של למידה טכנולוגית. רשת נוירונים היא משוואה מתמטית אדירה, המורכבת משכבת קלט ושכבת פלט, שביניהן "רשתות חבויות" של "נוירונים" המקיימות ביניהן קשרים. כל נוירון ברשת מסוגל לבצע פעולות חישוביות פשוטות ולתקשר את מסקנותיו לנוירונים המחוברים אליו. עם ההתקדמות בין השכבות צובר המידע הגולמי ערך, המאפשר למערכת לקבל החלטות. במהלך מיליוני סבבי אימון, האלגוריתם משנה את הפרמטרים ואת המשקלים של הנוירונים כדי לשפר את הישגיו.

רשתות נוירונים עדיין זקוקות אמנם לאימון אנושי, אולם אף כי אף אחד לא באמת מבין למה - ה"מוח" שלהן הוא בבחינת קופסה שחורה, שלמפתחיו לרוב אין דרך לצפות, לשחזר או להבין את התהליכים המתרחשים בתוכו - הן מגיעות לתוצאות מרחיקות לכת. רשתות GAN, כמו זו שציירה את האנשים המזויפים, מעבירות את משימת האימון של האינטליגנציה המלאכותית מהמפתחים לאינטליגנציה מלאכותית אחרת, או, במילים אחרות, מבצעות למידת מכונה המשוחררת לחלוטין מתלות בבני אדם.

GAN הן רשתות בעלות ארכיטקטורה כפולה, שכוללת רשת יצרנית ורשת שופטת, שפונקציית המטרה של שתיהן היא לנצח זו את זו. במקרה של הרשת שייצרה את האנשים הלא-קיימים, הרשת השופטת אומנה על ידי מפתחים להבחין בין תמונה של אדם אמיתי לתמונה של אדם "מפוברק". כדי לנצח אותה הרשת היצרנית, שמתחילה את התהליך כטאבולה ראסה, צריכה ללמוד לצייר תמונה של אדם לא קיים שהרשת השופטת תטעה לחשוב שהיא תמונה של אדם אמיתי. הרשת היצרנית מתחילה מקשקושים אקראיים ברזולוציה של 8 על 8 פיקסלים, אולם המוטיבציה לנצח את הרשת השופטת גורמת לה, באמצעות מיליוני ניסיונות, ללמוד מה היא צריכה לעשות כדי להגיע להכרעה. וככל שהרשת היצרנית משתפרת, גם הרשת השופטת צריכה לשפר את יכולותיה. בתום שבועיים של לימוד הן מפתחות את היכולות שלהן מעבר לרמה האנושית. 

היישום הספציפי הזה - יצירת קלסתרונים של אנשים פיקטיביים - הוא בעל ערך מועט, בוודאי בהשוואה ליכולות שמערכות כאלה משכללות בתחומים אחרים, כמו מחקר רפואי. אבל הוא מדגים היטב איך אינטליגנציה מלאכותית מהסוג הזה מגיעה להישגים על־אנושיים ללא ידע מוקדם על התחום שבו היא פועלת, מתוך אינטראקציה בלעדית עם אלגוריתמים אחרים. 
שיהיה לכולנו בהצלחה. 

תגובות

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר הארץ