האם מחשבים יוכלו להיות חכמים מבני אדם ולהשתלט על העולם, או שמדובר רק במדע בדיוני? פילוסופים ומדענים באוניברסיטת קיימברידג' מאמינים שהשאלה הזו ראויה לבחינה מעמיקה. האוניברסיטה מקימה מרכז לחקר סכנה קיומית שיאסוף מומחים שיבחנו דרכים שבהן טכנולוגיות סופר מתקדמות כולל בינה מלאכותית "מאיימות על קיומנו". האוניברסיטה הודיעה ביום ראשון כי הקמת המרכז צפויה בשנה הבאה.

"בכל הנודע לבינה מלאכותית, סביר להניח באיזשהו שלב במאה הזו או הבאה, האינטיליגנציה תצליח להשתחרר מהמגבלות הביולוגיות", אמר פרופסור יו פרייס.

כשזה יקרה, "אנחנו כבר לא נהיה הדברים החכמים ביותר בעולם". לדבריו, זה יציב אותנו בסכנה שנהיה תלויים בחסדי "מכונות, שאינן זדוניות, אבל כאלה שהאינטרסים שלהן לא כוללים אותנו".

החשש שמכונות כאלה ישתלטו על האנושות הוא נושא ותיק בעולם המדע הבדיוני - המחשב האל בסרט "2001: אודיסיאה בחלל" למשל הוא אחד מהאיומים הממוחשבים המוכרים ביותר.

מתוך 2001: אודיסיאה בחלל:

פרייס מודה שאנשים רבים חושבים שהחששות שלו הם מוגזמים, אבל הוא מתעקש שהסיכונים הפוטנציאליים הם רציניים מכדי שניתן יהיה לבטלם.

"יש נטייה להתייחס לכך כנושא לא רציני, אבל בהתחשב בכך שאנו יודעים כמה רציניים הסיכונים, ואנחנו לא יודעים מה סדר הגודל של הזמן שבו זה יקרה, ביטול החששות הוא מסוכן. מה שאנחנו מנסים לעשות זה לקדם את הנושא הזה בקהילה המדעית הרצינית".

בעוד שפרייס טוען שקשה לחזות את איך ייראו הסיכונים הצפויים, הוא מאמין שמחשבים עלולים להפוך לסיכון כאשר יתחילו להקצות משאבים למטרותיהם שלהם, על חשבון מטרות אנושיות כמו קיימות סביבתית.

הוא השווה את הסכנה לאופן שבו בני אדם מסכנים בעלי חיים אחרים בהתפשטותם על פני כדור הארץ וניצול משאבים שגם בעלי חיים אחרים זקוקים להם.

פרייס מקים את המרכז בשיתוף עם מרטין ריס, פרופסור לאסטרופיזיקה וקוסמולוגיה, ויאן טאלין, אחד ממקימי סקייפ.