החוקר שמעריך שה-AI עלול להכחיד את האנושות בתוך עשור - והפסיק לחסוך לפנסיה
חוקר למידת המכונה ויוצא גוגל, נייט סוארס, מעריך כי הסיכוי ש-AI יוביל להכחדת האנושות בעשור הקרוב עולה על 50%, וטוען כי בשל כך הפסיק להפקיד לפנסיה. בריאיון הוא מזהיר מפיתוח מערכות שיעלו על התבונה האנושית ומבהיר: "החשש שלי אינו אובדן משרות, אלא תרחיש שבו בינה מלאכותית מחסלת את כולם"
חוקר למידת המכונה נייט סוארס, שעבד כמהנדס תוכנה בגוגל ובמיקרוסופט, מעריך שהסיכוי שבינה מלאכותית תביא להכחדת האנושות בעשר השנים הקרובות גבוה מ-50%. בריאיון בפודקאסט עם מנכ"ל מגזין האטלנטיק, ניקולס תומפסון, סיפר כי האמונה הזאת גרמה לו להפסיק לחסוך לפנסיה לפני כעשור.
"אני מניח שכרגע נראה שכנראה לא נשאר לנו עשור", אמר סוארס. לדבריו, הסיכוי ש"אין לנו עשור בשלב הזה" גבוה מ-50%. זו הערכתו של סוארס, ולא נתון שהוצג כממצא מחקרי.
"אני לא חוסך לפנסיה עכשיו", אמר. "יש לי תוכנית חיסכון מהתקופה שעבדתי בגוגל, אבל לא הפקדתי אליה כבר משהו כמו עשור".
סוארס מכהן כיום כנשיא המכון לחקר בינת מכונה, ארגון ללא מטרות רווח מברקלי, המוכר בקידום תפיסה פסימית שלפיה פיתוח בינה מלאכותית בעלת יכולות על צפוי להוביל להכחדת האנושות. בריאיון הוא השווה את החיים לצד החשש הזה לחיים תחת איום של השמדה גרעינית.
"זו אולי הפעם הראשונה שאנחנו חיים בצל האפשרות שכל בני האדם ימותו בבת אחת, אבל ברמה האישית תמיד חיינו בצל מגפות, בצל מלחמה", אמר סוארס. "ומה שעושים זה לעשות מה שאפשר, ואז לחיות חיים טובים". לדבריו, הוא עושה כל שביכולתו כדי למנוע הכחדה בידי בינה מלאכותית, ואינו חושב שהיא בלתי נמנעת.
תומפסון הביע ספק באפשרות שהבינה המלאכותית תשמיד את האנושות, והזכיר שגם לטכנולוגיה המתקדמת ביותר הזמינה כיום יש עדיין לא מעט קשיים ומגבלות. סוארס השיב בהשוואה לתהליך שבו מכוניות החליפו בהדרגה את הסוסים.
"אפשר לדמיין הרבה סוסים מסתכלים על התפתחות המכונית ואומרים: 'ובכן, יש את כל הדברים האלה שהמכונית עדיין לא יכולה לעשות'", אמר סוארס לתומפסון. "אנחנו רואים שמערכות בינה מלאכותית משתפרות בעוד ועוד דברים. אנחנו רואים שהן מסוגלות לקחת על עצמן משימות ארוכות יותר ויותר".
סוארס הבהיר שהחשש שלו אינו מתרחיש שבו הבינה המלאכותית תחסל את שוק העבודה. "אני לא איש של 'אפוקליפסת משרות בגלל בינה מלאכותית'. אני איש של 'בינה מלאכותית הורגת את כל בני האדם'", אמר בהומור שחור. "במקרה הזה דווקא תהיה תעסוקה מלאה. נהיה בתעסוקה מלאה רגע לפני שיהרגו את כולנו".
הפתרון שסוארס מציע הוא להגביל את הגדלת היקפן ויכולותיהן של מערכות הבינה המלאכותית. לדבריו, שימושים קיימים, כמו ניסיון למצוא תרופות לסרטן, מקובלים עליו. "אבל בינה מלאכותית שמנסה לחקות את האינטליגנציה האנושית ולהתעלות עליה היא לא מה שאנחנו רוצים", אמר. "אנחנו לא צריכים לשאוף לזה".