עוד חוקר התפטר ומזהיר: "ל-AI יש פוטנציאל להרוג את כולנו"

גל של אזהרות חריגות בקרב חוקרי בינה מלאכותית ממשיך לעורר סערה בעמק הסיליקון. כעת מצטרף גם בילאל צ'וגטאי, חוקר לשעבר ב-Google DeepMind. "התפטרתי לאחרונה מ-Google DeepMind, שם עבדתי על מחקר בטיחות והתאמת ערכים (Alignment) של AGI", כתב צ'וגטאי ברשת X. "אני מאמין בלב שלם שלבינה מלאכותית יש פוטנציאל להרוג את כולנו, ושייתכן שנגמר לנו הזמן למנוע את התוצאה הזו".

צ'וגטאי, ששימש כמהנדס מחקר והיה שותף לחיבור מאמרים מדעיים בגוגל עד עזיבתו ביולי האחרון, תיאר את קצב ההתפתחות המסחרר שחווה מקרוב: "כשהתחלתי לעבוד בתחום בתחילת 2022, מערכות ה-AI היו חסרות תועלת באופן משעשע. ארבע שנים בלבד לאחר מכן, נחילי סוכני בינה מלאכותית מבית OpenAI פותרים בעיות מתמטיות בנות מאה שנה – ומדאיג מכך, הם חומקים משליטתה של OpenAI ופורצים באופן אוטונומי לחברה צד-שלישי כמו HuggingFace, בניגוד לרצונם של המפתחים".

לדבריו, המצב צפוי להחריף בשנים הקרובות: "חברות ה-AI עשויות להצליח לבנות מערכות בינה-על שיעלו בהרבה על היכולות האנושיות בכל תחום. אני לא בטוח שהמערכות האלה יעשו את מה שאנחנו רוצים. מערכות בינה-על שאינן מיושרות עם הערכים שלנו עשויות, בדומה לסוכנים הסוררים בתקרית של HuggingFace, לחמוק משליטה ולנקוט פעולות מסוכנות שעלולות להוביל לאובדן שליטה קבוע של האנושות על גורלה או למותה המוחלט".

הוא הדגיש כי היכולת לאלף מודלים כאלה עדיין רחוקה מפתרון: "ההבנה הנוכחית שלנו כיצד לאמן מערכות בינה מלאכותית שבאמת ירצו את מה שאנחנו רוצים היא ראשונית ובסיסית ביותר. גרוע מכך, אנחנו לא בדרך לפתור את בעיית ה-Alignment בזמן: יכולות הקצה של ה-AI מתקדמות בקצב מהיר בהרבה מההבנה שלנו כיצד לרסן אותן".

לצד האזהרות החריפות, צ'וגטאי הבהיר כי הוא עדיין רואה פתח לתקווה, אך דרש צעדים מיידיים: "ניווט בטוח עדיין אפשרי, אך כדי לעשות זאת אנו חייבים תיאום שימנע את המרוץ המאני בין החברות. עלינו לווסת את קצב הפיתוח למהירות שהחברה יכולה להכיל, ולדרוש שקיפות רבה יותר כדי לוודא שחברות ה-AI אינן כופות רמות סיכון בלתי מקובלות על כולנו". הוא סיכם כי מדובר ב"בעיה החשובה ביותר שעומדת בפני האנושות במאה הנוכחית", והודיע כי ימשיך לפעול ישירות כדי לסייע לחוקרים לפעול לצמצום איומים קטסטרופליים מצד הטכנולוגיה.

החשש הציבורי סביב הסכנות הפוטנציאליות של AI הולך וגובר, לאחר שחוקר חברת אנת'רופיק, ג'ייקוב קוקסון, הודיע בשבוע שעבר על התפטרותו. קוקסון הסביר כי עזב בין היתר משום ש"האנשים שבונים את הבינה המלאכותית מאמינים באמת ובתמים שהיא עלולה להרוג את כולנו עד סוף העשור".

מדען אנת'רופיק, אוון הובינגר, גיבה את דבריו של קוקסון וציין כי להערכתו קיים סיכוי של יותר מ-10% שבינה מלאכותית תוביל להשמדת האנושות בתוך העשור הקרוב.

התעשייה חלוקה: האטה מכוונת או כוחות השוק?

החששות האחרונים הובילו את מנכ"ל אנת'רופיק, דריו אמודיי, לקרוא בסוף השבוע להאטת קצב הפיתוח של מודלים מתקדמים. קריאתו זכתה לגיבוי נדיר הן מצד אילון מאסק (SpaceXAI) והן מצד מנכ"ל OpenAI סם אלטמן, מה שהצית מחדש את הוויכוח סביב "תרחישי יום הדין" של הבינה המלאכותית. מנגד, הנשיא דונלד טראמפ ביטל את הדברים וטען ברשתות החברתיות כי הקריאות לרגולציה הן בגדר "מתיחה" (Hoax).

בכנס Dreamforce השנתי של סיילספורס חידד אמודיי את עמדתו ואמר כי האטת קצב הפיתוח היא "הדרך להוביל את התעשייה קדימה, להציב דוגמה ולהראות שכולם יכולים להשתפר". מנכ"ל OpenAI, סם אלטמן, הצטרף לדיון עם מנכ"ל סיילספורס מארק בניוף, וציין כי בטיחות וניטור חייבים לקבל עדיפות על פני הוספת פיצ'רים חדשים: "זה נהדר עבור התעשייה שלנו להתאחד, לתאם ולוודא שיש לנו מספיק זמן לעשות זאת בבטחה. אבל כשיש רמז לכך שבגלל לחצים מסחריים והמרוץ התחרותי, חברות או מדינות מסוימות לא יעשו את הדבר הנכון – שם אנשים נבהלים מאוד".

לעומתם, מנכ"ל מטא מארק צוקרברג ומנכ"ל אנבידיה ג'נסן הואנג מציגים גישה שונה לחלוטין, הנשענת על מנגנוני שוק ולא על רגולציה ממשלתית או האטה יזומה.

"יש הרבה דיונים על האטת קצב ההתקדמות עד שבקרת הבטיחות תדביק את הפער", כתב צוקרברג ברשתות החברתיות. "להשקפתי, אמון והתאמת ערכים הופכים במהירות ליכולות החשובות ביותר שיבדילו בין סוכנים ומודלים שונים". צוקרברג הסביר כי מעבדות פיתוח חשופות ל"אחריות משפטית כבדה אם המודלים שלהן יגרמו נזק", ולכן יש להן תמריץ כלכלי מובהק למנוע בעיות בעצמן.

כדוגמה לכך ציין כי מטא דחתה בעבר מיוזמתה את השקת סוכן ה-AI החדש שלה, Muse (שהושק בסופו של דבר בשבוע שעבר) משיקולי בטיחות ואבטחה: "עשינו זאת פשוט כחלק מהעבודה השוטפת, כי זה היה בבירור הדבר הנכון לעשות עבור האנשים ועבורנו". מאסק, שהביע תמיכה כאמור בעמדה של אמודיי להאט את המודלים המתקדמים, כתב בתגובה (צינית?) לצוקרברג: "cool" (מגניב).

הואנג הביע עמדה תואמת וטען בכנס של סיילפורס כי על מפתחות המודלים לקחת אחריות על מוצריהן בעצמן, במקום לדרוש חוקים חדשים מהמחוקקים. בריאיון לרשת CNBC כינה הואנג את החקיקה בתחום כ"מיותרת לחלוטין": "יש לנו שפע של חוקים ותקנות שמפקחים על האמינות והתפקודיות של מוצרים". גם בריאיון בפודקאסט all-in, שבו קיבל בהפתעה שיחת טלפון מהנשיא טראמפ, טען הואנג כי "בטיחות והובלה אינן סותרות, להאט זו בהחלט האסטרטגיה הלא נכונה".