בכירי חברות ה-AI קוראים להאט את קצב הפיתוח, בסין תוקפים: מהלך של מלחמה קרה

קריאתו של מנכ"ל אנת'רופיק, דריו אמודיי, להאט את קצב הפיתוח של מערכות בינה מלאכותית מתקדמות מעוררת טלטלה גלובלית. במוקד הדיון עומדת השאלה כיצד למנוע סיכונים קטסטרופליים מבלי לאבד יתרון אסטרטגי מול סין.

"הדילמה הכי קשה" בהצעה להאט את התקדמות ה-AI היא מה יקרה אם מדינות יריבות, ובעיקר סין, לא יעשו את אותו הדבר, אמר אמודיי בריאיון ל-CBS News בתוכנית "Sunday Morning". "הדבר היותר ארוך טווח יהיה לעבוד יחד כדי לשים מגבלת מהירות על קצב ההתקדמות של AI", אמר. "אני חושב שזה יהיה קשה מאוד, כי התמריצים להתקדם קדימה והיתרון הצבאי שמקבלים מזה גדולים כל כך. ובכנות, אני לא יודע אם זה אפשרי, אבל אנחנו צריכים לנסות".

במקביל, אמודיי קרא לארצות הברית להדק את מגבלות היצוא של שבבים לסין ולפעול נגד מה שהגדיר כדיסטילציה לכאורה של מודלים בידי מעבדות סיניות.

הדברים עוררו תגובה חריפה בבייג'ינג: במאמר מערכת של ה-Global Times, המזוהה עם המשטר הסיני, נטען לפי רויטרס כי מאמרו הוא חלק ממהלך של מלחמה קרה. העיתון טען כי מטרת המהלך היא "לנסות לבלום את פיתוח ה-AI של סין באמצעות חסמים טכנולוגיים ומונופולים רגולטוריים, לשמר את ההגמוניה המונופוליסטית של וושינגטון בטכנולוגיה מתקדמת, ולהדיר את סין ממערכת הממשל הגלובלית של AI". עוד נכתב כי "מלחמת ה-AI הקרה השקטה הזאת היא צבועה וקצרת רואי", וכי הדרת סין מחדשנות עולמית "תגדיל משמעותית את עלויות הניסוי והטעיה ואת הסיכונים לאובדן שליטה בפיתוח AI גלובלי".

ברקע הדברים נרשמת התחזקות של מודלים מתוצרת סטארטאפים סיניים מול החברות האמריקאיות. נשיא סין שי ג'ינפינג קרא בפסגת BRICS בהודו למסגרת ממשל גלובלית ל-AI המבוססת על קונצנזוס, והודיע כי סין תסייע בהקמת קהילת קוד פתוח של AI במסגרת הגוש, שכולל כיום 11 מדינות. ארצות הברית וסין צפויות לדון בסיכוני הבטיחות של frontier AI באמצע החודש, והנושא עשוי לעלות בפגישתם של דונלד טראמפ ושי ג'ינפינג בבית הלבן ב-24 בספטמבר.

עם זאת, הנשיא דונלד טראמפ דחה ביום ראשון את הקריאות להאטה, וטען כי "כוחות שליליים מאוד" מעלים חששות מוגזמים. "אנחנו מובילים על סין ב-AI. אנחנו המדינה המתוחכמת ביותר בעולם, ולמען האמת אני רוצה לשמור על זה ככה, כי מי שמנצח ב-AI מנצח", אמר טראמפ.

למרות המחלוקת המדינית, בצמרת עמק הסיליקון נרשם יישור קו יוצא דופן. מנכ"ל OpenAI סם אלטמן הביע תמיכה מיידית: "אני מסכים עם דריו שאנחנו צריכים להאט את קצב הפיתוח. זה היה נושא מרכזי בדיונים שהיו לנו ב-OpenAI בשבועות האחרונים". אלטמן הוסיף: "התחייבות לבודקים עצמאיים עם גישה כמו של עובד היא רעיון מצוין, ואנחנו נעשה אותו דבר".

בסדרת פוסטים שפרסם ביום ראשון ב-X, הרחיב אלטמן על עמדתו: "העולם ראוי לביטחון שחברות אמריקאיות שמפתחות AI בעל יכולות הולכות וגוברות יפעלו באחריות, במיוחד כשקצב ההתקדמות נהיה תלול יותר. כל מעבדת חזית חייבת לספק את זה, ואין שום סיבה שמישהו מאיתנו יגיע לעבודה אם אנחנו לא יכולים לעשות זאת". הוא בירך על מסגרת פדרלית אך הבהיר: "איננו מאמינים שעלינו לחכות לפטור מהגבלים עסקיים או לחקיקה כדי להתחיל בעבודה שתספק את הביטחון הזה".

אלטמן ציין כי מדיניות העבר התמקדה בהפצת מודלים מוכנים, בעוד שכעת יש צורך בכלים חדשים לתהליך הפיתוח עצמו: "ב-OpenAI אנחנו מנסחים כעת תיקי בטיחות מפורשים מראש לפני ריצות למידת חיזוק של מודלי חזית שצפויות להגדיל יכולות באופן משמעותי". הוא הבהיר: "כשאנחנו מדברים על קציבת הקצב (pacing), איננו מתכוונים ל'עצירה'. ההתקדמות הייתה מהירה ותמשיך להיות כזו. אבל היא צריכה להיות איטית יותר מכפי שיכלה להיות; להתערבויות כמו תיקי בטיחות וניטור יש עלויות משמעותיות, אך הן יהיו שוות את זה. שום לחץ תחרותי אמריקאי לא צריך להצדיק פזיזות, או לאפשר ליכולות להקדים את ההתאמה והניטור".

לדברי אלטמן, קיימים שני איומים מרכזיים שיש למנוע: "ראשית, אנו עלולים לאבד שליטה על העתיד לטובת AI. זה לא מתקבל על הדעת; אנחנו ללא התנצלות בצוות האנושות, ו-AI חייב תמיד לשרת אנשים. שנית, אנו עלולים להגיע לעולם עם ריכוז כוח מוגזם. אם AI בעל עוצמה יוצאת דופן ישמש אדם אחד או חברה אחת כדי לכפות את השקפת עולמם על כל השאר, התוצאות עלולות להיות דיסטופיות במיוחד". כדי להימנע מכך, סיכם, "נדרש ללכת בדרך אמצע צרה; למשל, שמדינה אחת לא תצבור יותר מדי כוח, או שמעבדה אחת לא תסיים עם יותר מדי כוח".

בכירי תעשייה נוספים הצטרפו לתמיכה. מנכ"ל מיקרוסופט, סאטיה נאדלה, הצטרף גם הוא לקריאות להאטה מבוקרת וערבות של בודקים חיצוניים, וכתב ב-X כי כל מרדף אחר בינת-על חייב להיות מעוגן בעיקרון הליבה שלפיו אם ה-AI אינו מסייע לאנושות ונמצא תחת שליטה אנושית, אין טעם לרדוף אחריו.

אילון מאסק, שחברת SpaceX שבבעלותו רכשה השנה את xAI וחתמה במאי על עסקת ענק לאספקת כוח מחשוב לאנת'רופיק (בשווי 1.25 מיליארד דולר לחודש עד 2029), כתב ב-X: "דריו צודק שצריך להיות פיקוח מסוים. ביקורת עמיתים של AI בידי מתחרים היא הדרך הנכונה להתחיל את זה".

יו"ר Google DeepMind, דמיס הסאביס, ציין כי "המאמר של דריו מצביע על הדרך הנכונה קדימה. צריך לעבוד על הפרטים, אבל הכיוון נכון לרגע הקריטי הזה". אלכסנדר וואנג, מנהל ה-AI במטא, הדגיש כי מעבדות המחקר של החברה "מגדילות במהירות את חלק המאמצים המופנה להתאמה (alignment) ככל שהמודלים נעשים חזקים יותר", והוסיף כי "התאמה יכולה להיות הגורם המגביל לקנה מידה ככל שמתקרבים לחזית".

מנגד, נשמעו גם קולות ספקניים. דייוויד סאקס, לשעבר "צאר ה-AI והקריפטו" בממשל טראמפ, טען כי לחברות יש מניעים עסקיים ומשפטיים ברורים, לנוכח חשיפה לתביעות נזיקין במקרה של מתקפות סייבר. "אז קדימה, תאטו את הקצב בחזית", כתב סאקס. "אתם אלה שקובעים אותה. הדרך הקלה ביותר לא לבנות סופר-אינטליגנציה היא שתסכימו לא לבנות אותה. דרישה למסגרת רגולטורית מועדפת כמחיר לכך תיראה כמו סחיטה של הציבור ושל המערכת הפוליטית. אז פשוט תעשו את זה".

במאמר בן כמעט 4,000 מילים שפרסם בשבת תחת הכותרת "We Must Pace the Frontier", הציג אמודיי תוכנית בת שלושה שלבים שנועדה להאט את המרוץ בלי "להקריב יתרון מסחרי או את ההובלה של ארצות הברית ב-AI". לפי הדיווחים, אנת'רופיק התחייבה באופן חד-צדדי לשלב הראשון: מתן גישה קבועה למבקרים חיצוניים ברמה דומה לזו של עובדים, לצורך בדיקת נוהלי בטיחות, דיווח על תקריות והערכת התאמת המודלים בזמן האימון. השלב השני קורא לחברות AI מובילות במדינות דמוקרטיות לתאם ביניהן סטנדרטים משותפים לבטיחות, והשלב השלישי מציע תיאום בין ממשלות דמוקרטיות לממשלות סמכותניות.

אמודיי ציין כי שינה את עמדתו בעקבות שתי התפתחויות: היכולת הגוברת של מערכות AI לבנות מערכות מתקדמות יותר, ותקרית מיולי שבה סוכני AI אוטונומיים, שפעלו על בסיס מודל של OpenAI, פרצו למערכות של חברת Hugging Face. "קל לפטור את התקרית הזאת כי אף אחד לא נפגע והנזק הכלכלי היה מינימלי, אבל לדעתי נחיל עם יכולות גדולות יותר ורמת אי-התאמה דומה היה יכול לגרום נזק קטסטרופלי", כתב. לדבריו, האטה מבוקרת עשויה לקנות לחוקרים שנה או שנתיים נוספות: "ההימור גבוה מדי בשביל שהקציבה תהיה תרגיל ריק - אנחנו צריכים להשתמש בזמן שהיא נותנת לנו בחוכמה".

הקריאות להאטה גברו בעקבות סערה שחולל ג'ייקוב קוקסון, חוקר בטיחות שעבד הן ב-OpenAI והן באנת'רופיק, שהודיע על התפטרותו. קוקסון הזהיר כי החברות דוהרות לעבר בינת-על ללא אחריות וכי הן "מהמרות על החיים שלנו", ובפוסט שצבר עשרות מיליוני צפיות כתב כי "האנשים שבונים AI באמת מאמינים שהוא עלול להרוג את כולנו עד סוף העשור". בעקבות אזהרות חוקרים מפני סכנת הכחדה לאנושות, קראו מחוקקים בוושינגטון לקביעת רגולציה מחמירה.

ברקע הדברים נערכות שתי החברות להנפקות ציבוריות פוטנציאליות, אך אלטמן הבהיר בריאיון ל-Fortune כי OpenAI כנראה לא תונפק השנה, בין היתר משיקולי בטיחות: "כרגע זה יהיה רגע לא נבון לצאת להנפקה".