דיווח: מנכ"ל אמזון הזהיר את ממשל טראמפ מסיכוני האבטחה במודלים של אנת'רופיק - שהובילו לחסימה

לאחר הדרמה סביב הורדת המודלים החדשים של אנת'רופיק, אנחנו מגלים קצת על מאחורי הקלעים של החלטת הבית הלבן. על פי דיווחים בארה"ב, היה זה מנכ"ל אמזון, אנדי ג'סי, אחד מבכירי חברות הטכנולוגיה שהביעו השבוע חששות מסיכוני אבטחה במודלי הבינה המלאכותית המתקדמים של חברת אנת'רופיק בפני בכירים בממשל טראמפ, כך נמסר לרויטרס מגורם המעורה בפרטים. מעורבותו של ג'סי שופכת אור על הצעד החריג של החברה ביום שישי בלילה, שבמסגרתו השביתה את המודלים החדשים שלה ברחבי העולם בעקבות צווי ביטחון לאומי מטעם הממשל.

ממשל טראמפ הורה לאנת'רופיק לחסום גישה של כל אזרח זר, בתוך ארה"ב ומחוצה לה, לשני המודלים החדשים שלה, Fable 5 ו-Mythos 5. בתגובה הודיעה החברה כי תשבית את הגישה למודלים בכל העולם. ההגבלות הוטלו באמצעות מנגנון של פיקוח על יצוא, כך לפי פוסט בבלוג של החברה.

החברה, שבסיסה בסן פרנסיסקו והגישה בקשה חסויה להנפקה ראשונית בארה"ב, הזהירה בעבר מפני יכולות הפריצה של מודל מיתוס ובלמה את הפצתו הרחבה. מוקדם יותר השבוע השיקה גרסה ציבורית בשם Fable, שלדבריה כללה אמצעי הגנה בתחום הסייבר. בבלוג של אנת'רופיק נכתב כי הממשל האמריקאי הודיע לחברה שקיימת שיטה לעקיפת אמצעי ההגנה, מה שמאפשר להשתמש במודל לאיתור פרצות סייבר. החברה טענה מנגד כי העקיפה חשפה רק פרצות "מינוריות" שגם מודלים ציבוריים אחרים מסוגלים לאתר.

בדיווח של הוול סטריט ג'ורנל, נטען כי חוקרי אבטחה של אמזון הצליחו לגרום ל-Fable להוציא מידע שימש האקרים לתקיפות סייבר, אותו תרחיש אימים ממנו פחדו כולם. אך פה המצב מסתבך, במקום לפנות לחברה ולהודיע להם, כפי שעושים בדרך כלל במצבים כאלה, אמזון יצרו קשר ישיר עם הבית הלבן מה שהוביל בסופו של דבר לאותו צו. יש לציין כי מערכת היחסים בין אנת'רופיק לאמזון מורכבת. מצד אחד, הם מתחרים מכיוון ששתי החברות מייצרות מודלי AI, מצד שני, אמזון מספקת שירותי ענן לאימוני והרצת מודלי AI והיא גם אחת המשקיעות בחברה של אמודיי וצפויה להרוויח לא מעט מההנפקה המתקרבת של אנת'רופיק.

אמזון לא אישרה אם שוחחה עם גורמים ממשלתיים על המודלים של אנת'רופיק. "כספקית ענן מובילה שמשרתת מספר רב של לקוחות מהמגזר הפרטי והציבורי, לא נדיר שממשלות מבקשות להתייעץ איתנו בנוגע לסיכוני אבטחה אפשריים", מסר דובר אמזון. "כשזה קורה, אנחנו לא חולקים את פרטי השיחות הללו".

יועץ הבית הלבן דיוויד סאקס כתב בפוסט ברשתות החברתיות בשבת כי הצו ניתן "בחוסר רצון" לאחר שמנכ"ל אנת'רופיק, דריו אמודיי, "סירב" "לתקן את פרצת jailbreak או להוריד את המודל". "התקווה של הממשל כעת היא שהחברה תתקן את בעיית הבטיחות, הפיקוח על היצוא יוסר, ו-Fable יחזור להפצה כללית", כתב סאקס, יו"ר משותף של מועצת היועצים של טראמפ למדע וטכנולוגיה ולשעבר "צאר ה-AI" של הבית הלבן.

חלק מהמומחים שתומכים בפיקוח יצוא על מודלי AI מתקדמים מצאו את הצעד תמוה, מאחר שהוא משפיע גם על מדינות בעלות ברית ולא רק על יריבות. "זה לא היה מחושב היטב", אמר ג'ימי גודריץ', עמית בכיר במכון לסכסוכים גלובליים ושיתוף פעולה באוניברסיטת קליפורניה. "זה אפילו אוסר על קנדים ובריטים המועסקים ב-Anthropic לעסוק במחקר ופיתוח". לפי דיווח של אתר The Information, שציטט גורם רשמי בארה"ב, הממשל אינו צפוי לכפות על חברות AI אחרות הגבלות דומות לאלו שהוטלו על אנת'רופיק.

היחסים בין הממשל האמריקאי והחברה הידרדרו מוקדם יותר השנה, לאחר שהחברה סירבה לאפשר לצבא האמריקאי להשתמש במודלים שלה למעקב פנימי או למערכות נשק אוטונומיות לחלוטין. בעקבות זאת הוכנסה אנת'רופיק לרשימת מעקב של שרשרת האספקה הממשלתית, צעד שאמור להיכנס לתוקף בהמשך השנה. גם שר המלחמה של ארה"ב פיט הגסת' שצייץ בנושא וכתב: "לפני שלושה חודשים משרד הביטחון בעט את אנת'רופיק מחוץ לבניין. כל יום שעובר מוכיח שצדקנו".