מאהובת הקהל לסיכון לאומי

ימין שמאל

מלחמת עולם לא רק סביב טהרן: טראמפ הודיע שחברת אנת'רופיק, אהובת משתמשי ה-AI, היא שמאלנית רדיקלית. היא הפכה לסיכון לאומי ונכנסה לרשימה השחורה של ספקים בשרשרת האספקה של משרד ההגנה. לא רק שבוטל החוזה של ממשל ארה"ב עם אנת'רופיק - 200 מיליון דולר מיינד יו - מעכשיו אסור גם לשום סוכנות או קבלן של משרד ההגנה האמריקאי להשתמש בקלוד. כלומר, אם אתה ספק וופלים לקפיטריה במוסך מכוניות של הפנטגון בדטרויט - אסור לך לכתוב פרסומות לוופלים בעזרת קלוד.

אז איך הפך ה-AI "הבטוח" של אנת'רופיק האמריקאית - לאויב המדינה, ומה זה אומר?

אז ככה: הפנטגון דרש מאנת'רופיק גישה לקלוד ל"כל שימוש חוקי" (All lawful purposes) בלי שום הגבלה, כמו שדרש מחברות AI אחרות.

בפועל, לפי מקורות של Axios, משרד ההגנה רצה לאסוף וניתוח מידע על אזרחים אמריקאים – מנתוני מיקום, דרך היסטוריית גלישה, ועד מידע פיננסי אישי שנרכש מברוקרים. בנוסף, הפנטגון רצה להשתמש בקלוד לפיתוח כלי נשק אוטונומיים לגמרי – ללא התערבות אדם. והמנכ"ל דריו אמודיי פשוט אמר "לא".

שהבינה תחליט במי לירות?

אמודיי טוען שהמעקב אחרי אזרחים אמריקאים הוא אנטי-דמוקרטי ואנטי-חוקתי, ושלאפשר לבינה מלאכותית להחליט במי לירות? מערכות ה-AI הקיימות פשוט לא מספיק אמינות ויציבות כדי לתפעל נשקים בלי פיקוח אנושי – וזה יכול לסכן גם אזרחים וגם חיילים אמריקאים. את הפנטגון לא עניינו ההסתייגויות האלה. "לא נתחיל לנהל משא ומתן עם כל חברה לקראת כל שימוש", אמרו שם.

את טראמפ זה הרתיח: "אמריקה לעולם לא תיתן לחברה שמאלנית קיצונית להכתיב לה איך הצבא שלה נלחם ומנצח!", פסק הנשיא, והמטיר אש וגופרית על החברה השמאלנית והווקית. בזמן שהוא עושה את זה, ישבו אנשי המפקדות של פיקוד המרכז של צבא ארה"ב, והשתמשו בקלוד לצורך הערכות מודיעין במערכת מול איראן, זיהוי מטרות וביצוע סימולציות של תרחישים מבצעיים.

החוזה מול קלוד אמנם הופסק, אבל הוא כולל 6 חודשים שבהם יצטרך משרד הביטחון למצוא תחליף. אם זה לא מספיק מסובך, שווה לזכור שארה"ב בתחרות מול סין, וסין לא בדיוק שואלת את דיפסיק או את אליבאבא מה דעתן על השימוש שהיא עושה במוצריהן.

קייטי פרי נגד סם אלטמן

ממש כמה שעות אחרי שאנת'רופיק מצאה את עצמה בחוץ, חתמה המתחרה OpenAI של סם אלטמן חתמה על הסכם לאספקת בינה מלאכותית למערכות מסווגות. אלטמן טען שהוא שילב באותו הסכם את אותם שני קווים אדומים שאנת'רופיק דרשה – איסור על מעקב המוני, איסור על הפעלת גלי נשק אוטונומיים ללא ביקורת אנושית, ואיסור על קבלת החלטות אסטרטגיות ללא פיקוח אנושי.

איך זה הצליח לו? עם ניסוח קצת יותר מעורפל: מצד אחד OpenAI הסכימה שהפנטגון ישתמש בטכנולוגיה ל"כל שימוש חוקי", ומצד שני אלטמן טוען שהמגבלות נכנסו להסכם, ושיפותחו מערכות טכניות כדי לשמור עליהן. זה לא מאוד ברור. מה שברור - המלחמה על מי שולט ב-AI הצבאי רק התחילה.

הקהל נוהר לקלוד

הדרמה הזו יצרה גלים בכל בעולם. קלוד זינק למקום הראשון באפסטור של אפל בארה"ב – קפיצה ממקום 42 לפני חודשיים למקום ראשון. אנת'רופיק דיווחה שההרשמות היומיות שברו שיא כל יום השבוע, כמות המשתמשים החינמיים טסה והמנויים בתשלום הוכפלו. אפילו קייטי פרי פרסמה ב-X צילום מסך של ההרשמה לקלוד עם לב אדום וכתבה "Done".

זאת בזמן שהחלה תנועת נטישה של OpenAI, כולל זינוק בכמות הביקורות השליליות על מוצרי החברה.

העובדים של המתחרות הפתיעו: מאות מעובדי גוגל ועשרות מעובדי OpenAI - המתחרות כן - חתמו על מכתב פתוח שקורא לחברות שלהם לעמוד לצד אנת'רופיק ולסרב לדרישת הפנטגון. ואפילו סם אלטמן עצמו אמר שהכרזה על אנת'רופיק כ-supply chain risk - כלומר שאסור לאף קבלן לעבוד איתה - היא "תקדים מפחיד מאוד". אנת'רופיק מצידם הודיעו שיערערו בבית המשפט.

השאלה הישראלית

אגב, אנת'רופיק אמנם ממתגת את הבטיחות בראש סדר העדיפויות שלה – אבל היא עובדת עם גופים צבאיים ומודיעיניים כבר כמה שנים. קלוד בכלל היה הבן יקיר לי של מערכת הביטחון האמריקאית - המודל היחיד שאושר לשימוש ברשתות מסווגות, ולפי דיווחים אפילו שימש בפעולה ללכידת נשיא ונצואלה מדורו.

לפני שאתם מחליטים מה דעתכם, תזכרו שישראל, היא המדינה עם שיעור המשתמשים הגבוה בעולם בקלוד. בחודשים האחרונים החברה עשתה קפיצה מטורפת ביכולות שלה, שערערה מניות של חברות תוכנה ענקיות בבורסה. היא יכולה לוותר על הפנטגון הלקוח, לא בטוח שהוא יכול לוותר עליה. בטח לא כל כך מהר.

האם אנת'רופיק מנסה להכתיב לממשל האמריקאי איך לנצח מלחמות כמו שאמר הנשיא, או שזה דווקא הממשל שמנסה להכתיב לחברה פרטית איזה שימוש יעשה במוצר שבנתה?

האם מערכת הביטחון הישראלית צריכה לעבור את אותו מסלול אישורים מול ספקי ה-AI, או שעכשיו ברור לנו יותר מתמיד למה צריך AI ביטחוני ישראלי?

ומה דעתכם בכלל על איסוף מודיעין המוני על אזרחים, או על הרג אוטונומי ללא מגע יד אדם?

יש כאן המון שאלות חדשות ופתוחות, ומנסיון העבר, המציאות תענה עליהן הרבה לפני שנספיק לחשוב על זה לעומק.