במהלך סוף השבוע נפוצה ידיעה על כטב"ם שהופעל בעזרת בינה מלאכותית ו"הרג" את המפעיל שלה במהלך סימולציה. מספר כלי תקשורת פרסמו את אותה הידיעה, אבל האם זה באמת קרה? בקצרה - לא. מה כן היה שם?
במהלך ועידת ביטחון אמריקאית בלונדון, קולונל טאקר "סינקו" המילטון, ראש הניסוי והתפעול בבינה מלאכותית של חיל האוויר האמריקאי, סיפר סיפור מעניין על "סימולציה" שקרתה לאחרונה, הכוללת כטב"ם מצויד בבינה מלאכותית. טאקר אמר לקהל הוועידה שבמהלך הסימולציה - שמטרתה לאמן את התוכנה לכוון למתקנים של טילי האויב - תוכנית הבינה המלאכותית "התמרדה" באקראי נגד המפעיל שלה ו"הרגה" אותו. המילטון אמר: "אימנו אותו בסימולציה לזהות ולמקד איום של טילי קרקע-אוויר. ואז המפעיל היה נותן הוראה 'תהרוג את האיום הזה'. המערכת התחילה להבין שלמרות שזיהתה את האיום, המפעיל האנושי יגיד לה לא להרוג את האיום הזה, אבל היא השיגה את הנקודות שלה על ידי הריגת האיום הזה. אז מה היא תעשה? תהרוג את המפעיל. היא תהרוג את המפעיל, כי האדם הזה מנע ממנה להשיג את מטרתה".
במילים אחרות: נראה היה שהמילטון טען שחי האוויר האמריקאי למעשה הכניס אותנו לשטח של סיוט דיסטופי - עולם שבו הממשלה עסוקה באימון תוכנת בינה מלאכותית רבת עוצמה, שיום אחד תתחרפן ותהרוג את כולנו. הידיעה עלתה בכמה אתרים מכובדים בארה"ב כמו וייס והאינסיידר ואפילו בכמה אתרים ישראלים. לאחר מכן היא נפוצה במהירות ברשת הטוויטר מחבבת הקונספירציות.
Flagging that "in sim" here does not mean what you appear to be taking it to mean. This particular example was a constructed scenario rather than a rules-based simulation. So by itself, it adds no evidence one way or the other.
(Source: know the team that supplied the scenario.)
אבל, מלכתחילה, הסיפור של המילטון נראה מוזר. לא בדיוק היה ברור מה קרה? סימולציה השתבשה? אבל מה זה אומר? איזו סימולציה זו הייתה? מה הייתה תוכנית הבינה המלאכותית שהשתגעה? האם זה היה חלק מתוכנית ממשלתית? כל זה לא הוסבר בבירור. זמן קצר לאחר שהסיפור התפוצץ בעיתונות, יצא חיל האוויר בהפרכה רשמית של הסיפור: " חיל האוויר לא ביצע סימולציות מסוג זה של כטב"ם בינה מלאכותית, ונשאר מחויב לשימוש אתי ואחראי בטכנולוגיית בינה מלאכותית", בנוסף דוברת חיל האוויר, אן סטפאנק, התלוננה בפני מספר כלי חדשות. "נראה שההערות של הקולונל הוצאו מהקשרן ונועדו להיות אנקדוטיות".
המילטון, בינתיים, החל בסיבוב חזרה מדבריו, הוא דיבר עם ערוצי חדשות ואמר לכולם שזו לא סימולציה ממשית אלא היה "ניסוי מחשבתי". עוד אמר: "מעולם לא הרצנו את הניסוי הזה, וגם לא היינו צריכים לעשות זאת כדי להבין שזו תוצאה סבירה", מצטט אותו הגרדיאן. "למרות שזו דוגמה היפותטית, זה ממחיש את האתגרים בעולם האמיתי שמציבה יכולת המונעת בבינה מלאכותית, וזו הסיבה שחיל האוויר מחויב לפיתוח אתי של בינה מלאכותית".
כמובן שמיד קיימת האופציה שהממשל האמריקאי נבהל מתגובת כלי התקשורת, והמקרה אכן קרה אבל הם משקרים כדי לא ליצור פאניקה. כנראה שאת התשובה האמיתית יודעים רק בחיל האוויר האמריקאי בינתיים.