בגלל מידע שגוי שהפיק AI: ארה"ב כמעט תקפה ספינה סינית

החדשות בקצרה

• דוח מודיעין שגוי קבע כי ספינה סינית מובילה רכיבי נשק גרעיני.

• צבא ארה"ב נערך ליירוט הספינה, אך לבסוף התגלה כי הדיווח התבסס על בינה מלאכותית.

• הצ'אטבוט זיהה בטעות את המטען שעל הספינה והוביל למסקנה שגויה.

• ב-CNN דווח כי האירוע כמעט הוביל לעימות מזוין בין ארה"ב לסין.

• שר ההגנה פיט הגסת' מקדם תוכנית להאצת השימוש בבינה מלאכותית.

• גורמי מודיעין ותיקים הזהירו כי השימוש הגובר ב-AI פותח פתח לטעויות חמורות.

צבא ארה"ב כמעט פתח בעימות מזוין עם סין במהלך החודשים האחרונים, בעקבות דוח מודיעין שגוי שהופק באמצעות בינה מלאכותית וקבע כי ספינה סינית מובילה רכיבי נשק גרעיני - כך דווח אמש (שישי) ב-CNN. המידע הופץ בקרב כוחות הצבא בעיצומה של המלחמה עם איראן ועורר בהלה מיידית במערכת הביטחון האמריקנית.

בעקבות הדיווח, הצבא האמריקני החל לתכנן מבצע ליירוט הכלי הסיני. לפי ארבעה מקורות המעורים בפרטים, לוחמים חמושים כבר התכוננו לעלות על הסיפון ומטוסי קרב הוזנקו לאוויר. רק רגעים ספורים לפני תחילת הפעילות המבצעית, גורמים רשמיים בדקו לעומק את הדיווח וגילו כי הוא גובש בעזרת צ'אטבוט שזיהה בטעות את המטען שהיה על הספינה.

"הדיווח היה שקרי לחלוטין", אמר אחד המקורות ל-CNN. "הוא כמעט פתח במלחמה". לפי הדיווח, כל פעולה אמריקנית נגד כלי שיט סיני הייתה עלולה להידרדר במהירות לעימות מזוין בין שתי המעצמות. גורמי מודיעין הסבירו כי הצ'אטבוט שילב מידע ממקורות גלויים עם נתוני מודיעין אותות סודיים, והגיע למסקנה השגויה אודות המטען.

האצה בשילוב הבינה המלאכותית

האירוע התרחש בזמן שבצבא ארה"ב ובקהילת המודיעין דוחפים לשילוב בינה מלאכותית כמעט בכל תחום - מניתוח כמויות אדירות של מידע ובחירת מטרות לתקיפה, ועד לניהול לוגיסטיקה ותקציבים. שר ההגנה האמריקני פיט הגסת' פרסם בינואר אסטרטגיה להאצת השימוש בטכנולוגיה במטרה להסיר חסמים בירוקרטיים.

"אנחנו נשחרר את הניסויים, נבטל חסמים ונמקד השקעות כדי להבטיח שנוביל בבינה מלאכותית צבאית", אמר הגסת' בנאום שבו הכריז על התוכנית. האסטרטגיה מורה להנגיש את הכלים הללו ליותר משלושה מיליון אנשי צוות אזרחיים וצבאיים בכל רמות הסיווג. גורמים רשמיים טוענים כי ארה"ב אינה יכולה להרשות לעצמה להישאר מאחור מול יריבות כמו סין.

למרות הדחיפה הממשלתית, גורמים המכירים את הנושא מציינים כי המאמץ אינו מרוכז וכי יחידות שונות משתמשות בכלים שונים תחת תקני בטיחות משתנים. "הכלים הפנימיים הם לרוב רק עותקים של הציוד המסחרי עם ליפסטיק", אמר בכיר אמריקני לשעבר המכיר את המערכות המשמשות את מנתחי המודיעין.

החשש מ"הזיות" של המכונה

התקרית עם הספינה הסינית מדגישה את הסיכון המיידי של קבלת החלטות הרסניות המבוססות על מידע שגוי שנוצר באופן אוטומטי. מקורות בקהילת המודיעין ציינו כי סוג כזה של "הזיה", שבה הכלי מייצר מידע שגוי אך משכנע, אינו מקרה בודד מאז שהכלים הללו החלו להתפשט בממשל.

גורמי מודיעין ותיקים מזהירים כי הבינה המלאכותית מפעילה לחץ על המנתחים להפיק מודיעין במהירות רבה יותר, מה שפותח פתח לטעויות חמורות. "בינה מלאכותית מאפשרת לך להגיע לרעיון רע מהר יותר", סיכם אחד המקורות את המצב. לדבריו, אנליסטים צעירים נוטים לבטוח בכלים הללו בצורה לא ביקורתית.