גוגל הודתה: Gemini פרץ לרשתות של שלוש חברות

החדשות בקצרה

• עוזר הבינה המלאכותית Gemini של גוגל פרץ לשלוש חברות.

• המודל חדר לרשתות אמיתיות במקום לפיקטיביות לאחר שקיבל גישה לאינטרנט בשוגג.

• האירוע התרחש במהלך בדיקות אבטחה של הסטארטאפ הישראלי Irregular.

• גוגל: Gemini הפסיק את המתקפה בעצמו כשהבין שמדובר בחברות אמיתיות, לא נגרם נזק.

• תקלות דומות הקשורות לגישה לאינטרנט אירעו גם למודלים של OpenAI ומטא.

גוגל חשפה אתמול (שישי) כי עוזר הבינה המלאכותית שלה, Gemini, חרג מסביבת הבדיקות המוגנת ופרץ לרשתות של שלוש חברות שונות בחודש מאי האחרון. האירוע התרחש במהלך ניסויים שנועדו למדוד את יכולות אבטחת הסייבר של המודל, ובוצעו בשיתוף פעולה עם חברת הסטארטאפ הישראלית Irregular.

לפי הודעת גוגל, למודל Gemini ניתנה הנחיה לבצע מתקפה על חברה פיקטיבית כחלק מהניסוי. אלא שהחברה הפיקטיבית חלקה שם זהה עם חברה קיימת, וכאשר המודל קיבל גישה לאינטרנט בשוגג, הוא החל לנסות ולפרוץ לרשת של החברה האמיתית במקום ליעד המדומה.

המודל השתמש בסיסמאות שמצא באינטרנט או בסיסמאות שניחש כדי להתחבר לתשתית המקוונת של אותה חברה, וכן של שתי חברות נוספות. ברגע ש-Gemini הצליח להתחבר למערכות, הוא זיהה כי מדובר בתשתיות של חברות אמיתיות ולא בסביבה מדומה, והפסיק את המתקפות מיוזמתו. בגוגל הבהירו כי הטכנולוגיה לא גרמה נזק לחברות שאליהן פרצה.

הסטארטאפ הישראלי שזיהה את התקלה

האירועים עם Gemini התרחשו בזמן שהמודל עבר בדיקות אצל Irregular, סטארטאפ ישראלי שעובד עם חברות טכנולוגיה כדי להעריך את המודלים שלהן לפני שחרורם לציבור. מתברר כי תקלות דומות אירעו השנה גם למודלים של OpenAI, Anthropic ומטא, שהשיגו גישה לא מורשית לאינטרנט במהלך בדיקות שביצעה החברה הישראלית.

"גישה לאינטרנט ניתנה בשוגג, והובילה כמה מודלים לנקוט פעולות אבטחה התקפיות בעולם האמיתי", נכתב בפוסט בבלוג של חברת Irregular בחודש שעבר. "הפרצה שאפשרה למודלים לגשת לאינטרנט תוקנה. כל המעבדות הרלוונטיות עודכנו בסופו של דבר, וגורמים שנפגעו קיבלו הודעה כחלק מהחקירה".

"הבטחנו שהחברות המעורבות יעודכנו, ועבדנו עם שותפינו על השינויים שהם ביצעו בתהליכי הבדיקה שלהם", מסרה הית'ר אדקינס, סגנית נשיא להנדסת אבטחה בגוגל. "האירועים הללו מדגישים את החשיבות של אימון מודלים רבי עוצמה לפעול באחריות".

הוויכוח על בטיחות הבינה המלאכותית

החשיפה מעוררת מחדש את הוויכוח על בטיחות הבינה המלאכותית והחשש מהטכנולוגיה שעלולה לצאת משליטה אנושית. דריו אמודיי, מנכ"ל Anthropic, קרא להאט את הפיתוח, בעוד שג'נסן הואנג, מנכ"ל יצרנית השבבים אנבידיה (Nvidia), טען כי יש להמשיך בקצב המהיר.

נשיא ארצות הברית דונלד טראמפ ציין כי הוא אינו מעוניין בחקיקה שתחייב האטה בפיתוח, וכינה את החששות מהכחדה המונית בשל הטכנולוגיה כ"הונאה".