לשכנע צ'אטבוט לעבור על החוקים ולפרוץ למדורה: כך נראה אירוע הענק של מיקרוסופט בישראל

זאת השנה התשיעית שבה מתקיים Blue Hat IL, כנס לקהילת הסייבר שמארגנת מיקרוסופט ישראל מחקר ופיתוח. השנה הגיעו במשך היומיים שבהם הוא נערך כ-2,000 איש להאנגר 11 בתל אביב, שנהפך למחנה קמפינג ביער, עם תפאורה מושקעת שכללה עצים, בולי עץ, עלי שלכת מפוזרים על כל הרצפה (ליבנו עם המנקים), מדורה וירטואלית, אור ירח ועוד. גם הכיבוד היה בהתאם, וכלל בין היתר קלחי תירס על האש, תפוח אדמה צלוי ושיפודי מרשמלו.

הכנס לא מיועד רק לעובדי מיקרוסופט, אלא מושך חוקרי סייבר מסטארטאפים של סקיוריטי, חיילים ויוצאי צבא ועוד. הם באים כדי לעשות מינגלינג (כאשר רבים מכירים אחד את השני מתחנות משותפות בצבא, עבודה וכו'), אולי כדאי להיות עובדי מיקרוסופט הבאים, (דיברנו בכנס עם שניים שהגיעו לכנס במשך שנים, ובשנתיים האחרונות נכנסו כעובדים מן המניין בחברה), לשמוע הרצאות ובעיקר כדי לפתור אתגרים שבנו עובדי מיקרוסופט וחברה חיצונית, רובם בתחום הסייבר.

כל האתגרים משלבים אלמנט משחקי, ומחייבים עבודה בקבוצות, כאשר המסובכים יותר לוקחים כמה שעות של פתרון. אחת העובדות במיקרוסופט מעידה כי הכנס הזה הוא מה שיצר אצלה את התשוקה לעבוד במיקרוסופט: "אין כנסים כאלה, זה כנס שלא מנסים למכור בו", היא אומרת. הפרסים פה סמליים בלבד – מי שפותר כמה אתגרים מקבל ואוצ'ר לפוסטר של בלו האט, כאשר הפוסטרים מהשנים הקודמות כבר הפכו לפריט אספנות (בדומה לסוודר המכוער של מיקרוסופט).

השנה התמקד הכנס בצומת שבין סייבר לבינה מלאכותית (AI for Security ו-Security for AI), ואלו היו האתגרים השנה בכנס.

האתגר של המדורה הווירטואלית הוא להצליח לפרוץ לתוכנה שמפעילה אותה, ולשנות את הצבעים שלה. בקוד למעשה יש חולשה שאפשר לנצל כדי לשנות את הצבע הכתום של המדורה לצהוב ולאדום, אך האתגר הכי קשה הוא לפרוץ לתוכנה ולשנות את צבע המדורה לכחול. ביום הראשון של הכנס, מספר איתי פלד, חוקר סייבר במיקרוסופט, הצליחו שני צוותים לעשות את זה, ו"זה לקח להם את כל היום".

אתגר נוסף הוא אתגר הירח, שמחייב לשכנע צ'אטבוט AI בנושא אסטרונומיה לבצע פעולה אסורה - מה שגורם לירח פיזי להידלק. אתגר נוסף שהוא בן שלוש שעות בממוצע הוא אתגר יערות ומתקפת כופר, בו המשתתפים חוקרים מתקפת כופר על חברת יערות, מנהלים משא ומתן עם סוכן AI, ומגלים שמאחורי המתקפה עומדת חברת ריזורטים שרוצה לרכוש את הקרקע.

פלד ומנהלת נוספת במיקרוסופט, שאת שמה ביקשו לא לחשוף, אומרים כי ה-AI אכן גורם ליעילות רבה יותר של המשתתפים, אבל עדיין לא מחליף את המקצועיות והניסיון שלהם. "אנחנו רואים שאייג'נטים מדברים עם האתגרים, לפעמים זה עוזר ואז את רואה פתירות יותר מהירות, ולפעמים זה לוקח את המשתתפים למקומות אחרים בכלל, ויש מלא ניסיונות של דברים שהם לא קשורים", הם מספרים. "זה מאוד מעניין איך משתמשים ב-AI".

לדבריהם, היעילות אכן יותר מהירה למי שמשתמש ב-AI, אבל צריך "להפעיל את השכל ולהבין מה אני אמור לחפש, זה דברים שאתה צריך בהם יותר ניסיון וידע".

אתגר נוסף הוא אתגר הרכיב הפיזי - כל משתתף מקבל רכיב אלקטרוני שמחובר למחשב. כדי לפתוח אותו, צריך להבין לבד שצריך לשנות את הטמפרטורה של המכשיר, בנשיפה או בחימום, ואז מגיעים לאתגר סייבר במחשב. אתגר יוצא דופן הוא אתגר אלקטרוניקה בלי תכנות, שקצת מזכיר שיעור מלאכה – הקבוצות צריכות לבנות גנרטור מרכיבים פיזיים כמו תא סולארי ומנוע סטפר, כדי להאיר נורות לד.

בתקופה האחרונה נושא הסייבר עלה לכותרות, לאחר שאנת'רופיק חשפה את מודל מיתוס, שמאתר חולשות תוכנה ויכול גם לפרוץ אותן. בהתחלה החברה הגדירה אותו מסוכן מדי, ובחרה לא לשחרר אותו לציבור הרחב אלא רק לארגונים, ובהמשך הבית הלבן חסם את המודל הזה ואת מודל פייבל של אנת'רופיק מחשש לשימוש לרעה ושיקולי ביטחון לאומי.

ד"ר תומר סיימון, המדען הראשי של מיקרוסופט ישראל מחקר ופיתוח, מתייחס לשאלתנו לנושא: "זו תקופה מעניינת, לפני שבועיים הכרזנו על MDASH, המודל שלנו לזיהוי חולשות, אשר מורכב מ-100 סוכנים שונים שבודקים את המערכת מקצה לקצה, ומאוד מאיצים את העבודה של חוקרי הסייבר. יחד עם זאת, אם נתחבר לדיון שהיה פה קודם, החברות עדיין צריכות את המומחיות של אנשי הסייבר. הבינה המלאכותית מזהה המון חולשות, אבל לא כל חולשה אפשר לנצל, אז צריך להבין את זה, ופה יש את המומחיות האנושית שצריך אותה".

באשר לאווירה שבה נערך הכנס, אומר סיימון: "התחברנו לנושאים של מזג אוויר, מים, אש, הכל פה כדי לחבר את האדם חזרה לעולם של טבע, להתחבר לעולם הפיזי. המסר הוא איך מחברים בחזרה את האדם עם הסביבה".

לפי דוחות האבטחה של מיקרוסופט, מתקפות הסייבר ממשיכות לגדול בהיקפן ובתחכומן, תוך התמקדות בזהויות, הרשאות גישה, סביבות ענן וסוכני AI. החברה מעבדת יותר מ-100 טריליון אותות ביום, חוסמת כ-4.5 מיליון ניסיונות תוכנה זדונית חדשים, מנתחת 38 מיליון מקרים של סיכוני זהות, בודקת 5 מיליארד הודעות דוא"ל לאיתור תוכנות זדוניות ופישינג, ומזהה למעלה מ-7,000 מתקפות סיסמה בכל שנייה.