המגמות המעסיקות היום את עולם הסייבר עוסקות באזורים טכנולוגיים עמוקים וכן בתחומים של מדיניות, התנהגות וכלכלה. בשעה שהדברים המדוברים ביותר באקטואליה הם תקיפות מיוחדות על ארגונים מוכרים או חברות שמצליחות או נסגרות בתחום, דיוני עומק שמתחת לפני השטח מכוונים דווקא בתחומים נוספים. רבים מהנושאים יועלו בשבוע הסייבר הלאומי ה-13 שייערך באוניברסיטת תל-אביב ב-26-29 ליוני, בהשתתפות אלפי משתתפים מרחבי העולם, ביניהם ראשי מטות סייבר ממדינות רבות, ראשי חברות, חוקרים בתחום ועוד.
בינה מלאכותית – אין מושב או מפגש שבו לא מוזכר נושא הבינה המלאכותית באופן עמוק, או לפחות Chat GPT כנושא או קוריוז. העולם מגיב ומתרגש מתחום ה-AI ומבין שאנחנו לא נוגעים בטכנולוגיה, אלא בדור של טכנולוגיות, פלטפורמות ויישומים שלא ייראו כמו זו שמוכרת לנו. בעוד מספר שנים לא נבין איך כדי לתקשר עם פלטפורמה מסוימת הקלדנו מילה-מילה על ידי הקשה על אותיות. הרעיון ייראה מיושן כמו ידית להורדת חלון ברכב. לשם תמיכה בכל המהפכה העצומה הזו נדרשת התייחסות סייברית שלא הספיקה להיערך טרם פריצת המהפכה.
כשמערכת AI פועלת היא מתבססת על מנוע שלמד התנהגות כלשהי, ולמעשה פועל על בסיס האימון שעבר. תלות קריטית יש באותם נתונים שמלמדים את המנוע לעבוד. עוצמת הנתונים הללו מקבילה לאלגוריתם המרכזי שהיה המח של דור המערכות הנוכחי. הצורך להגן על הנתונים האלה ולמנוע מצב בו מישהו משנה את הנתונים הללו כדי לקבל תוצאה רצויה ולהטעות את המנוע היא משימה מורכבת שאיננה חד פעמית ודורשת חשיבה סייברית הגנתית.
יותר מכך, מערכות ה-Generative AI שה-Chat GPT הוא הפופולרי ביניהן לומדות בכל יום כמויות עצומות של נתונים. כל עובד בארגון שרק מבקש מה-Chat לנסח לו טוב יותר קטע שכתב מניח שהוא מבקש זאת מיישות חיצונית אנונימית אולם כמות המידע שיוצאת מארגונים ומתרכזת באותן פלטפורמות היא עצומה וגם עליה יהיה צריך להגן או לבקר בצורות כאלה ואחרות.
בינה מלאכותית תמלא תפקיד מרכזי בהגנת הסייבר
למערכות ה-AI יהיה תפקיד מרכזי בסיוע להגנת הסייבר וכבר היום יותר ויותר פעולות נעשות על ידי מערכות כדי לאפשר לצוות האבטחה לטפל בחלקים שאינם צפויים או דורשים ניתוח מעמיק יותר. הטכנולוגיות האלו הן בשורה גדולה שמאפשרת למערכת ה-AI ללמוד את שיגרת הארגון וצפויה לאפשר לו לזהות חריגה ממנה בצורה קלה יותר. המורכבות מגיעה כאשר בוחנים את האפשרות של AI לסייע גם לתוקפים באותה המידה. נראה שמערכות כאלו יכולות לסייע בצורה מסיבית גם לתוקפים. קיימות פעולות שהתוקף מבצע בימינו כחלק מארגון קטן, עם כמות משאבים מוגבלת, עם התייחסות לכמות ההשקעה ביחס לתפוקה הצפויה. ה-AI עשוי להפוך את התוקף לאפקטיבי הרבה יותר ולמסוגל לעשות הרבה יותר פעולות ממוקדות בזמן נתון. בדומה להבדל בין ניסיונות מקריים לניחוש קוד לבין מנגנון משוכלל שמתקדם לעבר הפיצוח, או כמו ההבדל בין ירי מדויק לירי כללי. נראה כי ה-AI יעזור במידה דומה למגנים ולתוקפים ולא ניתן לזהות צד מסוים שינצח באופן מוחלט מההתקדמות הזו.
בעוד שברמת הארגונים ופשיעת הסייבר ניתן לתאר את ה-AI כמרכיב משמעותי במרוץ חימוש מתמשך, קיים סיכון אמיתי בהצטרפות האיום לתקיפות הסייבר על מדינות. היכולת של מדינה אחת להשתמש בטכנולוגיות ה-AI על מנת לפגוע באחרת עשויה לייצר מרכיב חדש של איום והוא דורש מענה מאותו הסוג. הממשלות לא יכולות לקחת סיכון שסוג איומים כאלה יתממשו ועל כן נדרש מהן להתחיל ולהשקיע בפתרונות שיתייחסו לסוג האיום הזה ברמה לאומית וילמדו להגן בפניו. מובן שזהו אתגר משותף של הממשלות והתעשיה אל מול סוג תרחיש כזה.
הכותב הוא ראש תחום אסטרטגיה (CSO) במרכז למחקר סייבר באוניברסיטת ת"א, אשר יערוך בין 26-29.6 את שבוע הסייבר השנתי באוניברסיטת ת"א בשיתוף מערך הסייבר הלאומי, משרד הכלכלה ומשרד החוץ