"82 זהויות מכונה על כל זהות אנושית אחת": למה סוכני AI יכולים להיות מסוכנים?

תקיפות הסייבר על ארגונים ואנשים פרטיים רק מתרבות, כאשר לצד היתרונות שלה, הבינה המלאכותית מעניקה שפע של כלים חדשים לתוקפים. בשבוע הסייבר באוניברסיטת תל אביב, הציג אביחי נתן, סגן נשיא בכיר וראש תחום AI, דאטה ומחקר בחברת סייברארק (שנרכשה ביולי האחרון על ידי פאלו אלטו) נתונים חדשים, לפיהם 90% מהארגונים כבר חוו פרצת אבטחה הקשורה לבינה מלאכותית.

‏AI הוא יוצר הזהויות מספר 1 בארגונים, ובעולם קיימות כ-82 זהויות מכונה על כל זהות אנושית אחת (!). ‏68% מהארגונים עדיין חסרים בקרות אבטחת זהויות למערכות ה-AI שלהם, ו-82% מהם אומרים שהשימוש ב-AI יוצר סיכונים רגישים. על פי סייברארק, ההערכה היא שעד 2028, 25% מפרצות האבטחה הארגוניות יקושרו לשימוש לרעה בסוכני AI.

בהקשר הזה מסביר נתן מה היא זהות פריבילגית - זהות ארגונית בעלת הרשאות לבצע פעולות רגישות ומשמעותיות יותר במשאבי החברה. לדוגמה: עובד רגיל אינו יכול לגשת לשרת הנתונים שמכיל נתוני משכורות, לעומת זאת מנהלת משאבי האנוש מחזיקה בהרשאה זו , ולכן הזהות שלה היא פריבילגית לעומת זהויות אחרות בארגון. דוגמה אחרת היא עובד במחלקת השיווק, שאינו יכול לגשת לנתוני לקוחות רגישים של חברה מסוימת, לעומת מפתחים אשר מקבלים גישה זו על מנת לבצע את הפיתוח הנדרש, ולכן מחזיקים בזהות פריבילגית יותר.

כולנו שמענו את המונח, אבל מה זה בעצם סוכני AI?

סוכני AI הם למעשה השלב הבא באבולוציה הטכנולוגית של הצ'אטבוטים, והם מהווים שילוב של טכנולוגיות AI ולמידת מכונה, עם עולם האוטומציה.

"הצ'אטבוטים אומנם מצוינים במתן תשובות ועזרה בארגון מידע, אבל הם לא טובים כלל בביצוע פעולות עבור או בשם המשתמש, שכן הפונקציונליות שתוכננו עבורה היא שיחה בלבד", מסביר נתן ל-mako.

"סוכן AI לעומת זאת מחזיק ביכולת לקבל בקשה מהמשתמש, לפרק אותה ולהשתמש באינטגרציות העומדות לרשותו על מנת להשלים את המשימה".

בין השימושים שאפשר למצוא כיום לסוכני AI בעולם העבודה: סוכני כתיבת קוד – שיכולים לכתוב חלקי תוכנה שלמים ומאפשרים להאיץ את זמני הפיתוח ואת יעילות המפתחים; סוכני כתיבה טכנית – מתחברים אוטומטית למוצרים חדשים לאחר הפיתוח וכותבים בעצמם חלקים גדולים מהמסמכים הנדרשים, חלקם בגודל של מאות עמודים; וסוכני בדיקת חולשות – מתחברים באופן אוטונומי למוצרים בשלב הפיתוח ומנסים "לפרוץ" אותם או לגלות חולשות קריטיות, אשר ניתן יהיה לנצל ע"י תוקפים לאחר שיחרור המוצר.

משתמשים פרטיים היום יכולים להשתמש בפלטפורמות שונות לייצר סוכנים על מנת לבצע משימות פשוטות בסביבה הביתית שלהם, כמו סיכום אימיילים שבועי, מעבר וניתוח של תיק מניות, חיפוש אוטומטי של עסקאות משתלמות לטיסה או חופשה והזמנה אוטומטית ועוד. פרפלקסיטי כבר יצרה דפדפן בשם קומט (Comet), שמוגדר כ"עוזר סוכן AI", וגם OpenAI השיקה את אטלס.

מהן הסכנות של סוכני AI?

"הסכנה המרכזית בשימוש בסוכני AI היא ביצוע פעולות ארגוניות רגישות בשם או עבור המשתמש ללא הסכמתו או ידיעתו", מסביר נתן. "פוטנציאל הפגיעה הוא גבוה מאוד – לדוגמה, הסוכן יכול למחוק בטעות מסדי מידע ארגוניים, לחשוף מידע רגיש או לייצר פרצת אבטחה ע"י שגיאה בכתיבת תוכנה או הגדרת חומרה.

"סכנה גדולה נוספת מכונה 'בעיית הסוכן כפול', והיא מזכירה את העולם האנושי במידה מסוימת. היות ולמשתמש יש הבנה מוגבלת מאוד של סוכן ה-AI, ולמעשה מדובר בקופסה שחורה ללא שקיפות, תוקף מסוגל להחדיר בקלות כוונה זדונית לתוך האלגוריתם שמניע את הסוכן, ובכך לייצר מצב של משתמש זדוני פעיל בסביבה הארגונית, אשר משרתת את מטרות התוקף".

ומה התחזיות שלו לשנת 2026? איך אפשר להתמודד עם סכנות ההונאות שרק הולכות וגדלות?

"ההתקפות שמבוססות AI רק ימשיכו לגדול", מסכים נתן. "השיפור ב-AI יקל משמעותית על היכולות להשיג מידע אישי של הקורבן, לנתח אותו, לבנות הונאה מותאמת אישית אשר בסבירות גבוהה יותר תפתה את הקורבן ולבסוף – שימוש ב-AI coding assistants של תשתיות תוכנה מהירות להפצה של הונאות אלה.

"הדרך להתמודד עם סכנות אלה תאלץ את התעשייה להאיץ את השימוש ב-AI ובלמידת מכונה על מנת לפתח הגנות מותאמות היטב. בסופו של דבר – רוב ההונאות היום בהיקף נרחב, מתוחכמות ככל שיהיו, משאירות חתימות טכנולוגיות והתנהגותיות שניתן לנתח ולחסום".

בנוסף, נתן צופה כי שיתופי פעולה בין חברות יאפשרו להאיץ את פריסת מערכות ההגנה בצורה משמעותית. למשל, זיהוי הודעת פישינג של חברות האשראי אשר יוטמע תוך כדי שותפות במערכת ההודעות של אפל או סמסונג יהיה כמעט מושלם, "שכן הוא ישלב זיהוי מבוסס מידע ה-AI בנקודת האכיפה האפקטיבית ביותר - מכשיר הסלולר".