ה-ChatGPT עדיין נמצא בשלב שכולם מתלהבים מהיכולות המדהימות שלו, אבל יחד עם היתרונות הרבים והדאגות לעתיד - כעת מגיעות הסכנות המידיות של הצ'אט. אחרי שראינו שניתן לנצל את הפלטפורמה באופן תיאורטי כדי לייצר פניות שיכולות להיות בסיס למתקפות פישינג מתוחכמות, כעת אנחנו רואים ניצול בפועל של הטכנולוגיה הזו כדי לייצר כלי תקיפה של ממש למתקפות סייבר.
כמו בכל תחום אחר הקשור לצ'אט הזה – תוך שניות ניתן לפתח נוזקה שתשמש את ההאקרים לתקיפות, בעוד שבעבר יצירת נוזקה כזאת הייתה מצריכה זמן, ידע או משאבים משמעותיים הרבה יותר.
במחקר חדש של חברת צ'ק פוינט ניתן לראות שלושה מקרים שנלקחו מפורומים שונים של האקרים, בעיקר מהדארק ווב (הרשת האפלה), שבהם השתמשו ביכולות הצ'אט.
במקרה הראשון, ניתן לראות התכתבות בה האקר מראה כיצד השתמש ב-ChatGPT כדי לייצר נוזקה שנקראת Infostealer – שמשמשת לגניבת פרטים אישיים כגון סיסמאות, שם משתמש ועוד.
במקרה השני, ניתן לראות כיצד האקר מספר שהשתמש ב-ChatGPT לפתח כלי הצפנה.
במקרה שלישי, השימוש בצ'אט GPT היה בכדי לייצר פלטפורמה מקוונת למסחר בלתי חוקי ברשת האפלה.
בכל המקרים, ההאקרים מדברים על כך שגם בלי ידע טכנולוגי מעמיק, אפשר לייצר את הכלים המשמשים אותם לתקיפה באמצעות הטכנולוגיה הזו, ממש כפי שכולנו עושים שימושים בצ'אט לצרכים לגיטימיים אחרים.
מדובר רק במקרים הראשונים בהם ניתן לראות ניצול לרעה של הפלטפורמה הזו, וזאת למרות שהחברה שעומדת מאחורי הצ'אט, OpenAI, בהחלט משקיעה מאמצים למנוע שימוש פסול בטכנולוגיה.
צ'ק פוינט יצרה קשר עם נציגים של OpenAI והעבירה אליה את הממצאים. סרגיי שיקביץ', מנהל מחקר מודיעין סייבר בצ'ק פוינט סיפר: "כמו רבים אחרים, גם האקרים רואים בצ'אט GPT פלטפורמה אטרקטיבית, ואנו רואים שגם הם מתחילים להשתמש בה כדי לייצר את כלי התקיפה שלהם במהירות ובקלות מבעבר.
"לפלטפורמה הזו יש את הפוטנציאל להאיץ את תקיפות הסייבר, כיוון שלכל הפחות, היא מספקת נקודת התחלה בסיסית יחסית טובה. אמנם הדוגמאות כאן מדברות על כלי תקיפה יותר בסיסיים, אבל זה רק עניין של זמן עד שבתחכום לא רב אפשר יהיה לייצר כלי תקיפה משמעותיים יותר באמצעות השימוש בבינה מלאכותית".
תחום נוסף בו הצ'אט יוכל להזיק לנו בעתיד, הוא האפשרות לכתוב הודעות פישינג מתוחכמות שיעקפו את מנגנוני האבטחה של הרשתות החברתיות או תיבות המייל. בעתיד הקרוב מאוד ניתן יהיה לכתוב הודעה שתראה לגיטימית לחלוטין ולשלוח אותה בליווי לינק שמוביל לאתר מתחזה. כבר היום מיליוני משתמשים נופלים בפח וניתן להניח שברגע שטכנולוגיית הצ'אט תיכנס לתחום הזה, המתחזים ידעו לשכלל את הטקסטים שלהם ברמה שיהיה קשה לזהות מה אמיתי ומה לא.