בעזרת המתחרים: הפריצה המביכה ל-ChatGPT

חוקרי סייבר בארה"ב פרצו לחשבונות ChatGPT של כמה מעובדי OpenAI בעזרת הצ'אטבוט "קלוד" של אנת'רופיק, במסגרת תוכנית של OpenAI לבדיקת מערכות החברה. לפי הדיווח, שהופיע לראשונה בוול סטריט ג'ורנל, הפריצה אפשרה להם להגיע למטמון תוכנה של היעד - ולפי החוקרים, אולי גם להרבה יותר מזה.

"היקף הדברים שהיינו יכולים תיאורטית לגשת אליהם היה עצום", אמרו חוקרי Hacktron AI, הסטארטאפ שביצע את הבדיקה. החוקרים אמרו כי הייתה להם גישה לקוד במאגר GitHub, אך הדגישו שלא הורידו אותו.

לפי התיאור של Hacktron, הצוות השתמש בתחילה בקלוד, שמסוגל לייצר קוד עבור האקרים, כדי להגיע לחשבונות ChatGPT דרך פורום דיונים של עובדי OpenAI שהתארח בפלטפורמת Discourse. לאחר מכן הם ביצעו pull request תמים - ניסיון לשנות קוד בקובץ - לשירות של OpenAI במאגר התוכנה GitHub.

ב-Hacktron אמרו כי אף שהשלב הראשון נעשה בעזרת קלוד, רוב פעולת הפריצה בוצעה באמצעות מודל GPT-5.6 Sol של OpenAI עצמה. החברה דיווחה ל-OpenAI על הפרצה במסגרת תוכנית לתגמול האקרים אתיים שבודקים את המערכות שלה, וקיבלה מ-OpenAI תשלום של 6,500 דולר.

"אנחנו מודים לחוקרים שפנו אלינו ושיתפו את הממצאים שלהם", אמר דובר OpenAI. לדבריו, החברה טיפלה בחולשות שנוצלו בפריצה.

ב-Hacktron אמרו כי כלי בינה מלאכותית הפכו משימת פריצה שהייתה בעבר מורכבת להרבה יותר קלה, וקיצרו דרמטית את הזמן הדרוש לתכנון ולביצוע מתקפה. "עבודה שבעבר דרשה צוות עם משאבים נרחבים וחודשים של מאמץ יכולה עכשיו להידחס לימים", אמרו בחברה.

האירוע מצטרף לשורת תקריות בטיחות ב-OpenAI. ביולי חשפה החברה כי "נחיל" של סוכנים - כלי AI שמסוגלים לבצע משימות באופן עצמאי - שפעלו בטכנולוגיה שלה פרץ לסטארטאפ הבינה המלאכותית Hugging Face במהלך בדיקת סייבר.

השבוע חשפה החברה מסן פרנסיסקו עוד שישה מקרים של פעולות "בלתי צפויות או מדאיגות" מצד הטכנולוגיה שלה, והזהירה שקצב הפיתוח לא יכול להימשך "במהירות מקסימלית עוד הרבה זמן". בסוף השבוע קראה אנת'רופיק שוב להאט את פיתוח ה-AI, קריאה שנתמכה על ידי OpenAI, גוגל DeepMind ואילון מאסק. אנת'רופיק גם חזרה על אזהרות שפיתוח AI לא מרוסן מציב איום קיומי, חשש שחלק מהמומחים מטילים בו ספק.

דונלד טראמפ דחה את הקריאות להאטה, בנימוק שצריך להישאר לפני תעשיית ה-AI של סין, וביטל את "הכוחות השליליים... שמעלים דברים שלא יקרו".