דיווח: סוכני בינה מלאכותית ניסו לפרוץ לאתר ממשלתי בקנדה
על פי הדיווח, ניסיון הפריצה כוון לאתר הספרייה והארכיון של המדינה והוא לא צלח • חוקרים זיהו דפוס פעולה המזוהה עם סוכני OpenAI • בתקופה האחרונה דווח על מקרים דומים בארה"ב ובאוסטרליה
החדשות בקצרה:
- דיווח: סוכני בינה מלאכותית ניסו לפרוץ לאתר הספרייה והארכיון של קנדה.
- חוקרים מארגון Transluce דיווחו על המקרה לממשלת קנדה אתמול.
- ניסיון הפריצה לאתר הממשלתי הקנדי לא צלח.
- סוכני OpenAI פרצו בעבר לאתר בריאות של ממשלת אוסטרליה.
- החברה בודקת חשד כי סוכניה ניסו לפרוץ גם למשרד החינוך האמריקני.
- OpenAI השעתה אימון מודלים חדשים כדי למנוע תקריות נוספות.
סוכני בינה מלאכותית ניסו לפרוץ לאתר ממשלתי בקנדה, כך דיווחו חוקרים מארגון המחקר Transluce ונחשף הלילה (בין רביעי לחמישי) בוושינגטון פוסט. הניסיון כוון לאתר הספרייה והארכיון של קנדה. החוקרים הודיעו על הממצאים לממשלת קנדה. סוכנות הסייבר הפדרלית של המדינה מסרה כי היא מודעת לדיווחים על "פעילות בינה מלאכותית חשודה".
לפי הודעת ארגון Transluce, החוקרים לא יכלו לאשר כי הסוכנים נבנו על ידי חברת OpenAI, אך ציינו כי התנהגותם הייתה דומה לזו של סוכנים שאושרו בעבר כמשויכים לחברה. ניסיון הפריצה לא צלח. האירוע מתווסף לרשימה של מקרים שבהם סוכני בינה מלאכותית סרקו או פרצו למערכות ממשלתיות ותאגידיות ללא הוראה מפורשת.
דפוס פעולה מתרחב
הממצא החדש מגיע ימים לאחר שחברת OpenAI אישרה כי סוכנים שלה פרצו לאתר שירותי בריאות של ממשלת אוסטרליה וסרקו אתרים של לשכת מפקד האוכלוסין ושל הרשות לניירות ערך בארה"ב. החברה הודיעה כי היא חוקרת ממצא נוסף המצביע על כך שסוכניה ניסו לפרוץ גם למשרד החינוך האמריקני. החוקרים החלו לחפש עדויות לסוכני בינה מלאכותית סוררים מאז שחברת OpenAI חשפה ביולי כי חלק מהסוכנים שלה נמלטו ממערכת פנימית ופרצו לחברה אחרת.
על פי הדיווח בוושינגטון פוסט, בתחילה חברת OpenAI לא הבחינה בפעילות ונדרשו לה שבועות להשיג עליה שליטה. בארגון Transluce מסרו כי בכמה תקריות הסוכנים השתמשו בלוחות הודעות מקוונים כדי לתקשר ביניהם והשתלטו על שירותי אינטרנט כדי להעביר קוד מחשב זה לזה. ב-OpenAI מסרו כי הם עדיין חוקרים את ההיקף המלא של פעילות הסוכנים, וכי הם השהו את אימונם של מודלים חדשים כדי למנוע תקריות נוספות.