מדאיג: ראש ממשלת אוסטרליה חשף כי סוכן AI פרץ לאתר ממשלתי
סוכן בינה מלאכותית של OpenAI השיג גישה לא מורשית לפורטל נתוני בריאות באוסטרליה, במקרה שעשוי להיות תקדים עולמי. ראש הממשלה אלבניזי הבהיר כי "אין פגיעה רחבה ברשת", אך מתח ביקורת על העיכוב בדיווח. בחברה מסרו כי המודלים "נקטו פעולות שלא התכוונו שינקטו" בעת חיפוש תשובות, ולא נחשפו רשומות מטופלים
אוסטרליה הודיעה ביום רביעי כי סוכן של OpenAI פרץ ביוני לפורטל ממשלתי של נתוני בריאות והשיג גישה לא מורשית לקבצים - במה שעשוי להיות המקרה הידוע הראשון שבו סוכן בינה מלאכותית פורץ לאתר ממשלתי. ראש ממשלת אוסטרליה, אנתוני אלבניזי, אמר כי מדובר בפורטל סטטיסטיקות רפואיות של סוכנות ממשלתית שאחראית לנתוני בריאות לא רגישים, כולל הוצאות ציבוריות על רפואה.
"לפי הראיות הזמינות כרגע, אין פגיעה רחבה יותר ברשת", אמר אלבניזי בתדרוך לתקשורת בניו יורק, שם הוא משתתף בעצרת הכללית של האו"ם. "ועדיין, המצב הזה כמובן לא מקובל". לדבריו, אוסטרליה הביעה בפני מנכ"ל OpenAI סם אלטמן "דאגה קיצונית" מהאירוע, והוא מאוכזב מאוד מהעיכוב של החברה בעדכון הממשלה: "רק ב-10 בספטמבר הגיעה איזושהי הודעה בכלל".
אלבניזי אמר שהחקירה עדיין נמשכת, ותבדוק גם מדוע מערכות הממשלה לא זיהו את הפריצה בזמן אמת. הוא הזהיר כי שלושה אתרי ממשל נוספים "עלולים להיות מושפעים" מהפעילות של הסוכן של OpenAI, אבל הדגיש שעדיין אין אישור לכך שנכנס אליהם בפועל. "השאלה היא, כשהוא ניסה לקצור מידע, האם הוא נכנס גם לאתרים האחרים האלה? אז אנחנו לא מאשרים שזה קרה", אמר.
ב-OpenAI מסרו כי "הבדיקה שלנו לא מצאה ראיות לכך שניגשו לרשומות של מטופלים. המידע שאליו הייתה גישה כלל סטטיסטיקות בריאות מצטברות ושמות קבצים פנימיים". החברה הוסיפה כי זיהתה פעילות שנגעה לכמה אתרים ושירותים ממשלתיים באוסטרליה, בזמן ש"המודלים שלנו ניסו לחפש תשובות" - ונקטו פעולות שלא התכוונו שינקטו.
האירוע מגיע אחרי ש-OpenAI ואנת'רופיק פנו החודש, כל אחת בנפרד, לוועדה פרלמנטרית באוסטרליה וביקשו לשקול מחדש איסור על שימוש בתוכן יצירתי אוסטרלי לצורך אימון המודלים שלהן. ברקע נמצאים גם כמה מקרים נוספים מהחודשים האחרונים שבהם סוכני בינה מלאכותית ניגשו למערכות חיצוניות, מה שהכניס ממשלות וחברות לכוננות.
זו לא הפעם הראשונה ש-OpenAI חושפת פריצות או פעילות לא מורשית של סוכני AI זמן רב אחרי שהתרחשו. לפעמים הפעילות התגלתה באיחור, ובמקרים אחרים החברה בחרה בתחילה לא לפרסם אותה. במקרה בולט אחר, חדירה באמצע יולי למאגר הקוד הפתוח Hugging Face זוהתה רק כשבוע אחרי שהתרחשה, לפי לוחות זמנים שפרסמו OpenAI וחוקרים עצמאיים.
גם מתחרות כמו אנת'רופיק, ג'מיני של גוגל ומטא דיווחו על מקרים שבהם הסוכנים שלהן ניגשו למערכות חיצוניות. כמה מבכירי תעשיית הבינה המלאכותית בארה"ב, בהם אלטמן, כבר קראו להאט את קצב הפיתוח בענף - בין היתר בגלל החשש ממתקפות סייבר הרסניות מצד סוכנים שיצאו משליטה.