גוגל השהתה כלי AI ב-Google Earth אחרי שמשתמשים יצרו בו תמונות לוויין מזויפות

פחות מ-48 שעות אחרי שהשיקה את כלי יצירת התמונות החדש שלה ב-Google Earth, גוגל הודיעה כי היא משהה אותו בעקבות חשש לשימוש לרעה ולהפצת מידע כוזב. הכלי אפשר למשתמשים ליצור באמצעות הוראות טקסט תרחישים פיקטיביים על גבי צילומי לוויין, תצלומי אוויר ומודלים תלת ממדיים אמיתיים.

הכלי, שהושק ביום חמישי, אפשר למשתמשים ליצור באמצעות הוראות טקסט תמונות אוויריות פוטוריאליסטיות. החשש שעלה הוא שהתמונות המזויפות ייתפסו כתיעוד אמיתי, בין היתר בגלל שהן נוצרות על בסיס המידע הגיאוגרפי של Google Earth.

גוגל מסרה בפוסט ב-X כי אף אחת מהתמונות שנוצרו באמצעות ה-AI לא הופיעה בפלטפורמה המרכזית של Google Earth. בחברה הוסיפו כי לצד שימושים מקצועיים מועילים, הם ראו גם אנשים משתפים צילומי מסך של תמונות שנוצרו בכלי ושנראו כמפרות את מדיניות החברה.

חוקר המודיעין ההולנדי הנק ואן אס התריע כבר ביום חמישי מפני האפשרות ששחקנים זדוניים ינצלו את הפיצ'ר. בפוסט שכותרתו "איך לשתול תחנת כוח גרעינית באיראן", הוא הזהיר כי תמונות AI שהולכות ונראות אמיתיות יותר עלולות להקשות על עיתונאים, חוקרים ובודקי עובדות להבחין בין תיעוד אמיתי לתמונות מפוברקות.

"הזיוף לא חייב להיראות אמין בפני עצמו. הוא יורש את האמינות של המפה שעליה הוא נוצר", אמר ואן אס. הוא הזהיר גם מפני האפשרות ליצור תמונות של מתקנים שלא קיימים באיראן, מחנה פליטים בגבול ארה"ב ומקסיקו או בית חולים בעזה שנפגע מהפצצה, ובכך להקשות על עיתונאים, חוקרים ובודקי עובדות להבחין בין תיעוד אמיתי לתוכן מפוברק.

הבדיקה העלתה כי ניתן גם לעקוף חלק מההגבלות שהטמיעה גוגל בכלי. החברה טענה כי ההנחיות המובנות במודל ימנעו יצירת תמונות בנושאים מזיקים, אך שינוי בניסוח הבקשה אפשר במקרים מסוימים לקבל תמונות שהיו אמורות להיחסם.

במקביל, צוות בדיקת העובדות של BBC הצליחו ליצור תמונות מזויפות של מגדל אייפל שקרס, בולען ענק שנפער מתחת לפירמידה הגדולה בגיזה וטנקים רוסיים בבירת אוקראינה. גוגל מסרה כי תוכן שנוצר באמצעות כלי הבינה המלאכותית שלה כולל סימני מים בלתי נראים שנועדו להצביע על כך שמדובר בתמונה שנוצרה או שונתה באמצעות AI. החברה המליצה למי שאינו בטוח לגבי תמונה לבדוק אותה באמצעות ג'מיני או Google Lens.

אלא שב-BBC Verify מצאו כי גם מנגנוני הבדיקה אינם חסינים. במקרים מסוימים הצליחו החוקרים לגרום לג'מיני לזהות תמונות מזויפות שנוצרו ב-Google Earth כתמונות אמיתיות, בעוד שכלי זיהוי AI חיצוניים לא הצליחו לזהות את המניפולציה.

גוגל מסרה כי היא משהה את הפיצ'ר "בזמן שאנחנו עובדים על יישום אמצעי הגנה חזקים יותר". בפוסט ב-X החברה אמרה כי היא ראתה אנשים משתפים צילומי מסך של תמונות שנוצרו באמצעות הכלי ושנראו כמפרות את מדיניות החברה.

בחברה הדגישו כי התמונות שנוצרו באמצעות ה-AI לא הופיעו בפלטפורמה המרכזית של Google Earth. לצד זאת, בגוגל אמרו כי אנשי מקצוע בתחום המידע הגיאו-מרחבי השתמשו בכלי למטרות מועילות, אך הודו כי חלק מהשימושים עוררו חשש.

החברה השקיעה בשנים האחרונות סכומי עתק בבינה מלאכותית ומשלבת כלי AI במוצרים כמו Search, Workspace, Maps ו-Google Earth. ההחלטה לעצור את הפיצ'ר החדש ממחישה את הקושי לשלב כלי AI מתקדמים במוצרים שבהם המשתמשים רגילים להסתמך על המידע כעל מקור אמין.