האמת מאחורי התמונה של יאיר נתניהו והבכיר הקטארי שמופצת בעולם

ככל שמודלי ה-AI מתפתחים, כך היכולת לזהות תמונות שנוצרו באמצעותן קטנה, וכך קרה גם הפעם עם תמונה מזויפת של יאיר נתניהו ובכיר קטארי שנוצרה על ידי בינה מלאכותית והופצה ברשתות.

ביממה האחרונה, על רקע כל הגילויים האחרונים בפרשת קטארגייט, תמונה של בנו של רה"מ, יאיר נתניהו, נפגש לכאורה במסעדה עם בכיר ממשפחת המלוכה הקטארית, חמד בן ת'אמר אל ת'אני, הפכה לוויראלית. באתר רוטר.נט ובעמודים שונים ברשת X נכתב כי הפגישה נערכה במסעדה בארה"ב, שם מתגורר נתניהו.

בפוסט שהופץ באנגלית על ידי ניב קלדרון, ונמחק לאחר מכן, נכתב כי כי התמונה עוררה סערה ברשתות החברתיות הערביות, וכי היא נחשפה על ידי מתנגדים פוליטיים של השייח'.

גם פעיל השמאל אייבי בנימין הפיץ את התמונה ברשת יחד עם האשמות כלפי יאיר נתניהו, אולם מיהר למחוק אותה, כאשר עלה החשד בתגובות שמדובר ב-AI.

התמונה לא הופצה רק בישראל כאמור, אלא גם בעמודים שונים בערבית.

כך תדעו אם תמונה נוצרה על ידי ה-AI של גוגל

אולם למרות כל הפרסומים, מדובר כאמור בתמונת AI שנוצרה על ידי ג'מיני, מודל ה-AI של גוגל, וניתן להוכיח זאת בקלות על ידי בדיקה בצ'אט עצמו. כאשר מעלים את התמונה לג'מיני, נכתב בתגובה: "כן, בדיקה של הקובץ מצביעה על כך שהתמונה (או חלק ממנה) נוצרה או נערכה באמצעות הבינה המלאכותית של גוגל. התמונה מכילה סימן מים מסוג SynthID שמאשר זאת".

SynthID היא טכנולוגיה שפותחה על ידי גוגל שמטרתה לסמן ולזהות תוכן שנוצר על ידי בינה מלאכותית. הטכנולוגיה מטמיעה סימן מים דיגיטלי (Watermark) ישירות בתוך התוכן (במקרה הזה, בתוך הפיקסלים של התמונה). הסימן הזה בלתי נראה לעין האנושית ולא פוגע באיכות התמונה, אבל תוכנה מיוחדת יודעת "לקרוא" אותו ולזהות שהתמונה נוצרה על ידי AI.

הסימן מתוכנן להישאר בתמונה גם אם עושים בה שינויים, כמו חיתוך (Crop), שינוי גודל, הוספת פילטרים או דחיסה. זה נועד למנוע מצב שבו עריכה פשוטה תמחק את העובדה שהתמונה נוצרה על ידי מחשב.

המטרה העיקרית היא לעזור למשתמשים להבדיל בין תוכן אמיתי לבין תוכן שנוצר באופן מלאכותי ("פייק"), ובכך להגביר את השקיפות ברשת.

מיזם פייק ריפורטר, שנאבק בפעילות זדונית ברשת, הוסיף: "התמונה המזויפת הופצה בערוצי חדשות אלטרנטיביים ושותפה על ידי גולשים המזוהים כמתנגדים לממשלה. בדיקה בג'מיני העלתה כי מדובר בזיוף שנוצר באמצעות כלי AI של גוגל.

"על אף שפניו של האדם היושב לצד אל-ת'אני אינן גלויות, רבים האמינו ללא כל ביסוס כי מדובר ביאיר נתניהו - דוגמה מובהקת לאופן שבו עצם המסגור וההקשר עלולים להכשיל את הציבור עוד לפני בדיקה טכנית או זיהוי כלי AI. משום כך, חשוב להטיל ספק בתכנים סנסציוניים ברשתות החברתיות ולחפש פרסומים בנושא במקורות אמינים, כגון אתרי חדשות".