העונש למפיצי סרטוני ה-AI על המלחמה: להפסיק להרוויח עליהם כסף

על רקע הקלות שבה ניתן ליצור זיופים ב-AI לאירועי המלחמה עם איראן, אילון מאסק החל לפעול נגד משתמשים ב-X, טוויטר לשעבר, המפיקים רווחים מסרטונים שנוצרו בבינה מלאכותית.

הרשת החברתית מסרה כי משתמשים המפרסמים סרטוני מלחמה שנוצרו בבינה מלאכותית מבלי לסמן אותם בבירור, יושעו מתוכנית המונטיזציה של X למשך 90 יום. כל הפרה נוספת תגרום להסרה לצמיתות מהתוכנית, כך הודיע אתמול (ג') ראש תחום המוצר בחברה, ניקיטה ביר שהזהיר כי "עם טכנולוגיות הבינה המלאכותית של היום, זה עניין של מה בכך ליצור תוכן שיכול להטעות אנשים". הוא הוסיף וכתב: "בעת מלחמה, זה קריטי שלאנשים תהיה גישה למידע אותנטי מהשטח".

גל של זיופים בעקבות ההסלמה

המדיניות החדשה מגיעה לאחר שארה"ב וישראל תקפו את איראן בשבת, מה שהחל מלחמה אזורית ועורר גל של פוסטים מטעים שנוצרו בבינה מלאכותית ברשתות החברתיות. אחד הסרטונים המזויפים כלל צילומים של חיילים ישראלים כביכול בוכים מפחד, לכאורה בעקבות תקיפה איראנית. לקליפ הזה יש יותר מ-1.4 מיליון צפיות. סרטון מפוברק אחר, שנצפה על ידי יותר מ-2.1 מיליון אנשים, הראה את מגדל בורג' ח'ליפה בדובאי אפוף להבות לחלוטין לאחר שכביכול הותקף על ידי איראן.

סרטון נפרד שפורסם ב-X טען כי הוא מראה "טילים איראניים פוגעים במרכז ישראל", עם תיעוד שנראה כמציג פיצוץ אדיר בבניין. במציאות, הקליפ נוצר ב-AI והוא סומן ככזה על ידי משתמשים ב-X.

סרטון נוסף ששותף ב-X הציג טילים בליסטיים איראניים שהשמידו "את כל מה שבדרכם" בתל אביב. התיעוד הראה מה שנראה כמטח רקטות על העיר עם פיצוצים וענני עשן שנראו במרחק בזמן שהמצלמה ביצעה זום פנימה. בפוסט אחר תוארה תקיפה על נמל תעופה ישראלי לא מזוהה, בשני המקרים, הסצנות היו שקריות.

החברה מסרה כי תוכן שנוצר בבינה מלאכותית יסומן או באמצעות "הערות קהילה" (Community Notes) מהמשתמשים, או באמצעות מטא-דאטה וסימנים טכנולוגיים אחרים המצביעים על שימוש בכלי בינה מלאכותית יוצרת.

העתיד על פי מאסק

מאסק חזה בעבר שווידאו שנוצר בבינה מלאכותית הוא עתיד התוכן, גם בזמן שהפלטפורמה שלו מנסה להילחם בדיסאינפורמציה. "רוב מה שאנשים יצרכו בעוד חמש או שש שנים, אולי אפילו מוקדם יותר, יהיה פשוט תוכן שנוצר בבינה מלאכותית", אמר מאסק בחודש אוקטובר. תחת ההנחיות החדשות, משתמשי X יצטרכו להוסיף את התווית "Made with AI" על ידי לחיצה על התפריט בפוסט ובחירה ב-"Add Content Disclosures".

המהלך זכה לשבחים מצד ממשל טראמפ. שרה רוג'רס, תת-שרת החוץ לדיפלומטיה ציבורית, אמרה: "זהו שדרוג מצוין למערכת הערות הקהילה של X, שגורמת לפחות 'חשיפה' (ולכן פחות רווחים) לתוכן שסומן כלא מדויק. לא צריך 'משרד אמת' כדי לתמרץ אמת ברשת".

למרות הכל צריך לזכור שהרשת החברתית של מאסק, וכלי ה-AI שלו, נחשבים למקום עם לא מעט פייק ניוז ותכנים לא הולמים. בחודשים האחרונים החברה נאלצה לבצע שינויים בבקרות ה-AI שלה אחרי שגרוק הסכים להפשיט תמונות של נשים וילדים ללא הסכמתם והחל לענות תכנים אנטישמיים מדי פעם.