כשאישיות מסוימת הופכת לטרנדינג בטוויטר זה תמיד מדאיג. בתקופת ה-MeToo הייתה בדיחה מוכרת שאם האשטאג של גבר מבוגר הופך לפופולרי ברשת זה אומר שהוא או מת או שגילו שהטריד מינית. היום המצב קצת שונה, אבל עדיין יש סיבה לדאגה כאשר הגולשים מתחילים להריץ את השם שלך בטירוף.

זה בדיוק מה שקרה לבובי אלטהוף, אושיית טיקטוק שמוכרת בעיקר מהפודקאסט שלה, בו היא מראיינת כוכבים באדישות מרגיזה. הטוויטר התמלא אתמול (רביעי) בציוצים בנושא סרטון עירום שכביכול דלף שבו נראית אלטהוף, אבל המציאות שונה לגמרי. ממש כפי שקרה לפני מספר שבועות עם תמונות מיניות של טיילור סוויפט, גם הפעם מדובר בזיוף, אבל בניגוד לזיוף של סוויפט שנעשה בבינה מלאכותית, הפעם מדובר בדיפ פייק שנעשה על סרטון מיני של אישה אחרת.

אלטהוף הגיבה לפרשה והביעה את הזעזוע והגועל שלה מהסרטון שהפך לוויראלי בטוויטר, למרות שהוא עובר על חוקי הפלטפורמה. בסטורי שהעלתה הפודקאסטרית בת ה-26 היא פרסמה סדרה של הצהרות על הסרטון הגרפי, שבו פניה מונחות על אישה שמבצעת בעצמה אקטים מיניים מול מצלמה: "שונאת לאכזב את כולכם, אבל הסיבה שאני טרנדינג היא 100% לא אני ולגמרי בינה מלאכותית", היא כתבה, כולל צילום מסך של שמה ברשימת הטרנדינג (הנושאים הפופולריים) בטוויטר.

בסטורי המשך, אלטהוף חשפה שכאשר ראתה לראשונה שהיא ברשימת הטרנדינג היא התרגשה, "אמרתי לעצמי, 'אוי אלוהים, זאת פעם ראשונה, אני בטרנדינג בטוויטר. אתם בטח ממש אוהבים את הפודקאסט שלי". לאחר שלחצה על הלינק היא חשבה: "אממ, מה זה לעזאזל? הרגשתי שזו טעות או משהו, שזה בוטים. לא הבנתי שאנשים באמת האמינו שזאת אני עד שכל הצוות שלי התקשר אליי ושאל "זה אמיתי?". אלטהוף אמרה שכשהיא צפתה בקליפ המזויף, היא הרגישה צורך לסגור את העיניים מרוב שהוא היה גרפי.

התוכן המזויף הופץ על ידי צבא של חשבונות בוטים, אבל לא מעט משתמשים אמיתיים הגיבו אליו כאילו הוא אמיתי. ציוץ ויראלי אחד שמכיל גרסה מצונזרת של התוכן זכה להערת גולשים המדגישה שהסרטון הוא דיפ פייק, או מניפולציה דיגיטלית שנעשתה כדי להיראות כמו אלטהוף. אבל העובדה שהתוכן הצליח להתפשט בקלות ובמהירות כזאת מעוררת חששות נוספים לגבי הבעיות של טוויטר מאז שהשתלט עליה אילון מאסק.

הוויראליות של הסרטון בטוויטר היא די מדהימה. הסרטון הופיע לראשונה באתר פורנו המפיץ דיפ פייק של סלבס כבר לפני חצי שנה אבל נצפה "רק" 178 אלף פעמים, כך לפי הוושינגטון פוסט. בתוך פחות מ-24 שעות לאחר שעלה לרשת החברתית של מאסק הוא צבר מעל ל-4.5 מיליון צפיות, פי 25 מהאתר שבו עלה לפני חצי שנה.

כדי להשיג תשומת לב מעבר לפורומים הנישתיים בהם הם פועלים, כמה יצרני Deepfake העבירו את התוכן שלהם ל-X, שם הם מקווים למכור יותר קליפים או ללכוד קהל מיינסטרימי יותר. חלק מהזיופים של טיילור סוויפט ואלטהוף פורסמו גם בפלטפורמות כמו אינסטגרם ו-Reddit, אבל הם צברו רק חלק קטן מהקהל שם והוסרו במהירות. כיום אין חוק פדרלי המסדיר דיפ פייק, אם כי יש מדינות מסוימות, כמו ג'ורג'יה ו-וירג'יניה, האוסרות על פורנו ללא הסכמה שנוצרו על ידי בינה מלאכותית.

X אוסרת על פרסום "עירום ללא הסכמה", אך האכיפה הוגבלה לאחרונה מכיוון שהחברה, בהוראת מאסק, פיטרה אלפי עובדים, כולל את צוות "האמון והבטיחות" שהסיר באופן מסורתי תכנים כאלה. מאסק אף לעג למסנני התוכן, ושיתף פוסט שבו גרוק, הצ'אטבאט של הרשת החברתית, קרא "לאמץ את הכאוס של האינטרנט".