דוח חדש חושף שמאות מיליוני משתמשים נחשפים לתכנים אנטישמיים באינסטגרם

דוח חדש שפורסם החודש על ידי המרכז לחקר האנטישמיות (ARC) של התנועה למאבק באנטישמיות (CAM), חושף תמונה עגומה ומדאיגה: הרשת החברתית אינסטגרם ממליצה באופן פעיל על תוכן המקדם שנאת יהודים קיצונית, תיאוריות קונספירציה מסוכנות ותעמולה אנטי-מערבית.

על פי ממצאי התחקיר, שנערך לאורך 96 שעות בלבד (19-22 במרץ), החוקרים תיעדו 100 פוסטים מסיתים שהוצגו למשתמשים דרך מערכת ההמלצות של הרשת החברתית. פוסטים אלו לבדם צברו למעלה מ-5.3 מיליון לייקים ו-3.8 מיליון שיתופים, והגיעו לחשיפה משוערת של 150 עד 280 מיליון משתמשים.

הנקודה המטרידה ביותר היא שהמשתמשים לא חיפשו את התוכן הקיצוני הזה באופן יזום. הפלטפורמה היא זו ששימשה כצינור שהציג והעצים את התכנים הללו למשתמשים דרך מנגנוני ההפצה שלה. הדוח קובע כי אלגוריתם ההמלצות יוצר "סביבות תוכן סגורות" המזינות את המשתמשים באותם מסרים אנטישמיים שוב ושוב, ללא תוכן נגדי, מה שמוביל לתהליך של רדיקליזציה. במקביל, חברת האם מטא מפיקה בעקיפין רווחי פרסום משמעותיים ממעורבות המשתמשים בתכנים הללו.

האיום החדש: "רבנים" מזויפים מבוססי בינה מלאכותית

אחת המגמות החדשות והמסוכנות שעולות מן הדוח היא שימוש בדמויות שנוצרו על ידי בינה מלאכותית כדי להפיץ שנאה. החוקרים זיהו חשבון בשם "הרב גולדמן" (Rabbi Goldman), שאינו אדם אמיתי אלא דמות AI, אשר צבר מעל 1.4 מיליון עוקבים. החשבון מקדם תיאוריות קונספירציה אנטישמיות על שליטה יהודית במערכת הפיננסית העולמית, כשחלק מסרטוניו מגיעים ליותר מ-5 מיליון צפיות.

בסך הכל אותרו 12 חשבונות של "רבנים" פיקטיביים עם קהל יעד משולב של 2.1 מיליון עוקבים, המציגים את היהודים כאובססיביים לכסף תוך שימוש בסטריאוטיפים קלאסיים. יש לציין, כי העמוד של הרב גולדמן ירד מאינסטגרם, אבל עדיין קיים בפייסבוק.

הדוח מפרט שורה של פוסטים וסרטונים שזכו לתפוצה ויראלית בעזרת האלגוריתם, ביניהם:

• האשמת היהודים באסונות היסטוריים וסחר בילדים: קטע מפודקאסט שצבר 191,000 לייקים ו-184,000 שיתופים, טוען כי היהודים הם שדים ששולטים בממשלת ארה"ב, בבתי המשפט ובמערכת הבנקאות. הקטע אף מאשים את היהודים ביצירת רשתות סחר בילדים, ובאחריות ישירה לפיגועי ה-11 בספטמבר, רצח קנדי, המגפה השחורה וטביעת הטיטאניק.

• עלילות דם, אילומינטי ופולחן השטן: פוסט עם למעלה מ-32,300 לייקים קושר בין יהודים, משפחת רוטשילד והציונות לבין תנועת האילומינטי ופולחן האל "בעל", כדי לייצר נרטיב של רשת סודית השולטת בעולם. סרטון אחר (75,000 לייקים) מציג פסל דמוני שעליו סומן המספר "666" (המסמל את השטן בברית החדשה) יחד עם מגן דוד ודגלי ישראל וארה"ב, תוך תיעוד חגיגות שריפתו של הפסל.

• הכחשת ועיוות השואה: סרטון שגרף 12,500 לייקים מקדם את הטענה השקרית והמזעזעת לפיה היהודים הם אלו שהיו אחראים למותם של יהודים אחרים בשואה, וזאת כדי לקדם את הקמת מדינת ישראל - צורה קיצונית של עיוות השואה.
• השוואת היהודים לשטן: סרטון בהשתתפות בובי פישר (36,500 לייקים) שבו הוא משווה במפורש בין יהודים לשטן, וטוען שהזהות היהודית היא מרושעת מיסודה.

סשה רויטמן, מנכ"ל התנועה למאבק באנטישמיות (CAM), מסר: "אנחנו חוקרים תופעות של אנטישמיות כבר שנים, והפעם הופתענו מהקלות ומהיקף ההפצה. מעולם לא נתקלנו בנגישות כה רחבה של תכנים אנטישמיים למשתמשים. אנו שואלים את עצמנו מהי אחריותה של אינסטגרם לעליית האנטישמיות בעולם.

"הממצאים בדוח הזה צריכים להדליק נורה אדומה ברמה הגלובלית. כאשר פלטפורמה כמו אינסטגרם לא רק מאפשרת לתכנים אנטישמיים להתקיים, אלא גם מפיצה אותם באופן אקטיבי למיליוני משתמשים, מדובר בכשל מערכתי עצום. מטא חייבת לקבל אחריות ולבצע שינוי עומק במנגנוני ההמלצה שלה, כדי להבטיח שתכנים מסוג זה לא יקבלו עוד חשיפה והגברה".

נזכיר שרק בשבוע שעבר הפסידה מטא במשפט עם מאפיינים דומים. בתביעה שהתנהלה בניו מקסיקו החברה תאלץ לשלם 375 מיליון דולר בקנסות אזרחיים, לאחר שבית המשפט קבע כי החברה הטעתה צרכנים לגבי בטיחות הפלטפורמות שלה וסיכנה ילדים. חלק מהעדויות בתיק הגיעו דווקא מאנשים שעבדו בתוך החברה.

ארתורו בז'אר, ששימש במשך שש שנים כמהנדס בכיר ומנהל מוצר במטא החל מ-2009, סיפר לבית המשפט (לאחר שהעיד בפני הסנאט שנים קודם לכן) על מאמציו להזהיר את מנהלי החברה לאחר שבתו בת ה-14 קיבלה הצעות מיניות באינסטגרם. הוא העיד גם שאותם אלגוריתמים מותאמים אישית שהופכים את הפלטפורמות של מטא ליעילות במיקוד פרסומות, יכולים להיות מועילים באותה מידה לטורפים מיניים.

"המוצר טוב מאוד בחיבור בין אנשים לתחומי עניין", אמר בז'אר, "ואם תחום העניין שלך הוא ילדות קטנות, הוא יהיה טוב מאוד בלחבר אותך לילדות קטנות". ואם נחזור לעניין האנטישמיות - אם אתה מתחיל לצפות בסרטונים נגד יהודים אתה עלול להישאב לאותה מחילת ארנב.