שבוע עבר מאז הפיגוע הטראגי בגבעת אסף, שבו נרצחו חיילי צה"ל יובל מור יוסף ויוסף כהן זכרם לברכה. שעות ספורות אחרי הרצח, עברה זירת הקרב לפייסבוק של יובל ז"ל, עם מאות תגובות צוהלות בערבית וקללות נגד יהודים וישראלים.
התגובות והקללות מהצד הישראלי לא איחרו לבוא - ומהר מאד דף הפייסבוק של יובל הפך לשדה קרב של טינופת, בטקסט ובתמונות, שלא מכבדת את זיכרו של חלל צה"ל. במהלך סוף השבוע דיווחנו על זה בנקסטר, ורק בראשון בבוקר פייסבוק ניקתה באופן סופי את העמוד והחזירה אותו להיות עמוד הנצחה אישי.
השאלה היא כמובן למה? למה משפחה של חלל צה"ל שמתמודדת עם האובדן, צריכה עוד לראות את הזוהמה הזאת בדף? למה פייסבוק לא מסננת מיד? ג'ורדנה קטלר, מנהלת מדיניות פייסבוק בישראל הגיעה לאולפן next והתייחסה לאירוע המצער ואמרה: ״המקרה הטרגי הזה קרה אחרי שבוע שלם של גל של פיגועים. כבר היו הרבה צוותים שעבדו 24\7 כל השבוע לטפל בכל המקרים של הסתה, של קריאות לאלימות ושל תמיכה בארגוני טרור בתוך הפלטפורמה שלנו״.
״כשהמקרה הזה קרה בסוף השבוע היינו מאוד מוכנים, לקח בערך 24 שעות לנקות את הפרופיל מהתגובות הפוגעניות. עברנו עליהם אחד אחד, הן היו בהרבה שפות, היינו צריכים גם לחקור לעומק את הבסיס של כל תגובה״ הוסיפה קטלר. ״אנחנו רוצים לבדוק אם הוא חלק מעוד עמודים או קבוצות שמשתפים חומר מארגוני טרור״.
המקרה סייע לפייסבוק למצוא את המקורות להסתה. ״אם יש אנשים מסוכנים בתוך הפלטפורמה שלנו אנחנו רוצים לטפל בהם, המקרה הזה גם נתן לנו הזדמנות לראות מאיפה באים המקורות של ארגוני טרור שמשתתפים בפלטפורמה שלנו. זה מאוד חשוב להכנס גם לעומק של העניינים, הצוותי שלנו בחו״ל עבדו במהלך כל השבוע כדי להבין מאיפה זה מגיע ועבדנו הכי מהר שאנחנו יכולים״.
״אין בינה מלאכותית שיכול לצפות איזה בן אדם יכתוב פוסט פוגעני. מאחורי המסך יש בני אדם, אנחנו צוות של אנשים שבודק תוכן. ההקשר מאוד חשוב, אין מכונה שעושה את זה במקום בני אדם״.
קטלר גם ממליצה - דווחו על פוסטים עם תוכן מסית או טרוריסטי. ״הכי חשוב זה לדווח, זו הדרך שלנו להבין מה קורה. מערכת הדיווח שלנו מתעדפת את הדברים, אם מישהו מדווח על פוסט פוגעני אנחנו כמובן נטפל בזה מהר. אבל, אם מישהו מדווח על פוסט אובדני זה יהפוך להיות הראשון בתור״
גם הפוסט יאיר נתניהו, בנו של ראש הממשלה, נחסם ל-24 שעות בעקבות פוסט שפרסם עם תוכן שמפר את כללי פייסבוק. איך שיקול הדעת של החברה פועל במקרה כזה? לדבריה של קטלר הכללים של פייסבוק חלים על על אדם שמשתמש בפייסבוק.