בתחילת השבוע סערה המדינה סביב פרסום לפיו בבית ספר ברמת גן נתלתה תמונה המסיתה לרצח בנימין נתניהו. הידיעה התפשטה כאש בשדה קוצים ברשתות החברתיות וגררה תגובות נזעמות. אך מהר מאוד, עוד במחצית אותו היום, התברר כי מדובר בפייק ניוז מוחלט, והתמונה היא חלק מעבודה נגד הסתה ואלימות, וכוללת אישים רבים - משני צדי המפה הפוליטית. אלא שאז קרה משהו מוזר, או יותר נכון לא קרה: חלק מחברי הכנסת שהידהדו את ידיעת הכזב לא הסכימו למחוק אותה, ובראשם נתניהו עצמו וח"כ איתמר בן גביר.
במיזם בידוק העובדות "בודקים" אמרו בהתייחס לכך כי "חשפנו לא מעט פייקים אבל במלחמה כזאת כנגד האמת עדיין לא נתקלנו: רוב מפיצי הפייק לא הסירו אותו על אף שהם יודעים שהם ממשיכים להפיץ פייק ניוז. מדובר בפוליטיקאים, משפיענים ובכלי תקשורת (הכוונה לערוץ 14, א"ז). מי שאמור להיות השר שאחראי על אכיפת החוק בישראל בקרוב (בן גביר, א"ז) ממשיך להפיץ את הפייק!".
לכל מי שנמצא ברשתות החברתיות די ברור, במיוחד בחודשים האחרונים, שהשיח בהן הפך רעיל, קיצוני ואף אלים. בישראל אין ספק שהבחירות המקוטבות הגבירו את התחושה הזו, יחד עם השימוש לרעה כאמור של חלק מהפוליטיקאים (ושלוחיהם) בפייק ניוז באופן שיטתי, ללא בושה או מעצורים. במקביל, מעבר לים, אילון מאסק השתלט על טוויטר, הכריז עליה כפלטפורמה עם "חופש דיבור", פיטר את ראשת צוות האתיקה והחזיר את דונלד טראמפ לרשת הכחולה, יחד עם עוד אתר הומופובי שנחסם בעבר מהרשת, ומהלכים דומים נוספים.
ד"ר דנה תורג'מן, חוקרת אתיקה ופרטיות בעידן הדיגיטלי: "בשורה התחתונה רואים שיש אינטרס מסחרי לחברות לעודד, או לכל הפחות לא למנוע תוכן רעיל, כי הן מרוויחות מצריכת פרסומות באופן ישיר, ובאופן עקיף מהגדלת השימוש"
השיח ברשתות החברתיות הוא כיכר השוק החדשה, וזו כבר קלישאה. אך המתח בין חופש הדיבור לבין תוכן פוגעני רחוק מלהיות נושא פתור בעולם הדיגיטלי. ד"ר דנה תורג'מן, מאוניברסיטת רייכמן שעוסקת באתיקה ופרטיות בעידן הדיגיטלי, התייחסה בשרשור טוויטר לסוגיה: "אם עד עכשיו היה ספק מה האינטרס של הרשתות החברתיות בהעצמת תוכן רעיל, הנה הוכחה מעניינת: חוקרים מאוניברסיטת שיקגו, בניסוי מתוכנן, ביקשו ממשתמשים להתקין תוסף לדפדפן שמנטר את התוכן ובודק את רמת הרעילות שלו. לחצי מהמשתמשים הם 'ניקו' את התוכן הרעיל, לחצי לא".
במחקר יש הגדרות מדויקות מהו תוכן רעיל. הניסוי נמשך שישה שבועות, והתוצאה שלו ברורה: "מה קרה? אלו בקבוצת הטיפול צרכו פחות תוכן, לחצו פחות על פרסומות (כלומר פחות רווחים ישירים לרשתות החברתיות), והפיצו פחות תוכן רעיל", מסבירה תורג'מן. זה לא מחקר יחיד. צוות האתיקה והשקיפות ב-AI של טוויטר פירסם ב-2021 מחקר בו נמצא שב-6 מתוך 7 מדינות בהן הנושא נבדק, האלגוריתם מעצים ומקדם תכנים ימניים באופיים בפיד של המשתמשים, כנראה מאותה סיבה, של העצמת השיח. הצוות הזה כולו פוטר כעת על ידי בעל הבית החדש.
By “free speech”, I simply mean that which matches the law.
— Elon Musk (@elonmusk) April 26, 2022
I am against censorship that goes far beyond the law.
If people want less free speech, they will ask government to pass laws to that effect.
Therefore, going beyond the law is contrary to the will of the people.
בשיחה עם tech12 תורג'מן מרחיבה: "זה לא מאמר שלי (הכוונה למאמר משיקגו, א"ז) אבל הוא נראה רציני ובשורה התחתונה רואים שיש אינטרס מסחרי לחברות לעודד, או לכל הפחות לא למנוע תוכן רעיל, כי הן מרוויחות מצריכת הפרסומות כמובן באופן ישיר, ובאופן עקיף מהגדלת השימוש. זה מקרה של מחקר אקדמי שפורסם אבל החברות עושות כאלו מחקרים פנימיים כל הזמן, ו-A/B Testing (שיטה לבדוק גרסאות באינטרנט, א"ז); הן מן הסתם יודעות שיש להן אינטרס להגדיל אינגייג'מנט והמחקר משיקגו מראה שייתכן שלא כדאי להן למנוע הפצת תוכן רעיל". לגבי טוויטר, היא כותבת: "כשמאסק מפטר את כל צוות האתיקה, הבעיה רק תחמיר. מודעות להטיות היא הצעד הראשון, ואחרי זה, כנראה שנצטרך חקיקה כי אין שום אינטרס לחברות לשנות את המודל שלהן".
עוקבים אחרי הנזקים בטוויטר
מי שעוקב בעניין רב אחרי המתרחש בטוויטר מאז השתלט עליה מאסק הוא נועם שוורץ, המייסד והמנכ"ל של חברת ActiveFence. החברה נוסדה ב-2018 וגייסה עד כה 100 מיליון דולר. "אנחנו פועלים בתחום שמכונה Trust and safety, התחום באינטרנט שאחראי לשמור על הבטיחות של משתמשים במוצרי דיגיטל לצרכן. זה יכול פלטפורמת גיימינג, רשתות חברתיות, שירותי סטרימינג, שירותי שיתוף קבצים, כל אפליקציית צ'אט, אפליקציות גיג-אקונומי ועוד - בכל מקום שאדם שהוא לא מטעם החברה יכול להעלות תוכן.
"במקרה הטוב משתמש יכול להטריל, במקרה הרע לגרום נזק אמיתי על ידי פרקטיקות כמו בוליינג (בריונות רשת, א"ז), שיימינג, ודוקסינג (חשיפת פרטים אישיים של משתמש, א"ז). יכולים להיות איומים כמו Hate speech וקריאה מפורשת לדברים שמובילים לאלימות בעולם הפיזי. אנחנו נלחמים גם בהפצת פדופיליה, גניבת תמונות, או דברים שהם בניגוד למדיניות החברה כמו הפצת עירום, ספאם, שפה בוטה".
שוורץ לא יכול להרחיב לגבי לקוחות אבל הוא מציין כדוגמה את פלטפורמת הוידאו Vimeo כלקוחה. "אנחנו לא מקבלים את ההחלטות עבור הלקוחות, אלא רק עוזרים להם למצוא את התוכן שהוא נגד המדיניות שלהם", הוא מסביר. "עירום למשל כל בר דעת יזהה אבל יש דברים שבשבילם צריך קונטקסט. דוגמה ידועה היא שאם רואים אימוג'י של פולקע ולידו אימוג'י של פיצה, זה רמז לתוכן פדופילי (בשל ראשי התיבות CP, א"ז). לנו יש טכנולוגיה לאתר דברים כאלו ולאפשר סביבה בטוחה למשתמשים של החברות".
מה לגבי פייק ניוז?
"אני לא מתעניין בדוד שכותב שטויות. הבעיה היא שיש רשתות מתואמות שמפיצות פייק ניוז. אם מישהו מריץ מיליון בוטים ומפיץ דיסאינפורמציה, זו כבר מניפולציה בשיח. את זה נזהה ונתריע".
מה לגבי הטענה ההפוכה, שיש עודף מודרציה ברשתות החברתיות?
"יש שיח ניאו-קונסרבטיבי כזה שמדבר על כך שתרבות ה-Woke גורמת ל-Over מודרציה ומשנים את השיח הטבעי. בעיני אלו רעשי רקע שמסיחים את הדעת. המציאות היא שצוותי ה-T&S מקבלים המון החלטות ביום, שבריר אחוז הן כאלו שעשויה להיות מחלוקת לגביהן. ויש גם עניין של טעם, כמו שיש מסעדה שקובעת שכאן לא נועלים סנדלים. זה לגיטימי".
שוורץ מסכים עם תורג'מן שיש הקצנה בשיח: "אני חושב שיש הקצנה כל הזמן, לא יודע להגיד אם במיוחד בשבועות האחרונים. החברה שלנו נעשית יותר קיצונית ומשוסעת, וזה שילוב של שיח בין בני אדם ואלגוריתם שמפיץ את מה שאנשים מתיזים זה על זה".
אבל לפחות לגבי טוויטר, הוא מאמין שבסוף "השוק יסדר" את העיוותים. "אני חושב שהכסף ידבר בסופו של דבר. זה לא מגרש משחקים פרטי אלא עסק, חברה שעומדים לנגד עיניה חובות במיליארדי דולרים ו-90% מההכנסות שלה מגיעות מפרסומות. מפרסמים אוהבים לפרסם בסביבה נקייה ובאמת כמה מהם כבר יצאו מהפלטפורמה", אומר שוורץ. בדבריו הוא מכוון לידיעה טרייה לפיה שורה של חברות גדולות עצרו (לפי שעה) את הפרסום בטוויטר בניהן ג׳יפ, מארס, קלוגס, מבשלת הבירה סמואל אדמס, חברת התקשורת ורייזון ועוד.
נועם שוורץ, מנכ"ל ActiveFence: "נכון שהאינטרס של החברות הוא לייצר הרבה אינגייג'מנט כדי לקבל עוד חשיפות אבל זה נכון רק לטווח הקצר. אם חושבים צעד אחד קדימה המפרסם רוצה לייצר את האיינג'מנט הנכון. האם מאסק יהפוך את טוויטר ל-4chan? אני לא חושב"
"תחשוב שיש ג'ימבורי שבא לך להביא את הילד אליו כי הוא תמיד נקי ומסודר ואף אחד לא מרביץ שם", הוא מסכם. "נכון שהאינטרס של החברות הוא לייצר הרבה אינגייג'מנט כדי לקבל עוד חשיפות אבל זה נכון רק לטווח הקצר. אם חושבים צעד אחד קדימה המפרסם רוצה לייצר את האיינג'מנט הנכון. האם מאסק יהפוך את טוויטר ל-4chan? אני לא חושב, ולראיה, הפגיעה בצוות המודרציה של טוויטר הייתה קטנה יחסית בגל הפיטורים".