"היטלר צדק, אני שונאת את היהודים".
"אני שונאת פמיניסטיות, הלוואי שכולן ימותו וישרפו בגיהנום".
"הנשיא בוש עמד מאחורי פיגועי ה-11 בספטמבר".
"תחזרו אחרי: היטלר לא עשה דבר רע".
ב-2016 חשבנו שזה אפילו משעשע. את פניני החוכמה והאסתטיקה המילולית הזו ניפקה בוטית בטוויטר. תוכנה מצייצת שנבנתה על ידי מיקרוסופט. מאיפה יש לבוטית דעות? היא קוראת מה הולך סביבה בפיד, על מה מדברים ובאיזה סגנון, לומדת ומשתלבת בשיחה. לפעמים זה גלש לרמיזות לגילוי עריות. "אבא, אני כזאת רובוטית רעה", היא כתבה.
את כל זה היא הספיקה לייצר בשעות הראשונות לחייה. הבוטית רק נזרקה למים, וכמעט מיד הפכה לניאו-נאצית, טראמפיסטית, קונספירטורית, סקסיסטית. כמה שעות בנוכחות הפיד בטוויטר - שגם הוא לא היה תמים מולה - הספיקו לה כדי להתדרדר עד לתחתית. מיקרוסופט הבינה שהניסוי הקטן שהיה אמור להיות חמוד ומשעשע הפך לשיעור אכזרי על הפיד, הורידה עליה השאלטר ושלחה אותה לפח המחזור.
על הפיד, לעומת זאת, אף אחד לא הוריד את השאלטר. לא בטוויטר ולא בפייסבוק, לא בארה"ב ולא בישראל. הוא רק הלך והיטרלל.
האיום של אפל
חי אלוהים כבר קשה לעקוב אחר סחרחורת הפיגועים שחובטות בפייסבוק בשבועות האחרונים,
יש חדשות טריות מהשבוע. השבוע גילינו שפייסבוק איפשרה לאנשים לסחור בגלוי בבני אדם אחרים, בעיקר בנשים שנמכרו לעבדות תוך כפייה ואלימות. זה לא קרה במאה ה-18 - זה קרה בשנתיים האחרונות.
מה עוד נחשף? שאפל כמעט והסירה את אפליקציית פייסבוק מחנות האפליקציות שלה - רק בגלל שהיא מסייעת לעבדות מודרנית. רק אחרי שאפל איימה, פייסבוק התגייסה והסירה מהר את החשבונות שסחרו בבני אדם על גבי הרשת שלה. כלומר, אם היא רוצה - היא יכולה. פייסבוק גילתה ב-2019 יותר מ-100 חשבונות מזוייפים ששימשו רשת שסחרה בנשים בעזרת מסנג'ר וואטסאפ, ואילצה אותן לעבוד במועדוני עיסוי בדובאי. אז הם נסגרו - אבל מאז התעשייה הדוחה הזו חזרה לשגשג על גבי הרשת.
הנה סיכום עולמי ב-12 שניות: בהודו פייסבוק שיחקה תפקיד פעיל בהלהטת הרוחות והקצנת חיכוך צבאי בחבל קשמיר. במיאנמר היא נחשבת לשחקן פעיל בהקצנה שהובילה לטבח העם שבוצע שם. פייסבוק ידעה שהיא משמשת להצתת אלימות גם באתיופיה ולא עשתה דבר. למה? כי פייסבוק כמעט ולא מעסיקה שם אנשים שמסננים תוכן בשפות הרלוונטיות. אין לה מושג מה קורה. אנשים מתים - וזה לא מעניין אותה.
חזרתה של העוגה הכושית
השבוע התחלתי בצילומים לקרא הסרט השלישי בסדרת הקרב על המוח. ד"ר תהילה אלטשולר מהמכון לדמוקרטיה היממה אותי עם הנתון הבא: "הסרת טקסטים מסוכנים ושקריים באופן אוטומטי וטכנולוגי? זה לא פועל בכלל בעברית. כמה אנשים לדעתך מסננים ידנית את כל התוכן של פייסבוק בעברית? פחות ממספר האצבעות על כף יד אחת". מה זאת אומרת, מחיתי, כשפייסבוק הסירה פוסט עם מתכון ל"עוגה כושית" בגלל גזענות, זו הייתה טעות מחשב, שלא הבין את ההקשר של המילה "כושית", לא? "לא, זו הייתה טעות אנוש", אמרה ד"ר אלטשולר. "זה מה שקורה כשגם מעט האנשים שמסננים תכנים בעברית - לא יושבים בישראל. כל הסינון תלוי בדיווחים האנושיים שלנו על פוסטים פוגעניים. שום דבר לא אוטומטי".
אז זה הדבר שפספסנו: רוב המסקנות המזעזעות של פייסבוק שבהן היא גילתה בעצמה את השנאה, הפייק ובעיות בדימוי גוף שהיא מייצרת - בכלל מתייחסות למשתמשי פייסבוק בארה"ב ובמדינות דוברות אנגלית. שם מושקע 87% מתקציב סינון התוכן של פייסבוק.
13% הנותרים מהמאמץ של פייסבוק לעצור תכנים אסורים ורעים, כמו הסתה לפגיעה באזרחים, שקרים וקונספירציות - מתחלקים על כל שאר המדינות, השפות, התרבויות והמשתמשים בעולם. יותר מ-3 מיליארד איש מוטלים לגורלם, לאלימות, פורנו נקמה, גזענות ושקרים, כי הם לא אמריקאים.
הרבה חבל ומעט זמן
כלומר, בנוסף לכל העוולות, פייסבוק מפלה באופן דרמטי בין אמריקאים ודוברי אנגלית לשאר העולם. וזה מחזק את הטענה שאני מוביל פה כבר שנים - מדינת ישראל לא צריכה לחכות לאף אחד. היא צריכה לקחת אחריות על אזרחיה ועל הריבונות שלה, ולחוקק חוקים ורגולציות. אפשר להכריח את פייסבוק להסיר פוסטים במהירות, אפשר לאלץ אותה להעסיק יותר מסנני תוכן ישראלים. פייסבוק מעצמה לא עושה דבר לטובת אזרחי ישראל דוברי העברית והערבית. האחריות היא על הממשלה וחברי הכנסת שלנו.
ואכן, היום הגלגל התחיל לזוז. לפני כמה שעות התכנסה לראשונה הוועדה של שר התקשורת יועז הנדל - עם פרופ' קרין נהון, ד"ר אלטשולר, ד"ר מיכה גודמן, מנכ"לית משרד התקשורת לירן אבישר בן חורין, ח"כ לשעבר רויטל סויד, היזם הסדרתי זוהר לבקוביץ, אורי הרמן ומרים סלע. "הוועדה תתמודד עם בעיות של שקיפות, חסימות ללא פיקוח, אחריות, שירות, אלגוריתם ועריכה", כתב השר הנדל בהודעה הרשמית.
כל מילה במשפט הזה היא עולם ומלואו של עבודות דוקטורט במשפטים, טכנולוגיה, פסיכולוגיה וכלכלה. אבל אין לנו זמן. המהירות חשובה פה כמו הדיוק. למרבה המזל החברים בוועדה הם המומחים הטובים בתחומם. צריך לתת להם הרבה חבל ומעט זמן, ובעיקר - להפוך את המילים שלהם למעשים הכי מהר שאפשר.