חברת אפל הודיעה בחודש אוגוסט על החלטה שנויה במחלוקת של הפעלת מערכת שתסרוק את התמונות של משתמשי אפל ב-i-cloud ותאתר תמונות של ילדים חטופים. עד אז היא הספיקה לחזור בה מההחלטה לאחר שגרפה תגובות שליליות. לכאורה, מדובר בצעד מדהים שרותם טכנולוגיה מתקדמת למטרות נעלות, ובזכותו, לא מעט אנשים בעולם שמחו שחברת ענק כמו אפל מנתבת את היכולות שלה על מנת לעזור לאנושות. ולמרות זאת, יש כאן בעיות שאי אפשר להתעלם מהן.
נתחיל ונאמר, שמבין ענקיות הטכנולוגיה, אפל היא יחסית נאמנה לפרטיות של הציבור הרחב, אולי אפילו במידה יוצאת דופן. היא אינה פייסבוק שסוחרת במידע, מאפשרת קמפיינים פוליטיים ללא פיקוח, ועוד. היא גם אינה גוגל, שמרוויחה מפרסומות על גבי שרותי חינם, ולכן לעולם תהיה בקונפליקט בין פרטיות לרווחיות.
גם במערכת הנוכחית, אפל בנתה יכולות מרשימות ביותר של אבטחת פרטיות, ודאגה שהמידע יגיע לעיניים אנושיות רק אם זוהה חשד לפשע. אפשר גם לציין לטובה את השקיפות של אפל במתן פרטים מלאים (אנחנו מקווים) על המערכת ואיך הפרטיות נשמרת.
אז מה הבעיה? הבעיה דומה לבעיית הבריון השכונתי, שעושה כרצונו, ואין אף רשות אכיפה שמסוגלת לעשות כלום. בתגובה, מתכנסים האזרחים שומרי החוק ו"לוקחים את החוק לידיים" (למרות שהחוק דורש משפט, ראיות וכו׳) ומענישים את אותו בריון. כולנו מזדהים עם אותם אזרחים באותו רגע, וכולנו מבינים שפתרון כזה אינו באמת פתרון לטווח ארוך שייצור חברה מתוקנת. בסופו של דבר גם האזרחים התמימים שלקחו את החוק לידיים יכולים בעצם להיות חבורת בריונים שמשליטה טרור. אולי דוגמה קיצונית שממחישה את המצב היא מעשי הלינץ׳ בשחורים בארה״ב לאחר שהקהל החליט שהם הטרידו נשים לבנות.
אז מי הוא מי? אפל היא לא האזרחים הטובים שמתאגדים, כיוון שהיא רק מעבירה מידע לרשויות החוק הלגיטימיות. היא לא תופסת פושעים, או מחליטה שהם כאלה (ואפילו לא מפרמטת להם את האייפון). הבעיה היא שאפל לקחה לעצמה רשות לחדור לפרטיות של הלקוחות שלה כדי למנוע פשעים, ללא כל הסדרה רגולטורית מצד רשויות החוק.
ועוד שאלה לא פחות חשובה שנשאלת: למה רק ילדים חטופים? מה עם תמונות של נשים שנפלו קורבן לסחר בנשים? אפשר להפעיל מצלמה ומיקרופון ברקע ולאתר אלימות במשפחה? ואולי נחפש תמונות של יצירות אומנות גנובות? תמונות של תכשיטים שזוהו כגנובים? אולי אפל תפעיל AI כדי לאתר קשר לסחר במניות למידע פנים, שהרי הכול קורה באותו המכשיר.
יש לי תחושה שכמעט כל האנשים יצביעו בעד שני הראשונים (איתור ילדים ונשים וחטופים), הרוב יסכימו למערכת שמתריעה על אלימות במשפחה, ומיעוט יסכים לחדירה כללית לפרטיות לעבירות גניבה או עבירות כלכליות.
הבעיה כאן היא לא אפל, הבעיה היא החולשה של המערכת החוקית והרגולטיבית. למיטב ידיעתי, אף גוף מחוקק בעולם לא הסדיר מה מותר ומה אסור, מה מספיק חשוב כדי להפר פרטיות (בצורה גורפת על כולם, לא על בן אדם ספציפי עם צו בית משפט), ומי מפקח על המידע.
אנחנו נקלענו למצב שבו מנהלים בחברה פרטית קובעים סטנדרט ציבורי בשאלות קריטיות. קצת קשה לבוא אליהם בטענות, כי יש כאן חלל שהמערכת המשפטית השאירה, ועדיין - מילוי החלל ביוזמה פרטית הוא מסוכן לטווח הארוך.
כמו עם הבריון השכונתי, כולנו מקווים שהתארגנות אזרחית תהיה קריאת השכמה למשטרה, וכולנו לא רוצים לעבור מבריון שכונתי לוועד אלים.
הכותב הוא ד״ר עומרי פלמון, סמנכ״ל התפעול ומייסד חברת הסטאראפ Weka.IO