ענקיות הטק בצרה: המשפט של מטא ויוטיוב עלול לשנות הכל

ארה"ב נגד צוקרברג

זאת הולכת להיות ההצגה הטובה בעולם. נציגי העם והמדינה של ארה"ב נגד מארק צוקרברג והרשתות החברתיות.

המשפט שנפתח ובו מדינות, מחוזות, בתי ספר ומשפחות תובעים את מטא ואת גוגל (סביב יוטיוב) בטענה פשוטה ומטלטלת: תכננתם מוצר ממכר לילדים בכוונה תחילה.

זה לא התוכן. זה לא הפייק, לא הרעל, לא האלימות ולא הפדופיליה. הבעיה היא המנגנון.

התביעה טוענת שהאלגוריתמים, הגלילה האין-סופית והאוטו-פליי לא שם כי "הגולשים רצו". אלה מנגנונים שהונדסו בכוונה כדי לעקוף מנגנוני שליטה עצמית של קטינים, להגביר תלות בדופמין, ולהשאיר אותם מחוברים גם על חשבון שינה, לימודים ובריאות נפשית. בניו מקסיקו, למשל, מואשמת מטא בכך שאפשרה להפוך את פייסבוק ואינסטגרם לזירה נוחה לפדופילים וסוחרי בני אדם; בתיקים אחרים נטען לעידוד קשרים עם זרים מבוגרים ולהסתרת מידע פנימי על נזקי דיכאון, חרדה והפרעות אכילה.

החוק הגרוע בעולם

החידוש המשפטי הדרמטי הוא הניסיון לעקוף את חסינות סעיף 230. מה זה סעיף 230?

מעט חוקים גרועים יכולים על תואר "החוק הגרוע בעולם" כמו סעיף 230. כשנחקק ב-1996, הוא דווקא היה חוק נהדר שבעצם אפשר לאינטרנט לקום, כי פטר פלטפורמות כמו גוגל מאחריות למה שאנשים מפרסמים על גבי הפלטפורמה. אחרת לא היה אפשר להקים אתרים כאלה.

מה לא לקחו בחשבון שהחברות האלה הולכות להשתמש באלגוריתמים כדי לברור לכל גולש את הפיד הכי ממכר עבורו, ששיקולים ערכיים (זה אמיתי? זה מועיל? זה חוקי?) יישארו בחוץ, ושכל זה ישנה לחלוטין את אופי ההתנהגות האנושית, החברה, העיתונות והדמוקרטיה. מי יכול היה לדעת.

אממה - החוק עדיין שם.

אז התובעים עוקפים עם טענה חדשה: "עיצוב מסוכן". כלומר, זו לא רק פלטפורמה טכנולוגית שמארחת תוכן של אחרים, אלא מוצר פגום שמייצר נזק צפוי. אם בתי המשפט יקבלו את הקו הזה, ענקיות הטק עלולות למצוא עצמן במסלול שמזכיר את תביעות הטבק והרכב: אחריות נזיקית המונית על תכנון מסוכן. כלומר, קנסות מכאן עד הירח.

הבוסים ידעו והתעלמו

החברות טוענות להשקעות עתק בבטיחות, שפיתחו כלי בקרה להורים, ושאי אפשר למנוע לחלוטין עבריינות של משתמשים. הן מזהירות מפגיעה בחדשנות ובחופש הביטוי. כל אלה הסחת דעת.

לפני שבע שנים ביקרתי במטה פייסבוק. כששאלתי שאלות קשות את בכירי החברה, הם מרחו אותי ואחר כך כעסו עלי שהעזתי. הסרט המלא "הקרב על המוח" לצפייה כאן.

שנתיים אחר כך יצאה לתקשורת פרנסס האוגן. מהנדסת שעבדה החברה, ב-2021 היא התיישבה מול המצלמות של 60 דקות, סיפרה שהצטרפה לפייסבוק מתוך רצון להגן על הדמוקרטיה ועל משתמשים - ויצאה ממנה כשהבינה שהחברה יודעת יותר ממה שהיא מודה בפומבי על הנזק שהיא גורמת בעיקר לבני ובנות נוער.

היא לא יצאה לבד: היא לקחה איתה אלפי מסמכים פנימיים שהפכו ל-"Facebook Papers", ובהם מחקרים פנימיים, ביוזמת החברה, שהראו לה שאינסטגרם מחמירה דימוי גוף של נערות, מגבירה חרדה ודיכאון ותורמת למחשבות אובדניות. בכל זאת, לפי טענתה, החברה בחרה להמשיך לקדם תכונות שמגבירות מעורבות ורווחים. ״העובדים אמרו אחד לשני ׳אנחנו עובדים בחברת סיגריות'".

היא חשפה איך האלגוריתם מעדיף תכנים קיצוניים ומכעיסים כי הם מייצרים יותר אינטראקציה, וכי הנהלת החברה ידעה על כל זה, ובחרה בכסף. אחרי השידור העידה האוגן בקונגרס, ושם טענה שהבעיה איננה "אנשים רעים באינטרנט", אלא עיצוב מוצר שמתגמל קיצוניות וממכרות.

רק התחלנו

עכשיו אנחנו בתחילתו של כאוס חדש: הבינה המלאכותית.

אבל יש כלל אחד ברור שלמדנו מכל הסיפור הזה - אם למישהו ייגרם נזק, המדינה תבוא מהר לעזור לו. 20 שנה והעניין סודר.

בינתיים אגב, מטא כבר משתמשת בעוד ועוד בינה מלאכותית כדי להפוך את המוצר שלה ליותר ממכר, את הפרסומות ליותר חודרניות ואפקטיביות. הרווחים שלה עולים. הקנסות, אפילו עד הירח, לא ידגדגו אותה.
השאלה אם הציבור והמדינה יחליפו מצב צבירה מול הבינה המלאכותית. במקום לתת לשליטי הטכנולוגיה לעשות כרצונם, ללוות אותם מקרוב ובזריזות ביד חוקית אוהבת - נעזור לכם לפתח ולהתחרות, לא נעזור לכם לפגוע בציבור ובתחרות.

עוגן הרם

הזהירו אותי מראש: "הם כמו צבא".

אתה הולך לפגוש את ההנהלה של חברת ספנות ותיקה וענקית מיוון, נסחרת בבורסה. אל תצפה לרעיונות יצירתיים, אף אחד לא ידבר ליד הבוס שלו, והם לא מבינים ב-AI.

אז דיברנו על מה AI עושה לאנשים ולחברות. גילינו יחד שיש כבר היום לעובדים האלה בדיוק המון יכולות שדרושות במיוחד בעולם הבינה המלאכותית.

ובסוף ביקשתי מהם רעיונות יצירתיים: איך בינה מלאכותית יכולה להעיף את החברה שלכם לשמיים?

הרעיונות התחילו לזרום למסך. בעשרות רבות. עד שהמנכ"לית, אשת ברזל, דור חמישי לספנות יוונית, זינקה לבמה והתחילה לעבור עליהם בהתלהבות אחד אחד.

התהליכים המרתקים באמת היום לא תמיד נמצאים במפגש הייטק עם עוד הייטק. זה כמו פרוסת לחם בפיתה.

דווקא המפגש של חברות ותיקות ותעשייה מסורתית עם בינה מלאכותית עומד להוליד כמה מהרעיונות היפים ביותר, ורבות מהתועלות הכלכליות הכי משמעותיות שאפשר לדמיין.

בקיצור, עוגן הרם.