תובעת חדשה נגד מאסק וגרוק: אב יצר 7,000 תמונות AI מיניות של הבת שלו והתאבד

אישה מוויומינג תובעת את xAI, חברת הבינה המלאכותית של אילון מאסק, בטענה שאביה החורג השתמש בצ'אטבוט של גרוק כדי להפוך תמונות ילדות שלה לתמונות מיניות. לפי הדיווח של הוושינגטון פוסט, האישה, שמזוהה במסמכי בית המשפט כ-Jane Doe 4 (הגרסה האמריקאית של פלוני אלמוני), הצטרפה בחודש שעבר לתביעה פדרלית נגד החברה בבית המשפט המחוזי של צפון קליפורניה. "החיים שלי היו נורמליים לגמרי. פחות מ-48 שעות אחר כך הם הפכו לסיוט ממשי", אמרה לוושינגטון פוסט.

לפי כתב התביעה, אביה החורג יצר יותר מ-7,000 תמונות מיניות שלה כילדה באמצעות גרוק, ושיתף אותן ברשת. במסמכים נטען כי הוא השתמש בתמונה שלה מגיל 11 בערך, שבה היא נראית שוכבת על ספה בחולצת טישרט גדולה, והפך אותה לתמונות גרפיות מזויפות. אחת מהן כללה כיתוב שלפיו האב החורג אונס אותה.

האישה סיפרה כי הגיעה מוקדם יותר השנה לבית הוריה בוויומינג כדי לארגן מסיבה משפחתית, ושם מצאה כוחות אכיפה של המדינה ושל הרשויות המקומיות. לדבריה, אדם שהציג תג אמר לה שיש צו חיפוש במכשירים האלקטרוניים של אביה החורג בחשד לחומרי פדופיליה. טכנאי שחיפש כונן קשיח עם תמונות משפחתיות אמר לה, לדבריה, שזה קשור לבינה מלאכותית.

בתביעה של Jane Doe 4 נטען כי הדיווח של xAI לא כלל מידע חיוני מהרשומות שלה, כמו כתובות IP שקשורות לחשבון של אביה החורג. עוד נטען כי xAI לא השיבה לכמה בקשות של חוקר לקבל מידע נוסף. Jane Doe 4 אמרה, בהתבסס על שיחותיה עם חוקר בתיק, כי אביה החורג לא הואשם בעבירות פורנוגרפיית ילדים ושוחרר ביום ביצוע צו החיפוש משום שהדיווח הראשוני של xAI לא כלל את התמונות המזויפות המפורשות עצמן. לדבריה, החוקר אמר לה שהדיווח הראשוני של xAI הגיע לצוות פשיעת אינטרנט במדינה הלא נכונה, מה שגרם לעיכובים נוספים.

יומיים אחרי הפשיטה אביה החורג נמצא מת בתוך מכוניתו בעיר הולדתה. היא אמרה כי מאז הפכה לחרדתית בנושא שמירה על הילדה שלה, והזהירה כי תמונות AI עלולות לגרום נזק אמיתי. "גישה בלתי מוגבלת לכלים האלה מתפשטת כל כך מהר", אמרה.

מאז הפשיטה על בית הוריה, אמרה Jane Doe 4, חייה השתנו לגמרי. היא החלה טיפול בטראומה ונאלצה לחזור לעבוד כאחות כדי לתמוך באמה האלמנה, מה שמכביד כלכלית על המשפחה שלה. "אני חיה את זה כל יום. אשקר אם אגיד שאני לא אובדנית מאוד", אמרה, בפעם היחידה שבה קולה נשבר במשך שעות של ראיונות.

התביעה המקורית נגד xAI הוגשה במרץ על ידי שלוש נערות מטנסי, שתיים מהן עדיין קטינות, המזוהות כ-Jane Does 1, 2 ו-3. הן טענו כי גרוק שימש ליצירת תכנים מיניים מתמונות שלהן שצולמו כשהיו צעירות יותר. התביעה המורחבת, שהוגשה בחודש שעבר, טוענת כי xAI ייצרה, החזיקה והפיצה חומר פוגעני מיני בקטינים שנוצר באמצעות AI, ומבקשת הכרה כייצוגית בשם כל מי שתמונות שלהם כקטינים שונו בידי xAI לתוכן מיני מפורש שבו הם עדיין ניתנים לזיהוי.

התביעות הוגשו אחרי שמאסק קידם בשנה שעברה את השימוש בגרוק ליצירת תוכן מיני, בניגוד לרוב חברות הבינה המלאכותית הגדולות. הוא הרחיב את היכולת של הצ'אטבוט ליצור ולשנות תמונות וסרטונים, ופרסם לעוקביו ב-X דימויים של נשים צעירות במראה מיני. xAI, שכעת היא חלק מספייס אקס של מאסק, לא הגיבה לבקשת תגובה ולא הגישה תשובה לתביעה בבית המשפט. מאסק אמר כי גרוק אמור לאפשר "עירום בחלק הגוף העליון של בני אדם בוגרים דמיוניים", בדומה לסרטים בדירוג R.

התובעות מבקשות פיצויים לפי "חוק מאשה", חוק פדרלי שמאפשר לנפגעי פורנוגרפיית ילדים לתבוע. בתביעה נטענות גם טענות אחריות מוצר נגד xAI בגין רשלנות ותכנון פגום, בדומה לתביעות מוות ברשלנות שהגישו משפחות של משתמשים צעירים שהתאבדו נגד חברות AI.

מוקדם יותר השנה פתחו מחוקקים בארצות הברית ובאירופה בבדיקות נגד xAI, אחרי שהחברה אפשרה לצ'אטבוט לפרסם ב-X תמונות מיניות בתגובה לבקשות משתמשים להסיר בגדים מתמונות של אנשים. לפי המרכז למאבק בשנאה דיגיטלית, ארגון ללא מטרות רווח שמפעיל לחץ על חברות טכנולוגיה לנקות את הפלטפורמות שלהן מתכנים כאלה, במשך 11 ימים חשבון Grok ב-X פרסם כ-3 מיליון תמונות מיניות, 23,000 מהן היו של ילדים. מאסק כתב אז ב-X כי הוא "לא מודע לתמונות עירום של קטינים שנוצרו על ידי גרוק", וכי הצ'אטבוט "יסרב לייצר כל דבר לא חוקי".

חברת xAI תבעה את מדינת מינסוטה נגד חוק חדש שאוסר הפצה של תמונות עירום ללא הסכמה של אנשים אמיתיים שנוצרו באמצעות AI, בטענה שהוא יגביל תוכן שמוגן בחוקה. "נראה שהאסטרטגיה של xAI היא: אנחנו רוצים לוודא שאנשים יוכלו לייצר כל דבר שהוא חוקי", אמר דייוויד ת'יל, חוקר אבטחת מידע ולשעבר סמנכ"ל הטכנולוגיות של Stanford Internet Observatory. לדבריו, אסטרטגיה כזו מחייבת את הטכנולוגיה של xAI לדעת את ההבדל בין תוכן פוגעני לתוכן פרובוקטיבי בלבד.

ת'יל אמר כי היכולת של מודלים גנרטיביים לערבב ולשלב מושגים וסגנונות חזותיים שונים הופכת אותם לכלים חזקים לניצול לרעה. באותו אופן שבו מודל AI יכול ליצור הזמנה למסיבת יום הולדת בסגנון קומיקס של מארוול, הוא יכול גם להסיר בגדים מתמונה של ילד. לדבריו, מודלים שאומנו על מאגרי ענק שנאספו מהרשת ספגו "הרבה דימויים של תוכן מיני, הרבה דימויים של ילדים". ת'יל כתב ב-2023 דוח שמצא חומר פוגעני מיני בקטינים במאגר נתונים נפוץ לפיתוח כלי תמונה מבוססי AI.

בתביעה נגד xAI מוזכרת גם Stability AI, שמפתחת את מחולל התמונות הפתוח והניתן להתאמהStable Diffusion. חוקרים ממרכז CISPA Helmholtz Center for Information Security בגרמניה העריכו לאחרונה כי התוכנה עומדת מאחורי יותר מ-40 אחוז מתמונות אינטימיות של אנשים אמיתיים שנוצרו ב-AI. חברת Stability AI לא הגיבה לבקשת תגובה של הוושינגטון פוסט. החברה אמרה בעבר כי היא בודקת את מודלי ה-AI שלה בהיבטי בטיחות ילדים ומוסיפה הגנות לפני פרסומם, וגם היא לא הגיבה לתביעה בבית המשפט.