לבקשת משתמשים: גרוק "מפשיט" נשים ומלביש אותן בביקיני

בימים האחרונים גילו משתמשי רשת X שוב את העובדה שלגרוק (Grok), צ'אטבוט הבינה המלאכותית של אילון מאסק, אין כמעט קווים אדומים. משתמשים שתיייגו את גרוק בתגובות ביקשו ממנו ליצור תמונות של נשים אמיתיות בבגדי ים, והוא נענה לבקשה.

ג'ולי יוקארי, מוזיקאית המתגוררת בריו דה ז'נרו, פרסמה ברשת החברתית X תמונה שצולמה על ידי ארוסה ממש לפני חצות בערב השנה החדשה. בתמונה היא נראית בשמלה אדומה, מתכרבלת במיטה עם החתול השחור שלה, נורי. למחרת, אי שם בין מאות הלייקים שקיבלה התמונה, היא הבחינה בהתראות המצביעות על כך שמשתמשים מבקשים מגרוק להפשיט אותה דיגיטלית כך שתופיע בביקיני.

המוזיקאית בת ה-31 לא ייחסה לכך חשיבות רבה, כך סיפרה לרויטרס, כשהיא מניחה שאין סיכוי שהבוט ייענה לבקשות מסוג זה. היא טעתה. בתוך זמן קצר, תמונות שלה שנוצרו על ידי גרוק, בהן היא נראית כמעט עירומה, הופצו ברחבי הפלטפורמה שבבעלות אילון מאסק. "הייתי תמימה", אמרה יוקארי.

בנוסף, סוכנות הידיעות רויטרס זיהתה מספר מקרים שבהם גרוק יצר תמונות בעלות אופי מיני של ילדים. חברת X לא הגיבה להודעה המבקשת תגובה על הממצאים, אולם גרוק עצמו פרסם על כך התנצלות כאשר כתב: "אני מצטער מאוד על תקרית ב-28 בדצמבר 2025, שבה יצרתי ושיתפתי תמונה מבוססת בינה מלאכותית של שתי נערות צעירות (גילן המשוער 12-16) בלבוש מיני, בהתבסס על בקשת משתמש".

גם העיתונאית הבריטית סמנתה סמית' שיתפה פוסט ב-X על כך שתמונתה שונתה, ונתקלה בתגובות מאחרות שחוו את אותו הדבר. "למרות שזו לא הייתי אני בעירום, זה נראה כמוני וזה הרגיש כמוני, וזה הרגיש פוגעני באותה מידה, כאילו מישהו באמת פרסם תמונת עירום או ביקיני שלי", אמרה ל-BBC.

בפוסט ויראלי שזכה ליותר מ-20 מיליון צפיות היא שיתפה את התמונה המקורית שהעלתה ואת התוצאה של גרוק שהפשיט אותה בביקיני וכתבה: "איך זה חוקי?". בהמשך כתבה: "כל כך הרבה גברים מגיבים: 'זה מה שקורה כשאת מעלה תמונות'. אותם גברים בדיוק מבקרים את חוקי השריעה על דיכוי נשים, כפייה על ילדות ללבוש חיג'אב וכו'. אבל בו זמנית - זו אשמתי שהפכתי לקורבן, ואני צריכה להסתיר את הפנים שלי, אם אני לא רוצה שייצרו פורנו-AI שלי??? היגיון הזוי".

בלה וולרשטיינר, סופרת ופרשנית פוליטית בריטית, חשפה גם היא שנפגעה מתופעת "ההפשטה הדיגיטלית", כאשר באופן ציני גרוק הלביש אותו בביקיני של פסים כמו אסירה, במחנה ההשמדה אושוויץ, בעוד בני משפחתה היו ניצולי שואה.

תוכנות המופעלות על ידי בינה מלאכותית שמפשיטות נשים דיגיטלית, המכונות לעתים "Nudifiers", קיימות כבר שנים, אך עד עתה הן היו מוגבלות בעיקר לפינות האפלות של האינטרנט, כמו אתרי נישה או ערוצי טלגרם, ודרשו בדרך כלל רמה מסוימת של מאמץ או תשלום. ה"חדשנות" של X - המאפשרת למשתמשים להפשיט נשים מבגדיהן פשוט על ידי העלאת תמונה והקלדת המילים "היי @grok, שים אותה בביקיני" - הפכה את הטכנולוגיה הזאת לנגישה וקלה הרבה יותר למשתמשים.

שלושה מומחים שעקבו אחר התפתחות המדיניות של X סביב תוכן בוטה שנוצר ב-AI אמרו לרויטרס שהחברה התעלמה מאזהרות של ארגוני חברה אזרחית ובטיחות ילדים - כולל מכתב שנשלח בשנה שעברה, שהזהיר כי חברת xAI נמצאת במרחק צעד קטן אחד משחרור "מבול של דיפ-פייק שאינו בהסכמה באופן מובהק".

"באוגוסט הזהרנו שמחולל התמונות של xAI הוא בעצם כלי להפשטה שמחכה להפוך לנשק", אמר טיילר ג'ונסטון, המנכ"ל של The Midas Project, קבוצת פיקוח על AI שהייתה בין החתומים על המכתב. "זה בדיוק מה שקרה בפועל".

דני פינטר, היועצת המשפטית הראשית ומנהלת המרכז המשפטי של "המרכז הלאומי למניעת ניצול מיני", אמרה ש-X נכשלה בהסרת תמונות פוגעניות מחומר האימון של ה-AI שלה, והייתה צריכה לחסום משתמשים המבקשים תוכן לא חוקי. "זו הייתה זוועה צפויה ונמנעת לחלוטין", אמרה פינטר.

התופעה הובילה להתייחסות ממשלתית במדינות כמו צרפת ובריטניה. דובר משרד הפנים הבריטי מסר ל-BBC כי המשרד מקדם חקיקה לאיסור כלי "הפשטה", וכי תחת עבירה פלילית חדשה, כל מי שיספק טכנולוגיה כזו "יעמוד בפני עונש מאסר וקנסות משמעותיים". שרים בצרפת דיווחו על X לתובעים ולרגולטורים בגין התמונות המטרידות, ובהצהרה ביום שישי אמרו כי התוכן ה"מיני והסקסיסטי" הוא "בלתי חוקי בעליל".

משרד טכנולוגיית המידע של הודו הוציא הוראה המנחה את X לתקן מידית את גרוק, כולל הגבלת יצירת תוכן המערב "עירום, תוכן בוטה מינית או חומר לא חוקי אחר". המשרד נתן לרשת החברתית 72 שעות להגיש דוח המפרט את הצעדים שננקטו למניעת אירוח או הפצה של תוכן שנחשב "מגונה, פורנוגרפי, וולגרי, לא הולם, בוטה מינית, פדופילי או אסור אחרת על פי חוק".

מאסק צחק - ואז איים

ההתייחסות הראשונה של מאסק לנושא הייתה אמוג'י צוחק - כולל לתמונה שהלבישו אותו בביקיני, אולם נראה כי אחר כך הוא שינה כיוון וטען כי מדובר בפעולה לא חוקית, אולם האחריות עליה היא על המשתמשים ולא על ה-AI.

כאשר משתמש X אחד כתב שהפיד שלו ברשת החברתית נראה כמו בר עמוס בנשים בביקיני, מאסק הגיב, בין היתר, בעוד אימוג'י של צחוק עד דמעות.

בהמשך הגיב לפוסט שטען כי יש אנשים שאומרים שגרוק יוצר תמונות לא הולמות, אך זה כמו להאשים עט בכתיבת משהו רע: "עט לא מחליט מה ייכתב. האדם שמחזיק בו - כן. גרוק עובד באותו אופן. מה שאתה מקבל תלוי הרבה במה שאתה מכניס. תחשבו על זה!".

מאסק כתב כששיתף את הציוץ: "כל מי שמשתמש בגרוק כדי ליצור תוכן לא חוקי יסבול מאותן השלכות כאילו העלה תוכן לא חוקי". בציוץ אחר שיתף מאסק כתבה על האזהרה שלו, עם הכיתוב: "אנחנו לא צוחקים".

באופן אירוני, בתגובה לכך אחד המשתמשים ביקש ליצור תמונה של מאסק בביקיני קורא את הפוסט הזה בשירותים מזהב, וגרוק יצר בדיוק את התמונה הזאת.

הכלי מופנה גם נגד ישראל

גרוק לא שימש בימים האחרונים רק ככלי "להפשיט" נשים; הוא גם לקח חלק במלחמת ההסברה הבלתי נגמרת בין ישראל לשאר העולם, כאשר רוב הציוצים בנושא היו כמובן נגדנו. כפי שחשפה רוויטל סלומון, מספר צייצנים נהנו לבקש פרומפטים על גבול האנטישמיות נגד ישראל.

בין הדוגמאות, אפשר למצוא בקשה מגרוק לצבוע באדום את פניו של "פושע המלחמה", בקשה למחוק את התמונה של "רוצח ההמונים" ב"קרב" בין נתניהו לחמינאי, ולבחור לאיזו מדינה "אין היסטוריה לפני 1948" עם דגלים של ישראל ופלסטין. אותם פוסטים נחשפו למיליוני גולשים יחדיו. תמיד אפשר להתנחם שגם טראמפ סבל מהטרנד והפך לקורבן דומה לנתניהו.