המדינות שחסמו את גרוק בעקבות הטרנד המעוות של זיוף תמונות מיניות - והחקירה שנפתחה

מלזיה ואינדונזיה חסמו במהלך סוף השבוע את הגישה למודל הבינה המלאכותית גרוק (Grok) של אילון מאסק, בעקבות יכולתו לייצר פייקים מיניים ותכנים פורנוגרפיים. הצעד מגיע בעקבות השימוש המוגבר בגרוק, שפעיל בעיקר ברשת X (לשעבר טוויטר), כדי לערוך תמונות של אנשים אמיתיים כך שיוצגו בלבוש חושפני.

שתי המדינות הודיעו שגרוק עלול לשמש ליצירת תמונות פורנוגרפיות של נשים וילדים ללא הסכמה. הן הראשונות בעולם שהטילו איסור רשמי על הכלי, ומשרדי התקשורת של מלזיה ואינדונזיה הודיעו על המהלך בהודעות נפרדות בימים האחרונים.

גם בבריטניה התופעה עוררה דיון ציבורי סוער. רשות התקשורת הבריטית הודיעה היום (שני) שפתחה בחקירה לגבי השימוש בגרוק כדי לייצר תמונות מיניות. בהודעה רשמית שפרסמה הרשות, נכתב שהתקבלו "דיווחים מדאיגים מאוד" על השימוש בגרוק כדי להפשיט אנשים בתמונות, ולהפוך "תמונות של ילדים למיניות". אם החקירה תעלה ש-X הפרה את החוק, בריטניה תוכל לקנוס אותה בעד 10% מההכנסות הגלובליות שלה.

שרת הטכנולוגיה במדינה הביעה תמיכה בחסימת גרוק בבריטניה - מה שהוביל את מאסק להאשים את הממשלה בניסיון לדכא את חופש הביטוי. ראש ממשלת בריטניה קיר סטארמר כינה את הטרנד המעוות של יצירת תמונות מיניות באמצעות גרוק "מביש" ו"מגעיל".

במשרד התקשורת של מלזיה מסרו ביום ראשון כי מוקדם יותר השנה נשלחו הודעות לפלטפורמת X בדרישה להחמיר את הפיקוח, לאחר שזוהה "שימוש חוזר ונשנה" בגרוק ליצירת תכנים מזיקים. לדברי הרגולטור, בתגובתה X לא התייחסה לסיכונים המובנים בכלי, והתמקדה בעיקר במנגנון הדיווח של המשתמשים. באינדונזיה, שרת התקשורת במדינה כתבה שהשימוש בגרוק ליצירת תכנים מיניים מפורשים מהווה פגיעה בזכויות אדם, בכבוד האדם ובבטיחות ברשת.

הרשויות באינדונזיה פועלות בשנים האחרונות נגד מקורות מקוונים של פורנוגרפיה, ופלטפורמות כמו OnlyFans ו-Pornhub כבר חסומות במדינה. משתמשי X באינדונזיה שגילו שתמונותיהם עברו מניפולציה סיפרו ל-BBC כי חשו זעם על כך שהדבר התאפשר.