אפל הסירה אפליקציית עירום ב-AI, אשר קודמה בקמפיין ממומן בתוך מטא
לפי WIRED, האפליקציה Kromix התחזתה לאפליקציית עיצוב תמונות, אך אפשרה ליצור סרטונים מיניים של אנשים אמיתיים. מטא הריצה לה 32 מודעות שיועדו רק לגברים, ובהן נראתה פוליטיקאית אמריקאית בכירה המופיעה בסרטון פורנוגרפי
אפל הסירה מהאפסטור את Kromix, אפליקציה שאפשרה לפי דיווח WIRED ליצור דיפ-פייק פורנוגרפי מבוסס בינה מלאכותית של אנשים אמיתיים. לפי הדיווח, מטא הריצה קמפיין לאפליקציה, ובאחת המודעות הופיעה אישה שדמתה לפוליטיקאית אמריקאית בכירה.
"תמיד אסרנו באופן מחמיר על אפליקציות שנועדו ליצור, להפיץ או לצרוך פורנוגרפיה", נמסר מאפל ל-WIRED. "אפליקציות 'הפשטה' מנוגדות להנחיות שלנו בחנות אפליקציות, ואנחנו פועלים באגרסיביות כדי לזהות ולהסיר אפליקציות, וגם את חשבונות המפתחים שמאחוריהן, שמנסות לעקוף את התהליכים והמדיניות שלנו".
לפי האתר WIRED, אפליקציית Kromix הציגה את עצמה כ-"AI image styler" או בעברית מעצב תמונות בבינה מלאכותית, אבל באחת מפרסומות הווידאו שלה נאמר כי אין לה "מגבלות", ש"כל הדמויות הן אנשים אמיתיים" ושמדובר ב-"AI שגברים באמת משתמשים בו". באותה מודעה נראתה אישה הדומה לפוליטיקאית אמריקאית בכירה על רקע דגל ארה"ב ודגל נשיא ארה"ב, לצד הכיתוב "מה אם היא הייתה זזה?". לאחר מכן היא קרצה, והמודעה עברה לסצנה שבה אישה עם אותו פנים מופיעה בסרטון פורנוגרפי.
על פי הדיווח, שתי החברות, מטא ואפל, פעלו אחרי ש-WIRED פנתה אליהן לקבלת תגובה: אפל הסירה את Kromix מהחנות, ומטא הורידה את הקמפיין. הקמפיין כלל 32 מודעות שיועדו רק למשתמשים גברים.
באפל אמרו בתגובה כי Kromix הוסיפה את התוכן והיכולות האסורים אחרי שעברה את הבדיקה הראשונית של חנות האפליקציות. הדברים דומים לתגובה שמסרה אפל בחודש שעבר, אחרי שהתובע העירוני של סן פרנסיסקו דייוויד צ'יו דרש ממנה להסיר מהחנות שמונה אפליקציות "מפשיטות".
WIRED דיווחה גם כי Kromix אינה האפליקציה היחידה מהסוג הזה שאפל הסירה לאחרונה בעקבות פנייה של האתר. בתחקיר נוסף מצא WIRED כי כמה מודעות בעייתיות במטא הפנו ל-MaskAI, אפליקציה בחנות של אפל שאפשרה באופן דומה להעלות תמונות ולהחליף פנים של אנשים לתוך סיטואציות מיניות. גם את MaskAI אפל הסירה אחרי ש-WIRED פנתה לקבלת תגובה.