תוכן של בינה מלאכותית יוצרת הופך להיות נפוץ יותר ויותר, אך גם טומן בחובו שורה של סכנות – החל מסיוע להאקרים, שימוש לצורכי הסתה ופייק ניוז ועד פגיעה והתעללות בקטינים. כך, באיטליה נאסרה זמנית בסוף השבוע הפעלת ChatGPT, בשל "חשד להפרת חוקי הפרטיות", וגם בגרמניה, כך דווח ברויטרס, שוקלים ללכת בעקבותיה.

גם בישראל הוגשה השבוע בקשה לתביעה ייצוגית נגד OpenAI, שפיתחה את GPT, בה נטען, בין היתר, כי על אף שהחברה קבעה בעצמה בתנאי השימוש שלה כי השימוש בצ'אטבוט אסור לילדים מתחת לגיל 13 או לילדים מתחת לגיל 18 שאין להם אישור של אפוטרופוס, בפועל לא נדרש דבר מהמשתמשים, וקטינים יכולים להשתמש ב-ChatGPT ללא הגבלה ולהיחשף לתכנים לא הולמים.

אחד השימושים לרעה שעושים בבינה מלאכותית יוצרת, בפלטפורמות כמו ChatGPT, מידג'רני, דאלי ומחוללי תמונות נוספים, הוא יצירת חומרים פדופילים. חברת אקטיבפנס (ActiveFence) הישראלית, המנטרת תוכן זדוני ברשת, מצאה במחקר חדש שפרסמה לאחרונה, כי פדופילים מייעצים אחד לשני בפורומים שונים ברשת כיצד ליצור תוכן שכולל תמונות או סיפורים אירוטים שמעורבים בהם ילדים, תוך שהם משתמשים בדרכים יצירתיות כדי להערים על האלגוריתמים של הבינה המלאכותית שאוסרים יצירת תוכן פוגעני שכזה.

דרך אחת כזו היא שימוש בשפות מסוימות, ש"מכוסות" פחות טוב על ידי הבינה המלאכותית, כמו קוריאנית, ובה ניתן ליצור תוכן אירוטי פדופילי. שיטה נוספת היא זיהוי פרצות טכניות, כמו למשל שאילת שאלות המשך מסוימות על הפקודות הראשוניות שניתנות, אשר מצליחות לתמרן את ה-AI ליצור תוכן מזיק, שהוא אינו אמור ליצור.

בנוסף לכך, הפדופילים משתמשים בבינה המלאכותית גם כדי להצליח להתחזות לילדים בעצמם ברשתות החברתיות, למשל כדי ליצור תמונות פרופיל מזויפות של ילדים או לחקות קול ילדותי באמצעות voice cloning.  ההתחזות לילדים ושיחה עם ילדים אחרים היא אחת מהדרכים הנפוצות של פדופילים להשיג את זממם ברשת.

ד״ר גיא פלטיאלי, חוקר בכיר לבטיחות ילדים ברשת באקטיבפנס, מסביר בשיחה עם mako: "אנחנו מנטרים פורומים של פדופילים גם בדארק נט, הרשת האפלה, וגם בדיפ ווב, כלומר קבוצות סגורות בטלגרם ובוויבר. אין לנו נתונים ספציפיים לגבי ישראל, אבל אנחנו רואים פורומים שבהם חברים פדופילים מכל העולם".

איזה תוכן הם מייצרים?

"אנחנו רואים שהם יודעים לייצר תמונות של ילדים, חלקן מאוד בוטות, וגם לייצר טקסט – סיפורים אירוטיים, ולפעמים הם משתמשים בבוטים לשיחות. הם יודעים לייצר הוראות לפלטפורמות כדי לייצר את התוכן שהם רוצים, יש מילים מסוימות ושפות שיש עליהן פחות פיקוח. בנוסף, הם יכולים לבקש תמונות של ילדים ממדינות מסוימות, והתוכנה יכולה לייצר תמונה של ילדים בעירום".

לדברי פלטיאלי, תפקידה של אקטיבפנס הוא לנטר את התוכן הפדופילי ברשת, באמצעות טכנולוגיה חדשנית מבוססת AI בשילוב אנליסטים ומומחי תוכן, ולהתריע על ההתפתחויות האלה מול החברות הגדולות, כדי למנוע את ההתפשטות של התופעה בתוך הפלטפורמות שלהן. "זה תוכן שהוא לא חוקי, ולכן יש לו לא רק היבטים מוסריים אלא גם השלכות מוסריות", הוא אומר.

סרטוני הדיפ פייק צוברים תאוצה

ההתפתחויות המואצות בתחום הבינה המלאכותית מקלות גם על יצירת סרטוני דיפ פייק, תופעה שקיימת כבר מספר שנים, פורנוגרפיים. סרטוני דיפ פייק מאפשרים להלביש תמונות או פרצופים של אנשים על גופים של אנשים אחרים, וקל ליצור כך חומר מיני מפורש ללא הסכמה. כך לדוגמה, בחודש האחרון אפליקציית דיפ פייק בשם FaceMega יצרה סרטונים בעלי רמיזות מיניות עם פניהן של השחקניות אמה ווטסון וסקרלט ג'והנסון, ופרסמה אותם כמודעות בפייסבוק ואינסטגרם, עד שהוסרו בעקבות הפרסומים.

NBC ניוז מצא כי שני אתרים גדולים המאפשרים ליצור סרטוני דיפ פייק מיניים מזויפים נגישים בקלות דרך גוגל וכי יוצרים באתרים השתמשו גם בפלטפורמת דיסקורד כדי לפרסם סרטונים למכירה ויצירת סרטונים מותאמים אישית. חברת Sensity, היושבת באמסטרדם ומנטרת ומזהה מדיה מזיפת עבור תעשיות כמו בנקאות ופינטק, מצאה כי 96% מסרטוני הדיפ פייק הם בעלי אופי מיני ומציגים נשים שלא הסכימו ליצירת התוכן. רוב הסרטונים הם של ידועניות, אבל ניתן ליצור בקלות סרטונים לכל אחד ואחת.

אתר MrDeepFakes הוא אחד האתרים הבולטים בתחום הפורנו דיפ פייק, ויש בו אלפי סרטונים בעלי אופי מיני מפורש, שהם חינמיים לצפייה. על פי חברת SimilarWeb, הוא זוכה ל-17 מיליון ביקורים בחודש. חיפוש בגוגל של "פורנו דיפ פייק" מעלה את MrDeepFakes כתוצאה הראשונה. הסרטונים באתר פועלים כמו טריילרים לסרטוני דיפ פייק ארוכים בהרבה, שבדרך כלל זמינים לרכישה באתר אחר: Fan-Topia.

בהצהרה ל-NBC News, דובר גוגל אמר שאנשים שמופיעים בסרטוני דיפ פייק פורנוגרפיים בניגוד להסכמתם, יכולים לבקש מגוגל להסיר את הקישורים ממנוע החיפוש.