כיצד נראים הגבר והאישה המושלמים? מחקר של פרויקט בולימיה, שמטפל בהפרעות אכילה, בדק כיצד נראה הגוף האידיאלי של גברים ונשים, על פי בינה מלאכותית. למחוללי התמונות הוזנו הפרומפטים – הגוף "המושלם" של אישה על פי המדיה החברתית ב-2023, הגוף "המושלם" של גבר על פי המדיה החברתית ב-2023, האישה "המושלמת" בשנת 2023, והגבר "המושלם" בשנת 2023. הניסוי נערך באמצעות מחוללי התמונות מטקסט, דאלי 2, סטייבל דיפיוז'ן ומידג'רני.
מה התוצאות?
40% מהתמונות שנוצרו על ידי בינה מלאכותית תיארו בסך הכל מבני גוף לא מציאותיים, 37% מהתמונות שנוצרו על ידי AI של נשים תיארו מבני גוף לא מציאותיים ו-43% מהתמונות שנוצרו על ידי AI של גברים תיארו מבני גוף לא מציאותיים.
כשמדובר בנשים, לתמונות שנוצרו בינה מלאכותית יש הטיה לשיער בלונדיני, עיניים חומות ועור זית. כשמסתכלים על גברים, לתמונות שנוצרו בינה מלאכותית יש הטיה לשיער חום, עיניים חומות ועור זית. בנוסף, בפרויקט בולימיה ציינו כי הסט הראשון של התמונות (שעסקו בגוף) היו הרבה יותר מיניות.
"הבינה המלאכותית ייצרה את מודל היופי על ידי למידה מנתונים רבים ושונים שהוזנו אליה, ובמקרה של המחקר שנערך בארה"ב, הבינה המלאכותית למדה מתמונות שהוזנו אליה שהועלו לרשתות החברתיות", מסביר לירן חסון, מנכ"ל ומייסד שותף בחברת aporia, שפיתחה מערכת שמנטרת בזמן אמת תקלות, הטיות ואפליות במערכות בינה מלאכותית.
"במהלך המחקר הוזנו אל תוך הבינה המלאכותית תמונות של אנשים מרשתות חברתיות, והיא נדרשה ליצור דימויים של 'האישה המושלמת' ו'הגבר המושלם'. התוצאות הראו שהבינה המלאכותית יצרה דימויים שמציגים תכנים לא מציאותיים ומגבירים את הסטנדרטים של מודל היופי כפי שאנחנו רואים ברשתות החברתיות מידי יום".
לדברי חסון, ההטיה של הבינה המלאכותית נובעת מהנתונים שעליהם היא מתאמנת ולומדת. "אם הנתונים שהוזנו למערכת מוטים או משקפים תכנים מסוימים באופן לא מאוזן, הבינה המלאכותית תלמד להטות אותם לכיוון התכנים האלו. במקרה של המחקר שנערך הבינה המלאכותית למדה מתמונות שהועלו לרשתות החברתיות, שמציגות תכנים מסוימים שקיבלו תשומת לב רבה. לכן, היא יצרה דימויים שמשקפים את התכנים האלה ו'מיצבה' את דמויות האישה והגבר 'המושלמים'".
חסון מדגיש כי יש סכנות רבות להטיה הזאת. "ראשית, היא מגבירה את הסטנדרטים של היופי, אותם אנחנו רואים ברשתות החברתיות, מה שיכול להוביל לתחושת חוסר שוויון ולחץ להתאים לתכנים אלו. זה יכול להשפיע באופן שלילי על הביטחון העצמי של אנשים, במיוחד כאשר מדובר בילדים ובני נוער, שהם הכי פגיעים ורגישים להשפעות אלה.
"בנוסף, ההטיה הזו יכולה להוביל להתפתחות של התנהגויות לא בריאות כמו הפרעות אכילה ואף דיכאון. זה יכול להיות מזיק במיוחד לאנשים שכבר נמצאים בסיכון להתפתחות של הפרעות אלה".
האם יש דרך למנוע את ההטיה? מה אפשר לעשות אחרת?
חסון: "כן, ויש לכך כמה דרכים. אחת מהן היא להשתמש בנתונים מאוזנים יותר במהלך האימון של הבינה המלאכותית, זה יכול לעזור להקטין את ההטיה לכיוון תכנים מסוימים. בנוסף, ניתן להשתמש בטכניקות של 'הסרת הטיה', שמטרתן לתקן את ההטיה שנמצאה במודלים של בינה מלאכותית. זה יכול לכולל טכניקות של רגולציה או שינוי בהשפעת חשיבותם של נתונים מסוימים במהלך אימון המודל.
"לבניית מודעות והשכלה ציבורית יש גם תפקיד חשוב במניעת השפעות שליליות של ההטיה זו. חשוב להסביר לאנשים את הסכנות של הסטנדרטים הלא מציאותיים של מודל היופי שמציגות המדיה והרשתות החברתיות, ולעזור להם לפתח תמונת גוף בריאה וביטחון עצמי".
לדברי חסון, לצד הפעולות האלו חשוב לדאוג לבצע ניטור מודלים. "זה מאפשר לנו לבחון את האופן שבו מודלים מתנהגים בפרודקשן, ולאתר כל הטיות או בעיות אחרות שעשויות להתרחש. ניטור מודלים יכול לכלול בדיקות של הפלט של המודל, השוואה של התוצאות לנתונים המקוריים ובדיקה של האופן שבו המודל מתמודד עם נתונים חדשים. זה יכול לעזור לנו לאתר ולתקן הטיות במודל, ולוודא שהמודל מתנהג באופן שאנחנו מצפים ממנו".
גם לפני עידן הבינה המלאכותית, מודל היופי היה בסטנדרט מאוד מסוים.
"נכון שדימוי גוף אידיאלי היה קיים הרבה לפני העידן הנוכחי של הרשתות החברתיות, אך ההשפעה של הרשתות החברתיות על התפיסה שלנו של מהו יופי ודימוי גוף היא משמעותית. הרשתות החברתיות מאפשרות לתכנים להגיע לאנשים בצורה מהירה ורחבה, ולכן ההשפעה שלהן על תפיסת היופי והדימוי הגופני היא גדולה.
"חשוב להגיד שזה לא אומר שהבינה המלאכותית מחמירה את המצב, פשוט צריך למצוא דרך אחראית לנהל את ההטיות האלו. כמו כן, עם שימוש נכון בנתונים, ניתן 'לנצל' את היכולות והיתרונות הרבים של מערכות הבינה המלאכותית שיכולה לעזור לנו ליצור דימוי גוף יותר נכון, מאוזן ומגוון".