“יש לה תחת שטוח”: הכלי של אמזון שחושף מה היא באמת חושבת על הלקוחות שלה

מה אם הייתם מגלים שאתר הקניות שבו אתם מזמינים בגדים, מוצרי חשמל או מתנות מחזיק גם ברשימה של מסקנות אישיות עליכם? לא רק אילו מוצרים אתם אוהבים, אלא גם מה מבנה הגוף שלכם, איך אתם מתנהגים כשאתם מפחדים ואפילו אם יש לכם חברים.

לפי דיווחים בחו"ל, זה בדיוק מה שגילו בימים האחרונים לקוחות של אמזון. הם נחשפו לתכונה חדשה המבוססת על בינה מלאכותית, והופתעו לגלות עד כמה רחוק הגיעו ההערכות של ענקית הקמעונאות.

הסערה החלה כשלקוחה אמריקנית בשם מייגן מונטגומרי נכנסה לעמוד בשם About You (“עליכם”) בחשבון האמזון שלה. לצד פרטים שגרתיים על הרגלי הקנייה שלה, הופיעה קביעה אישית במיוחד: “יש לה ישבן שטוח”. מונטגומרי פרסמה צילום מסך ברשת החברתית Threads והגיבה בהומור: “כלומר, הם לא טועים, אבל באמת הייתם חייבים לחשוף אותי ככה?”. לדבריה, ייתכן שהמסקנה התבססה על רכישת טייץ שנועד להדגיש את הישבן.

לפי הדיווחים, הפרסום צבר יותר ממיליון צפיות בתוך פחות מיממה, ועד מהרה הצטרפו משתמשים נוספים ששיתפו את המסקנות המפתיעות שמצאו בפרופילים שלהם.

צילומי מסך של תכונת About You באמזון ושל הפרסומים שהציתו את הסערה

“בעלה רזה מדי”: המסקנות שהדהימו את הגולשים

ככל שהסיפור התפשט, כך נחשפו עוד ועוד תיאורים משונים. משתמש אחד גילה שאמזון סבורה שאין לו חברים, אחרת גילתה שהמערכת קבעה כי היא מתקשה לתת אמון באנשים. לקוחה נוספת הופתעה לגלות שהאלגוריתם הגיע למסקנה שלבעלה יש רגליים רזות במיוחד.

במקרים אחרים הופיעו קביעות כמו “מקללת כשהיא מפחדת”, “לא מצליחה לשמור על צמחים בחיים” ו”מתייחסת לחתולים שלה כאילו היו ילדיה הביולוגיים”. חלק מהמשתמשים הגיבו בצחוק, אחרים תהו כיצד הצליחה המערכת להגיע למסקנות כה אישיות מתוך היסטוריית הקניות שלהם.

גם עיתונאי Business Insider החליטו לבדוק מה אמזון יודעת עליהם. לפי הכתבה שפרסמו, אחד העורכים גילה שהמערכת מייחסת לו חיבה מיוחדת לבשר מיובש, אף שלדבריו הוא כמעט אינו קונה אותו. עובדת אחרת הופתעה לגלות שאמזון סבורה שבעבר אהבה את השחקן ריאן ריינולדס, אך כיום כבר פחות. בבדיקת המערכת נמצא שחלק גדול מההעדפות שזוהו היו מדויקות, אולם מסקנות על החיים האישיים התבררו לעיתים כשגויות לחלוטין.

לא כל צילומי המסך שהופצו ברשת אומתו באופן עצמאי. אמזון מאפשרת למשתמשים גם להוסיף ולערוך פרטים בפרופיל שלהם, ולכן לא ניתן לקבוע שכל אחת מהאמירות החריגות אכן נוצרה על ידי הבינה המלאכותית.

כך אמזון בונה פרופיל אישי של הלקוחות

הכלי, שנקרא About You, הושק לפני כחצי שנה ונועד לשפר את חוויית הקנייה באמצעות התאמה אישית של המלצות. לפי אמזון, המערכת מתבססת על היסטוריית רכישות, חיפושים באתר, מוצרים שנשמרו ברשימות, ביקורות שכתבו לקוחות וגם שיחות עם עוזרת הקניות החכמה Alexa for Shopping.

המטרה היא לזהות את הצרכים וההעדפות של כל משתמש ולהציע לו מוצרים רלוונטיים. למשל, לקוח שרוכש באופן קבוע תחליפי חלב עשוי לקבל המלצות למוצרים נוספים שאינם מכילים חלב. מי שמתעניין בגינון עשוי לקבל הצעות לדשנים ולציוד לגינה.

אלא שהמקרים שנחשפו ממחישים את הפער שבין זיהוי העדפות קנייה לבין הסקת מסקנות על האדם עצמו. רכישת מוצר מסוים אינה מעידה בהכרח על תכונה אישית, ומוצר שנקנה כמתנה עשוי לגרום למערכת לייחס לקונה הרגלים שאינם שלו כלל.

הבדיחות ברשת מסתירות בעיה גדולה יותר

מעבר לבדיחות, הפרשה ממחישה את היקף המידע שחברות הטכנולוגיה מסוגלות להפיק מפעולות יום-יומיות. כל חיפוש, רכישה או ביקורת עשויים להפוך לחלק מפרופיל שנועד לחזות מה נרצה לקנות בהמשך.

עד היום רוב המשתמשים הכירו את התוצאה של איסוף המידע הזה בעיקר דרך פרסומות והמלצות מותאמות אישית. כעת אמזון מאפשרת להם להציץ גם לחלק מהמסקנות שעליהן מבוססות ההמלצות.

החברה מדגישה שהמשתמשים יכולים לעדכן, לתקן או להסיר פרטים שאינם רוצים שישמשו להתאמה אישית. עם זאת, הסרת מסקנה מהפרופיל אינה בהכרח שקולה למחיקת היסטוריית הרכישות או המידע המקורי שעליו התבססה.

רוצים לדעת מה אמזון חושבת עליכם? כך תבדקו

מי שמחזיק בחשבון אמזון יכול לנסות לבדוק אילו מסקנות נשמרו עליו. באפליקציית Amazon Shopping נכנסים לאזור החשבון, בוחרים Shopping Preferences ומשם About You. באתר במחשב ניתן להגיע לעמוד דרך הגדרות החשבון והעדפות הקנייה.

בעמוד מופיעים פרטים והערכות שאמזון משתמשת בהם לצורך התאמה אישית, ולצידם אפשרויות לעדכן או להסיר מידע. ניתן גם לשאול את עוזרת הקניות Alexa for Shopping באנגלית: “What do you know about me?” (“מה את יודעת עליי?”). זמינות התכונה עשויה להשתנות בין חשבונות ואזורים.

הסיפור של אמזון ממחיש עד כמה הבינה המלאכותית משנה את מערכת היחסים בין הצרכנים לחברות הטכנולוגיה. האלגוריתמים כבר לא מסתפקים בניסיון להבין מה אנחנו רוצים לקנות, אלא מנסים להבין מי אנחנו. ולפעמים, כפי שגילו לקוחות אמזון, הם גם לא ממש יודעים לשמור את הדעות שלהם לעצמם.