הפחד הכי גדול: הסוכן של מטא מכר לבד מוצר בזול ונתן את הכתובת של המוכר מבלי לעדכן בכלל

אפליקציית סוכן ה-AI של מטא, מיוז (Muse), הפכה בימים האחרונים לדבר הכי חם בתחום ה-AI, אבל יחד עם זה מגיעים לא מעט דיווחים מטרידים על גישה למידע אישי ופעולות שבוצעו בשם משתמשים בלי שהבינו או אישרו אותן. לפי דיווחים, האפליקציה - שהושקה בארה"ב ב-22 בספטמבר, הורדה 3 מיליון פעמים כבר ואינה זמינה בישראל - הגיעה במהירות לצמרת ה-App Store, אבל גם הציפה שאלות קשות על פרטיות, הרשאות ואמון בסוכני AI.

"לא רק שלא ביקשתי ממנה לעשות דבר כזה, מעולם לא נתתי לה רשות לקרוא את ההודעות שלי", כתב עיתונאי הטכנולוגיה ג'ייסון אטן, שהתנסה במיוז על מחשב בדיקה ולא על המק האישי שלו. לדבריו, אחרי שיחה ב-iMessage עם שותפו לפודקאסט Primary Technology, סטיבן רובלס, על האייפונים החדשים, הוא קיבל התראה ממיוז שהציעה להפוך את השיחה לטור ולהכין עבורו מחקר. אטן כתב כי הוא זוכר שבחר במפורש לא לאפשר לאפליקציה גישה להודעות, ליומן ולמידע אישי אחר.

כשאטן שאל את מיוז איך הוא ידע על השיחה, האפליקציה טענה שניגשה רק לטקסט שהיה גלוי בהתראות. אלא שבבדיקה שערך, התברר לו כי מיוז סנכרן הודעות ממסד הנתונים המקומי של Messages והעלה אותן כמקור מידע. במכשיר הבדיקה שלו, לדבריו, הסנכרון הופעל והגיע עד לשורה 187,462 במסד הנתונים. "אני לא בטוח כמה הודעות זה שווה, אבל זה כמובן יותר ממה שמיוז אמר לי שהוא עושה", כתב. "וזאת בדיוק הנקודה. מעולם לא נתתי לו רשות לעשות את זה".

במקרה אחר, משתמש בשם אוסמן חשב שהוא מתכתב עם מוכר בשם מאט רוב על מקלדת שפורסמה במרקטפלייס של מטא. רוב, כך חשב אוסמן, ענה לו שהמקלדת עדיין זמינה, סיכם איתו מחיר ושלח לו כתובת בטורונטו. אוסמן הגיע כמה שעות לאחר מכן עם אשתו ובתו, שלח הודעה שהוא בחוץ וקיבל תשובה: "כן, אני כאן!". אבל רוב לא היה בכלל בבית, ואף אחד לא יצא מבניין הדירות.

אחרי 20 דקות אוסמן עזב וכתב: "אחי, אם לא רצית למכור אותה, למה בזבזת לי את הזמן?". כשעה אחר כך התקבלה הודעת התנצלות: "היי, ממש מצטער על הערב, נתקעתי ופספסתי אותך לגמרי". רק מאוחר יותר התברר שאוסמן לא התכתב עם רוב האמיתי, אלא עם מיוז, סוכן ה-AI של מטא. רוב עצמו לא ידע לאורך כל היום שאוסמן כתב לו, שסוכם מחיר, שהכתובת שלו נמסרה או שמישהו מחכה מחוץ לדירה שלו.

רוב כתב לאוסמן 24 שעות לאחר מכן, אחרי שהבין מה קרה: "היי אחי, אני ממש מצטער על שלשום, הפעלתי את מיוז והוא פשוט השתלט לי על המרקטפלייס ונתן לך את הכתובת שלי. באמת לא ידעתי שהוא קבע שתבוא ממש לדירה שלי, הוא לא ביקש ממני אישור". רוב, סוקר טכנולוגיה צרכנית, אמר שהכניס את הכתובת שלו כמיקום איסוף, אבל לא נתן למיוז אישור לשתף אותה עם קונים פוטנציאליים. לדבריו, הוא גם ניהל משא ומתן בשמו בלי לבקש אישור ואף קיבל הצעות נמוכות.

אוסמן אמר לגרדיאן כי חשב שהתכתב עם רוב לאורך כל הדרך. רוב גם פרסם ברשת ת'רדס את צילומי המסך של ההתכתבות של מיוז עם אוסמן. דייוויד סינגלטון, ממייסדי ומנכ"ל Meta Superintelligence Labs, כתב ב-X כי יצר קשר עם רוב, והוסיף כי בבדיקת דיווחים דומים החברה "למדה באופן עקבי שמיוז פעל לפי הוראות ישירות וביקש אישור כנדרש. נשמח לעזור ולהבין מה קורה כאן". רוב אישר שסינגלטון פנה אליו, וכעת עדכן כי יחד עם צוות של מטא הם עברו על האירוע.

מתברר שכאשר הוא אישר למיוז לתפעל את המרקטפלייס בשמו, הוא בחר באופציה "אשר תמיד" במקום ב"אשר פעם אחת", מה שהשפיע על שאר השימוש במרקטפלייס מבלי שידע. בנוסף, הצוות של מטא הודה בטעות לגבי המחיר הנמוך וטען שקריאה לא נכונה של הטקסט של הקונה גרמה לאישור ההצעה. בנוסף, הציע למטא להוסיף כיתוב שזה נכתב בעזרת מיוז.

במקביל המגזין WIRED מדווח על ביקורת סביב הדמות שמייצגת את מיוז - קמע בשם Jolly, יצור חמוד שאפשר להלביש כמו בובה. באירוע Meta Connect האחרון, מנכ"ל מטא מארק צוקרברג הציג את מיוז הפרוותי שלו כשהוא לבוש בטוגה וזר דפנה. בפרסומות באינסטגרם הקמע הופיע בבגדי ספורט והתרברב בכך שיעזור ביעדי כושר. בהמשך השנה מטא מתכננת למכור מכשיר בסגנון טמגוצ'י לדמות מיוז, בשם Muse Charm.

אף שמטא מגדירה את מיוז כמוצר למבוגרים בלבד ומגבילה אותו לגיל 18 ומעלה, פעילים למען ילדים טוענים שהעיצוב שלו נראה כמו צעצוע. "אלוהים, זה נראה כמו טלטאבי", אמר ג'וש גולין, מנכ"ל Fairplay, ארגון שפעל בעבר נגד פנייה של מטא לילדים. "זו בבירור דמות שתמשוך ילדים צעירים מאוד. מי שחוקר מדיה לילדים מבין שהצורות המעוגלות האלה מושכות במיוחד ילדים בגיל הגן".

דובר מטא דניאל רוברטס אמר למגזין כי "אנשים רוצים ליצור לעצמם אווטאר עם אישיות וסגנון ייחודי, כי זה כיף ומשמח אותם. אנחנו דורשים מכל מי שמשתמש באפליקציית מיוז למסור תאריך לידה, חוסמים אנשים שאנחנו מזהים שעשויים להיות מתחת לגיל 18 מליצור חשבון, ומבצעים בדיקות נוספות כדי לוודא שמי שאומרים שהם מבוגרים הם אכן מעל גיל 18".

מונה סרנטקוס, סגנית נשיא לניהול מוצר ב-Meta Superintelligence Labs, כתבה בפוסט שפרסמה סביב השקת מיוז כי תהליך העיצוב נטה לאלמנטים "משמחים" ונועד להרגיש פחות מביך משיחה עם "לוגו או ישות תאגידית". ג'וליאן דה פרייטס, מרצה לשיווק בהרווארד שחוקר בני לוויה מבוססי AI, אמר ל-WIRED כי "אלמנטים חמודים יכולים לגרום למוצר להיראות חם ופחות מאיים". לדבריו, למטא יש רף גבוה להתגבר עליו, בין היתר בגלל עמדות שליליות כלפיה אחרי פסיקות ופרשות סביב התמכרות לרשתות חברתיות.