"דיסטופי": מטא תעקוב אחר הקשות עכבר ומקלדת של עובדיה כדי לאמן את מודלי הבינה המלאכותית שלה

מטא מתכננת לאסוף נתונים מפעילות עובדים על המחשב הארגוני, כולל הקלדות ותנועות עכבר, כחלק מהמאמץ לשפר את מודלי הבינה המלאכותית שלה, כך דווח ב-CNBC.

הכלי החדש, בשם MCI, Model Capability Initiative, מאפשר לחברה לעקוב אחרי שימוש של עובדים באתרים ואפליקציות. בין היתר מדובר בוויקיפדיה, לינקדאין, גוגל וגם סלאק וגיטהאב. ברשימה נכללו גם מוצרים פנימיים של מטא כמו ת'רדס, והיא עדיין משתנה. בתחילה הופיעו בה גם ChatGPT וקלוד.

המהלך עלה לדיון פנימי אחרי שמזכר של צוות הבינה המלאכותית Meta Superintelligence Labs נשלח הלעובדים בניסיון להרגיע חששות סביב פרטיות. לפי המזכר, כדי "ללמד את המודלים להשתמש במחשבים", החברה צריכה מאגר נתונים "גדול ולא מוטה" שמשקף איך עובדים באמת משתמשים במערכות.

מנכ"ל מטא, מארק צוקרברג, דוחף את המהלך כחלק מהניסיון לצמצם פערים עם אנת'רופיק, OpenAI וגוגל בתחום ה-AI הגנרטיבי. בשנה האחרונה גייס את אלכסנדר וונג מ-Scale AI כדי להוביל פיתוח מודלים חדשים, ובחודש האחרון הוצג המודל Muse Spark, הראשון בסדרה חדשה.

דובר מטא אישר את קיום הפרויקט, אך לא סיפק תגובה בנוגע לרשימת האתרים המנוטרים. "אם אנחנו בונים סוכני AI שעוזרים לבצע משימות יום-יומיות, אנחנו צריכים דוגמאות אמיתיות לשימוש, כמו תנועות עכבר ולחיצות", נמסר. לדבריהם, יש מנגנונים שמגנים על מידע רגיש, והנתונים לא משמשים למטרות אחרות.

בתוך החברה, עובדים מתארים את הפרויקט כ"דיסטופי" ומביעים חשש מחשיפה של מידע רגיש, כולל סיסמאות, פרטי מוצרים בפיתוח ומידע אישי כמו מצב בריאותי או סטטוס הגירה.

במזכר נטען כי הכלי רואה רק את מה שמופיע על המסך ולא קורא קבצים או קבצים מצורפים, וכי מידע אישי שייקלט "לא ילמד על ידי המודל". בנוסף, נכתב בו כי עובדי מטא שעדיין חוששים מהכלי "יכולים לשלוט במה שמופיע על המסך שלכם, על ידי כך שלא תבצעו עבודה אישית במחשב העבודה שלכם".