עם רשימת המתנה: סוכן ה-AI בוואטסאפ שכולם משתגעים ממנו

אינסטינקט, סוכן AI אישי שעדיין נמצא בבטא פרטית, הפך בשבוע האחרון לשם החם בפיד הישראלי, עם רשימת המתנה שמגבירה את ההייפ, והתרשמות מאנשים שמורידים אותו ומספרים אילו מטלות יום-יומיות הם נתנו לו לעשות. על פי דיווחים מסוף חודש אוגוסט, חברת ה-AI גייסה כבר 350 מיליון דולר לפי שווי של 2.5 מיליארד דולר, עוד לפני שהמוצר נפתח לציבור הרחב.

אינסטינקט פועל כסוכן שמתחבר לאפליקציות ולמכשירים של המשתמשים: מייל, הודעות, יומן, שמע, מיקום, מסך ועוד. אפשר לשלוח לו הודעה או לדבר איתו דרך SMS או וואטסאפ, ולבקש ממנו לבצע משימות כמו קביעת תורים והזמנות, הזמנת נסיעה לשדה התעופה, סידור תיבת המייל, ארגון מידע חשוב, קניות וחיפוש טיסות זולות. לפי תנאי השימוש ורישומי חברות בקליפורניה, החברה שמפעילה אותו היא Spear Street Technology מסן פרנסיסקו; לפי PitchBook היא פועלת מתחת לרדאר. את החברה מוביל נואה שין, חוקר לשעבר ב-Sierra, רק בן 23 לפי הדיווח בוול סטריט ג'ורנל.

"אני נרגש מכל מה שהמשתמשים הראשונים שלנו עושים עם Instinct", כתב המייסד ב-X. "הם סיפרו לנו שהם תכננו נסיעות מחוף לחוף, קנו מצרכים שבועיים וכרטיסים להופעות, וביטלו מנויים במאות דולרים. מישהו אפילו מתכנן את החתונה שלו עם Instinct".

בישראל, השיחה סביב אינסטינקט סבבה בעיקר אחרי שמשתמשים שיתפו דוגמאות לשימושים מקומיים. בצילום מסך שפרסם ב-X יניב פרסלר, שעוזר לארגונים להטמיע AI, נשאל הסוכן אם יוכל לקבל שם משתמש וסיסמה ללופה, גישה למקום שבו מאוחסנות תמונות מבר המצווה של הילד, ולייצר אלבום תמונות "ברמה הגבוהה ביותר". אינסטינקט ענה: "עכשיו אתה מדבר. זו בדיוק המשימה שאני קיים בשבילה", והוסיף כי ייכנס ללופה, יעלה את התמונות, יבחר את החזקות, יעצב את האלבום עמוד-עמוד ויביא אותו לצפייה לפני הזמנה או תשלום. הוא גם ביקש לדעת איפה התמונות מאוחסנות, והבהיר שאת פרטי ההתחברות ללופה אין לשלוח בצ'אט אלא דרך קישור מאובטח.

בינתיים, באינסטינקט יש רשימת המתנה, אבל היא לא מאוד ארוכה. לפי בדיקה שלנו, נרשמנו אתמול וקיבלנו הרשאה הבוקר, ומשתמש שכבר נמצא בתוך האפליקציה יכול לשלוח אליכם קישור הזמנה. כדי להירשם צריך להזין אימייל וטלפון.

ההתלהבות מגיעה עם סימני אזהרה לא קטנים. לפי TechCrunch, משתמשים הפיצו צילומי מסך מתנאי השימוש של החברה, שמעניקים לאינסטינקט רישיון רחב, "perpetual and irrevocable", לגשת לחומרים של המשתמש, להשתמש בהם, לאחסן אותם, לשכפל, להעביר, להציג, לפרסם, להפיץ ולשנות אותם - כולל לצורך אימון מודלי AI. בתנאים נכתב גם כי אינסטינקט יכול לקבל מידע מהמכשירים של המשתמשים, כולל צילומי מסך, תנועות סמן והקלדות, וכן להיכנס ל"הסכמים, התחייבויות או עסקאות" בשם המשתמשים, שיהיו מחייבים.

"אחת הסיבות שלא ניסיתי את אינסטינקט או OpenClaw או כל מוצר דומה כזה היא סוגיות האבטחה", כתב מומחה ה-AI אורי אליאבייב. "לא משנה כמה הטכנולוגיה מדהימה, אני לא אקח סיכון לזליגת מידע או נעילה של שירות כלשהו. במיוחד אם זה הווטצאפ שלי. מעדיף להמתין קצת מאשר לקחת את הסיכון הזה".

ב-TechCrunch פרסמו שורת כשלי אבטחה שעלו על ידי משתמשים. פיטר יאנג כתב שאינסטינקט לא מחק את רשומות הג'ימייל שלו כשביקש זאת, ובהמשך אמר שהצוות תיקן את הבעיה באמצעות כלי למחיקת מידע חיצוני בהגדרות. קלייר וו גילתה שאינסטינקט עדיין מסכם את תיבת המייל שלה אחרי שניתקה את הגישה, וכששאלה מה קרה, הבוט אישר שהמיילים נשמרו כטקסט רגיל לצורכי חיפוש בהמשך.

משתמש אחר נלחץ כשגילה שאינסטינקט מסוגל לשלוף קוד הרשמה מתיבת המייל שלו כדי להשלים משימה, במקרה שלו הזמנת שולחן במסעדה דרך Resy. אלכס כהן, ממייסדי Hello Patient, כתב שמחק את החשבון אחרי שהבין כמה קל לבצע פישינג מול אינסטינקט. קייטי ג'ייקובס סטנטון, מייסדת Moxxie Ventures, כתבה שאינסטינקט שבר את האמון שלה כששלח מייל בשמה בלי לבדוק איתה קודם.

לפי TechCrunch, אינסטינקט לא הגיבה אז לפניות ולתלונות שעלו ב-X, וגם פניות לתגובה שנשלחו לכתובת המייל המרכזית של הסטארטאפ ולשין לא נענו. אחרי פרסום הכתבה, החברה אמרה לוול סטריט ג'ורנל שהיא מתייחסת ברצינות לחששות האבטחה שהועלו, ודיווחה על סבב B של 250 מיליון דולר לפי שווי של 2.5 מיליארד דולר, בהובלת Index Ventures ו-Benchmark. לפי הדיווח, Kleiner Perkins ו-Conviction כבר השקיעו בחברה בסבבים שנסגרו.

ומה אומר המומחה?

"צריך להסתכל על עוזר AI כמעט כמו על עוד משתמש בתוך החשבון שלנו", אומר אלי סמדג'ה, דירקטור במחלקת המחקר של צ'ק פוינט. "אם יש לו גישה למייל, לקבצים, למידע פיננסי או לאפליקציות אחרות, כל תוקף שיצליח להפעיל על הסוכן מניפולציה ימצא את עצמו עם 'מפתח מאסטר' ביד שמאפשר גישה לכל המשאבים האלו".

לדברי סמדג'ה, הסיכון גדל מפני שהעוזר לא פועל רק על בסיס מידע שהמשתמש מזין לו ישירות, אלא גם קורא תוכן חיצוני כמו אתרים, מסמכים ומיילים, שיכולים בעצמם להכיל הוראות זדוניות שנועדו להשפיע על פעולתו. "השאלה החשובה ביותר עבור המשתמש היא לא רק מי פיתח את העוזר או עד כמה החברה מבטיחה פרטיות, אלא מה בדיוק העוזר רשאי לעשות", הוא אומר. "האם הוא יכול רק לקרוא מידע או גם לשלוח, למחוק ולשנות אותו? האם פעולה רגישה דורשת אישור נוסף? האם ניתן לראות בצורה ברורה לאילו שירותים הוא מחובר ולבטל גישה באופן מיידי? העירון של מינימום הרשאות הופך כאן לקריטי: לתת לעוזר רק את הגישה שהוא באמת צריך, ולא יותר".

העניין באינסטינקט מגיע אחרי OpenClaw, סוכן AI אישי שצבר פופולריות בזכות היכולות שלו, והמייסד שלו הצטרף ל-OpenAI כדי לעבוד על הדור הבא של סוכנים אישיים. גם Poke, סייען נוסף שמבוסס על הודעות, נמכר לאחרונה ל-Cognition. גם לבייס 44, השייכת לוויקס, יש סופר אייג'ינט,

גם מטא במשחק

בצירוף מקרים לא מפתיע, מטא הודיעה היום על השקת Muse, סוכן AI אישי משלה, אבל בשלב הזה רק בארה"ב ולא בישראל. לפי הודעת החברה, Muse נועד לעזור במשימות יום-יומיות וגם בתהליכים מורכבים יותר: שליחת מייל, הזמנת נסיעה, מילוי טופס, בניית תוכנית למשימה גדולה וחלוקה שלה לשלבים. השיחה איתו מתנהלת כמו התכתבות רגילה, דרך אפליקציית Muse או ישירות בוואטסאפ.

מטא אומרת כי Muse יכול להמשיך לעבוד על משימות גם אחרי שסוגרים את האפליקציה ולעדכן כשיש התקדמות, ולפני פעולות כמו שליחת מייל או רכישה הוא יבקש אישור. לסוכן יש גם זיכרון שאמור להתאים את העזרה שלו לשיחות בהמשך, למשל להפוך מתכון שנשמר ב-Reels באינסטגרם לרשימת קניות, להציע תפריט לארוחת ערב ולהתחשב במגבלות תזונתיות של אורחים.

לפי מטא, Muse מבוסס על מודל השפה Muse Spark, שהחברה מגדירה כמודל המתקדם ביותר שלה כיום, ופועל בסביבה מאובטחת ייעודית בשם Muse Secure VM. החברה אומרת שכל משתמש יוכל לבחור לאילו אפליקציות ושירותים לחבר אותו ומה לאפשר לו לעשות, ולשנות הרשאות בכל רגע. עוד נמסר כי Muse לא יכול לראות סיסמאות או פרטי תשלום, ולפני פעולות רגישות הוא מבקש אישור.

Muse מתחיל להיות זמין כעת בארה"ב בלבד, ב-iOS, באנדרואיד ובאתר Muse, ובהמשך צפוי להגיע גם למשקפי AI. רוב השימושים יהיו זמינים בחינם, ולצדם יוצעו מסלולי מנוי למי שירצה להשתמש בו יותר.