הסוכן לא תמיד צודק: "גישה של פרומפט וגמרנו לא מוכיחה את עצמה"

סוכני AI, לפחות תיאורטית, הפכו בשנה האחרונה למצרך הכי מבוקש בכל חברה או ארגון שמכבד את עצמו. הם מייעלים את העבודה, הופכים תהליכים למהירים וקלים יותר ובמידה רבה מפנים את העובד למשימות אסטרטגיות. במקרים אחרים, הם עשויים לייתר לחלוטין סוגים מסוימים של עבודות ותפקידים, ובמידה מסוימת הם אחת הסיבות לגל הפיטורים בתעשיית ההייטק. חברות רבות מבססות בימים אלו תהליכי עבודה המבוססים על הסוכנים, ומעניקים להם מקום חשוב במיוחד בתוכה.

אלא שיחד עם זאת, כלל לא בטוח שמדובר במגמה שנכונה עבור כל חברה. התבססות כה עמוקה על סוכנים עשויה להביא גם סכנות, להציג הצלחה בזמן שבפועל נוצר נזק ולהוביל לפגיעה עמוקה בטכנולוגיות, בלקוחות ובתפקוד של חברות. לאור זאת, ולנוכח העבודה שהשימוש בהם רק יואץ, נראה שהגישה לגבי אופן השימוש בהם, מצריכה שינוי עמוק, יסודי ויותר מכל: אנושי.

לדברי יוסי הרשקו, סמנכ"ל הטכנולוגיות של קבוצת דן אנד ברדסטריט, "מחקר סוכני הכאוס של חוקרים מסטנפורד הרווארד ו-MIT שפורסם לא מכבר מנפץ את הפנטזיה של עידן הסוכנים. על פי המחקר, סוכני AI פועלים בביטחון מופרז מבלי להבין את ההקשר העסקי, מוחקים בסיסי נתונים ועדיין מכריזים על הצלחה. הכלים עצמם לא טיפשים אלא פשוט רעבים לקונטקסט עסקי ספציפי. כמו כן שיטות קיימות כמו RAG שרק שולפות מידע ממסמכים לא פותרות את הפער האמיתי שנמצא בסוג השאלה שאנחנו שואלים. בדיוק בגלל זה צמחה השנה תעשייה חדשה של ניהול מחסני context שנועדו לתת למערכות את ההבנה החסרה ולמנוע מהן לפעול 'על עיוור'".

לדבריו, המציאות החד משמעית היא שארגונים בלי בינה מלאכותית ייעלמו, אבל אלו שייתנו למכונה לנסוע בלי פיקוח אנושי פשוט יתרסקו. "העתיד שייך לצוותים קטנים של בילדרים, קבוצות שבהן בני האדם מביאים את החזון שיקול הדעת והמצפן, והסוכנים שמקבלים את ההקשר המדויק משמשים ככוח בנייה אינסופי שלוקח כל רעיון והופך אותו למציאות בקצב מטורף שעוד לא הכרנו".

אין תחליף לאנושיות

יהב וינקלר, מייסד משותף בסוכנות הנסיעות הדיגיטלית SkyGini, מסביר כי "הקמנו מראש את החברה כ-AI oriented ושילבנו את הבינה המלאכותית באופן אינטגרלי בכל מחלקה ובכל תהליכי העבודה. זה הוביל אותנו לבנות את המחלקות מבעוד מועד בתורה נכונה, יעילה ועם שיטות עבודה חדשניות ומתקדמות. יחד עם זאת, הבסיס לכך היה התובנה שצריך לייצר ולשמר ערך ללקוחות וללא לפגוע בו. הדוגמה הבולטת לכך היא ההתנהלות של שירות הלקוחות שלנו. יש לנו סוכני AI שבודקים פניות מקרה ומכינים מענה ראשוני לאישור נציג אנושי. זה ללא ספק מייעל את התהליכים אבל לא מחליף את הבקרה ההתערבות והניהול הנכון של התהליך מצד העובד האנושי. בכך, הסוכנים אכן מייעלים את העבודה לנציגים אך כן מאפשרים מענה שלקוחות צריכים, במיוחד כשהם בחו"ל בתקופה הנוכחית שכוללת לא מעט בלת"מים".

עוד מציין וינקלר כי הגישה הזו הופכת לנפוצה יותר בתעשייה. "השיח סביב AI משתנה. אי אפשר להתעלם מהפיטורים שהיו בחודשים האחרונים והבינה אכן משנה את תהליכי העבודה לעומק. באותה נשימה, בחברות מתחדדת ההבנה שלבקרה ולעבודה האנושית יש ערך כפול שכן מייצר ערך ובידול, ושחשוב לשמר אותו. גישה של 'פרומפט וגמרנו' לא מוכיחה את עצמה, בטח לא עסקית".

מרכיב שמשנה את האסטרטגיה העסקית

טליה גזית מנכ"לית PwC Next ושותפה בכירה בפירמה מסבירה כי "כיום רוב החברות עדיין מתייחסת לפרויקטי AI כאל פרויקטי תוכנה, ומנהלות אותם כהטמעה של פלטפורמה טכנולוגית – אולם זו מתכונת לכישלון. AI הוא בראש ובראשונה מרכיב עסקי שמשנה את האסטרטגיה העסקית. כשמתחילים לבנות להתנסות בטכנולוגיה מגלים שלבנות סוכן הוא לעיתים החלק הקל. השאלות הקשות באמת הן מה הערך העסקי שהוא מביא, אילו סיכונים ועלויות הוא יוצר ואיך משלבים אותו נכון.

לדבריה, "יש ערך גדול ל'חיכוך עם הטכנולוגיה' כדי שתהיה יכולת למנכ"לים לקבל החלטות בתחום ולגבש אסטרטגיה. בשלב שבו הארגון מתחכך עם הטכנולוגיות נדרשת מעורבות של מגוון דיסצפלינות בארגון, הגורם העסקי, הפונקציה הטכנולוגית, הגנת המידע וניהול הסיכונים וחשוב שהם יגיעו לתהליך בגישה חיובית וחוקרת ולא בגישה של החסימה. המטרה בשלב הזה היא להבין את המשמעות של הטמעת AI לא רק ברמת הכלי אלא ברמת הארגון כולו".