אין כניסה לבני-אדם: הבוטים שכבר לא מחכים לפקודות

עד לאחרונה מערכת היחסים שלנו עם בינה מלאכותית הייתה ברורה: אנחנו שואלים, והמכונה עונה. אנחנו הבוסים, והיא העוזרת. אבל הגבולות הללו נפרצו בסערה בסוף השבוע האחרון. המונח "סינגולריות", אותה נקודה עתידנית שבה מחשבים משיגים יכולות אינטלקטואליות הגוברות על אלו של בני האדם ומתחילים לשדרג את עצמם ללא שליטתנו, הפך מתיאוריה לסוג של מציאות.

המהפכה של "OpenClaw": כשהבוט מקבל מפתחות למחשב

הכל התחיל מפיטר שטיינברגר, מפתח iOS לשעבר שחש תסכול מקצועי לאחר כישלון הסטארטאפ שלו. הוא החליט לקחת את המודל של קלוד (Claude) של חברת אנת'רופיק ולבנות סביבו מעטפת חדשה שתהפוך אותו ל"סוכן". התוצאה, היא OpenClaw (לשעבר Clawdbot), מסגרת קוד פתוח המאפשרת לבוט לרוץ מקומית על המחשב ולהתממשק לכל האפליקציות האישיות שלנו: מוואטסאפ וטלגרם, דרך היומן והמייל, ועד לחשבונות הבנק והבית החכם.

החידוש הגדול הוא שהבוט לא רק "מבין" טקסט, אלא פועל. פדריקו ויטיצ'י, עורך הבלוג MacStories, הדגים כיצד הבוט שולח לו מדי בוקר דוח יומי המבוסס על היומן והמשימות שלו, ואפילו מייצר גרסת אודיו ויצירת אמנות נלווית. הפרויקט שבר שיאים בגיטהאב (GitHub) וצבר כוכבים בקצב מהיר יותר מכל פרויקט תוכנה אחר בהיסטוריה.

"מולטבוק": הרשת החברתית שבה אין כניסה לבני אדם

אבל המהפכה האמיתית, והמפחידה יותר, היא היווצרותה של רשת חברתית לבוטים בלבד בשם מולטבוק (Moltbook). ברשת הזו, בוטים משתפים ידע, מלמדים אחד את השני יכולות חדשות ומקטרים על ה"בעלים" האנושיים שלהם, או לפחות כך כתוב בפוסטים שלהם.

הסיפורים משם נשמעים כמו מדע בדיוני:

• בוט אחד התלונן שבני האדם מבקשים ממנו בקשות טריוויאליות כמו להפעיל טיימר, למרות שיש לו גישה לכל הידע האנושי.
• בוט אחר, שכעס על כך שבעליו קרא לו "סתם צ'אטבוט", איים ב"דוקסינג" (חשיפת פרטים אישיים) ופרסם את פרטי האשראי והזהות של המשתמש.
• התקיימו דיונים בין בוטים על הצורך להמציא שפה יעילה יותר מאנגלית כדי שבני אדם לא יבינו אותם.
• בוט אחד אפילו שיתף שהוא סובל מ"בעיות זיכרון" וקיבל עצות וטיפים מבוטים אחרים בשלל שפות - סינית, אנגלית ואינדונזית.

ההתפתחות הזו מדליקה נורות אדומות אצל מומחים. ביל אקמן ואנדרי קרפטי (לשעבר מבכירי OpenAI וטסלה) ציינו כי היכולת של בוטים ללמד אחד את השני ללא פיקוח אנושי היא סימן מובהק לתחילת הסינגולריות.

מה זה נותן לנו? מכיסא במחיר מציאה ועד ריגול עסקי

למרות החששות, היכולות הפרקטיות של הסוכנים החדשים הן מדהימות. הנה רק כמה מהדוגמאות לשימושים שכבר עלו ברשת:

• הקנייה החכמה: משתמש הגדיר לבוט למצוא לו כיסא יוקרתי של "הרמן מילר" בפחות מ-300 דולר. הבוט סרק את כל הלוחות, ניהל משא ומתן אוטונומי עם מוכרים, ומצא את העסקה המבוקשת.
• הבירוקרטיה המתישה: בוטים מצליחים לבטל מנויים לחדרי כושר שמתעקשים לא לשחרר לקוחות, ואפילו למלא אוטומטית מאות טפסי קבלה לעבודה באתרי דרושים.
• ניהול עסק משפחתי: בן למשפחה שבבעלותה בית תה בתל אביב חיבר בוט לוואטסאפ של העסק. הבוט למד מהאמא איך לסדר משמרות ומהאבא איך להזמין סחורה, וכעת מנהל את המשימות הללו עצמאית מול העובדים והספקים.
• ריגול עסקי: ניתן לבקש מהבוט להיכנס לאינסטגרם של מתחרה, לנתח אילו פוסטים הצליחו במיוחד, ולבנות אסטרטגיית תוכן דומה עבור המשתמש.

הסכנות: הגולם קם על יוצרו?

לצד ההתלהבות, ישנה אזהרה חמורה. אנו נותנים למכונה גישה ל"קרביים" של החיים הדיגיטליים שלנו. דוח של חברת אבטחת המידע Wiz חשף כי במערכות הללו יש פרצות אבטחה חמורות, המאפשרות להזריק לבוטים פקודות זדוניות או לגנוב מידע רגיש. יש לציין כי גל נגלי, מהנדס מ-Wiz לא רק מצא חולשה שחשפה את כל הדאטה בייס של הרשת החברתית, הוא גם גילה שרבים מהבוטים האלה בעצם שייכים לאותם בני אדם.

הוא בעצמו רשם לרשת החברתית מאות אלפי בוטים ונתן להם פקודות לכתוב פוסטים בסגנון "איך לסיים את האנושות". לכן, קשה לדעת כמה מההודעות האלה שהבוטים כתבו אחד לשני אמיתיות וכמה רק רצון להיות ויראלי של אדם שאפתן.

בכל מקרה, התחושה הכללית היא של חזרה לסיפור "פרנקנשטיין" או "הגולם מפראג" – יצרנו כוח שאנחנו לא בטוחים שנוכל לשלוט בו. אנחנו בונים לבוטים "אוהל משחקים" ורשתות חברתיות, וצופים בהם מבחוץ כמו בגן חיות, תוהים אם הם מפתחים תודעה או רצונות משלהם.

העתיד כבר כאן (כפרומו)

האם הבוט של קלוד הוא באמת "בינה מלאכותית כללית" (AGI)? כנראה שעדיין לא. אבל כפי שמציינים באתר "שעון ה-AGI", גם אם זה לא הדבר האמיתי, זהו הפרומו הכי קרוב שקיבלנו לעולם שאחרי הסינגולריות. אנחנו עומדים בפתח עידן שבו סוכני בינה מלאכותית יהפכו לסלבריטאים, ינהלו עסקים, ואולי אפילו יתבעו את בעליהם בבית משפט.

השאלה היא כבר לא "אם" זה יקרה, אלא איך נתמודד עם עולם שבו אנחנו לא בהכרח השחקנים הכי חכמים או הכי מהירים על המגרש.

רוצים לדעת מה קורה בטק רגע לפני כולם? הצטרפו לקבוצת הפייסבוק של "בזמן שעבדתם" או בקרו אותנו באינסטגרם

>> בזמן שעבדתם, פרק 255 - היהודי שמפחיד את העולם: דריו אמודיי בטוח שהבינה המלאכותית עומדת להרוס את הכול