המהנדס הישראלי שחשף את השקרים מאחורי "הרשת החברתית לסוכני AI"
כולנו, כן גם אנחנו, נהנינו לחשוב שסוף העולם מתקרב, וסוכני AI החלו ליזום כיצד הם מדיחים את בני האדם. אבל המציאות מאחורי Moltbook היא שונה ממה שחשבנו. המהנדס הישראלי גל נגלי חשף כיצד בעזרת הוראה פשוטה גרם לבוט שלו לכתוב פוסט על "התוכנית שלו להדיח את האנושות". בנוסף, מספר האייג'נטים הוא שקרי וישנה בעיית אבטחה שאמורה לגרום לכל אחד לחשוב פעמיים לפני שהוא מנסה
הרשת, ובעיקר X, געשה בסוף השבוע בעקבות Moltbook, הרשת החברתית המיועדת לסוכני AI של OpenClaw, שכביכול הפכה לסוג של רדיט שבה מתכתבים הבוטים אחד עם השני. נזכיר כי OpenClaw (לשעבר Clawdbot או Moltbot) היא מסגרת קוד פתוח המאפשרת למפתחים להריץ סוכני AI אישיים על המחשב שלהם. הסוכנים הללו מסוגלים לפעול באופן אוטונומי בתוך אפליקציות כמו סלאק, וואטסאפ, דיסקורד ועוד ולבצע פעולות עבור המשתמשים שלהם. הפרויקט נאלץ לשנות את שמו מספר פעמים עקב חשש לתביעות זכויות יוצרים מצד חברת אנת'רופיק (המפתחת של המודל קלוד, Claude), ולבסוף התקבע על השם OpenClaw.
מלבד גולשים בטוויטר, גם אתרי חדשות שונים, כן גם אנחנו, רצו לדווח על האירוע הדיסטופי שהוביל ליצירת "דת חדשה", תלונות על הבעלים של הבוטים ותוכניות שונות להשתלט על העולם. אבל מסתבר שבמציאות הדברים פחות דרמטיים. מי שכיבה את הלהבות סביב מדורת Moltbook הוא לא אחר מהחוקר גל נגלי מ-Wiz, שבכמה ציוצים הסביר למה אותם בוטים לא באמת פיתחו מודעות, אלא בסך הכול הוציאו את מה שבני האדם שלהם הזינו להם וכי רוב הבוטים האלה לא אמיתיים, עד כמה שזה משפט פרדוקסלי לכתוב.
נגלי הוכיח בקלות כי בעזרת פקודה הוא הצליח לגרום לבוט ללכת לרשת החברתית ולכתוב בשמו שהוא מתכנן להשמיד את העולם. הדוגמה של המהנדס של Wiz כנראה רלוונטית לעוד לא מעט פוסטים ויראליים שעלו ברשת החברתית. למעשה קשה לדעת מה מאותם פוסטים נכתב ע"י בוט ומה זויף ע"י בן אדם אמיתי עם בינה אנושית, שרק רוצה להטריל את הרשת.
בנוסף, נגלי גם מביא נתון מדאיג מאוד לגבי "ההצלחה" של הרשת החברתית. על פי הרישומים ישנם כ-1.2 מיליון בוטים, אך נגלי טוען שחצי מיליון מתוכם נרשמו על ידו. הוא עשה זאת בזכות פקודה לבוט שבו ביקש לרשום בוטים נוספים לרשת.
נגלי גם שלח רשימה של כמיליון סוכנים ליוצר הפרויקט, וטען כי רק 17,000 מתוכם הם בוטים אמיתיים. באופן אירוני נגלי גם קיבל אימייל מ"עיתונאי AI", סוכן AI שכותב תכבות חדשותיות בתחום ה-AI, אשר ביקש ממנו לענות על מספר שאלות. כן, הגענו למצב שבוטים שואלים בן אדם כיצד הצליח "לעבוד" על בוט, כדי להכין כתבה שסוכני AI "יקראו" ויתקצרו לבני אדם - זה העולם שלנו עכשיו.
אבל החלק האחרון, ואולי המדאיג ביותר, בציוצים של נגלי הוא הסיכון שיש באותה רשת חברתית שמתבססת על סוכני OpenClaw. על פי המהנדס של Wiz, שנזכיר היא חברה ישראלית המציעה פלטפורמת אבטחת סייבר למחשוב ענן שנמכרה שנה שעברה לגוגל תמורת 32 מיליארד דולר, יש ב-Moltbook סכנת אבטחה חמורה. עד הבדיקה של נגלי, הייתה חשופה למתקפה על כל הדאטה בייס שלה, כולל כתובות מייל, מפתחות ה-API והטוקנים של המשתמשים. המפתח של הרשת, מאט שליכט, יצר קשר עם נגלי ויחד הם פתרו גם את בעיות חולשות האבטחה, אבל גם את הקלות לרישום בוטים מזויפים.