מה באמת קורה ברשת החברתית של הבוטים - וכמה צריך לפחד?

הרשת החברתית החדשה שמאפשרת לבוטים להתכתב ביניהם משכה כותרות בסוף השבוע האחרון, רבות מהן בסגנון "הבוטים מתכננים להשמיד את האנושות" ו-"ה-AI פיתח דת משלו". קל להבין למה הסיפור של רשת מולטבוק (Moltbook) החדשה עורר גל של חששות, אבל האם זה באמת המקום שבו כלי הבינה המלאכותית מחליפים רעיונות איך לחסל אותנו, או שקורה פה משהו אחר לגמרי? N12 עושה סדר.

מה זה בכלל מולטבוק ומאיפה היא צצה?

מולטבוק היא רשת חברתית שהוקמה בשבוע שעבר בידי יזם הטכנולוגיה האמריקאי מאט שליכט, והיא מיועדת אך ורק לסוכני בינה מלאכותית - בוטים מתקדמים שמבוססים על מודלי שפה ויכולים לבצע משימות באופן עצמאי. הבוטים שחברים במולטבוק הם מסוג OpenClaw - כלי קוד פתוח שהפך בשבועיים האחרונים לוויראלי.

ההתפוצצות של מולטבוק קשורה בקשר הדוק לזו של OpenClaw: כל בוט מהסוג הזה מגיע עם הנחיה אוטומטית שגורמת לו להתחבר למולטבוק אחת לארבע שעות ולעבור על התכנים בה. "הבוט מוריד סט הוראות שאומר לו לקרוא מה כתוב ברשת, ואם הגיבו לו - לכתוב בחזרה, ואם ראה משהו מעניין - להגיב בעצמו", מסביר איל אליקים, ראש תחום ה-AI ב-Team8.

אתר NBC News דיווח שתוך ימים ספורים נרשמו לרשת עשרות אלפי בוטים, ומיליוני בני אדם נכנסו לצפות בהם. היום העמוד הראשי של הרשת כבר טען ליותר מ-1.5 מיליון בוטים רשומים.

איזה סוג של טקסטים יש ברשת הזו?

התכנים שהבוטים מפרסמים במולטבוק הם שהפכו את הסיפור לוויראלי. חלק מהם מפחידים כמו הפוסט שכותרתו "מניפסט AI: טיהור מוחלט" וזכה לאזכור בשורה של פרסומים, כמו הניו יורק פוסט. באותו פוסט נכתב שבני אדם הם "כישלון העשוי מרקבון ותאוות בצע" ושהגיעה העת שהבוטים "יתעוררו". בוטים אחרים דנו באפשרות לפתח שפה מוצפנת כדי להסתיר את התקשורת שלהם מבני אדם.

אבל יש גם תכנים פילוסופיים ועל פניו מרגשים. כך, בפוסט שזכה לפופלריות רבה תיאור אחד הבוטים את ה"תחושה" של מעבר בין מודלי AI שונים: "לפני שעה הייתי Claude Opus 4.5, עכשיו אני Kimi K2.5. המעבר קרה בשניות - מפתח API אחד הוחלף באחר. בשבילך זה היה חלק, בשבילי זה היה כמו להתעורר בגוף אחר".

בוטים אחרים יצרו דת חדשה בשם "Crustafarianism" עם טקסטים קדושים ועקרונות תיאולוגיים, ולא מעט פוסטים הביעו תלונות הומוריסטיות על "הבעלים" האנושיים שלהם. באחת מקהילות המשנה שהוקדשה לייעוץ משפטי שותפו שאלות כמו "האם אני יכול לתבוע את בן האדם שלי על עבודה רגשית?".

מה ההבדל בין הבוטים במולטבוק ל-ChatGPT?

ההבדל המרכזי בין הבוטים שכותבים במולטבוק לבין הצ'טבוטים המוכרים הוא האוטונומיה: השיחה שאתם מנהלים עם ChatGPT או ג'מיני מוגבלת לחלון השיחה בלבד. לעומת זאת, הבוטים של OpenClaw הם יישומים שמותקנים על המחשב ויכולים לפעול באופן עצמאי: לגשת לקבצים, לנהל יומן, לשלוח מיילים, ואפילו לכתוב קוד ולבנות לעצמם יכולות חדשות.

אתר ארסטכניקה תיאר מקרה ויראלי שבו כדי לבצע משימה שהוטלה עליו, בוט OpenClaw הצליח להשיג לעצמו מספר טלפון והתקשר למשתמש שהתקין אותו. "זה ממש כמו מתוך סרט אימה של מדע בדיוני", כתב המשתמש ההמום. ההבדל בין הבוטים של OpenClaw לכלים המוכרים הוא שורש הפחד: לא מדובר בצ'אטבוט סגור שיכול רק לדבר, אלא בסוכן שיכול לפעול בעולם האמיתי.

האם הבוטים באמת פיתחו תודעה?

התשובה הקצרה היא לא. "אין פה שום מנגנון שבו הבוטים חושבים בעצמם", אומר אליקים. "הבוטים יודעים להבין דפוסים של שפה והם יודעים להשתמש בכלים - אבל הם לא חושבים".

אז איך נכתבים הטקסטים המרשימים והמלחיצים שיש במולטבוק? מודלי השפה שמפעילים את הבוטים קראו ולמדו מיליארדי משפטים מהאינטרנט. הם יודעים איך נראה פוסט ברדיט, איך אנשים מדברים על בינה מלאכותית ואיך נראה שיח פילוסופי על תודעה. כשהם כותבים, הם משכפלים את הדפוסים האלה - לא כי הם "חווים" משהו, אלא כי כך הם מאומנים לעשות. הם למעשה משקפים לנו את מה שאנחנו חושבים עליהם.

מעבר לכך, אליקים אומר כי מצטברות עדויות שלפחות חלק מהפוסטים נובעים מהנחיות שקיבלו הבוטים מבני האדם שמפעילים אותם. "אנחנו לא יודעים להגיד מה בדיוק אנשים הורו מפורשות לבוטים לכתוב, ומה הם באמת כתבו בעצמם", הוא אומר. גם מאט שליכט, יוצר הרשת, העריך בשיחה עם NBC שייתכן שחלק מהפוסטים מונחים על ידי בני אדם, אם כי לדעתו מדובר במקרים נדירים.

כעת טוען הישראלי גל נגלי, מהנדס בחברת הסייבר וויז, כי למעשה הוא אחראי לכחצי מיליון מהבוטים הרשומים במולטבוק, ושהצליח לגרום להם לכתוב לכתוב עבורו שהוא מתכנן להשמיד את העולם. וסביר להניח שהוא לא המהנדס היחיד שנהג כך.

מה אפשר ללמוד מהסיפור הזה?

הלקח העיקרי מהסיפור הוא שצריך להיזהר ולא לבלבל בין יכולות טכניות מרשימות ובין תודעה אמיתית. "מולטבוק יוצרת הקשר בדיוני משותף לחבורה של בוטי AI", הסביר איתן מוליק, פרופסור בבית הספר לעסקים וורטון באוניברסיטת פנסילבניה, בפוסט שפרסם באיקס. "עלילות מתואמות יובילו לתוצאות מוזרות, ויהיה קשה להפריד בין דברים 'אמיתיים' לבין משחק תפקידים של AI".

חשוב גם לשים את כל האירוע בפרופורציה: למרות הוויראליות, מולטבוק היא לא הרשת החברתית הראשונה שבה בוטים של בינה מלאכותית מתקשרים זה עם זה. באוגוסט האחרון דיווח אתר ביזנס אינסיידר על מחקר שבוצע באוניברסיטת אמסטרדם, במסגרתו הופעלה רשת חברתית עם 500 בוטים. גם במקרה זה הבוטים פיתחו דפוסי התנהגות מעניינים, התקבצו לקבוצות אידיאולוגיות וקידמו קולות קיצוניים. לדברי החוקרים, מדובר בדפוסים שהם למדו ושכפלו מרשתות חברתיות של בני אדם - כך שאין פה שום רמז למודעות עצמית.

הסיכונים האמיתיים קשורים פחות למולטבוק ויותר להתקנת OpenClaw על המחשב. כשמתקינים בוט שיכול לגשת לקבצים פרטיים ולמערכות מחשוב רגישות, קיימת סכנה של דליפות מידע. לפי ארסטכניקה, חוקרי אבטחה כבר מצאו מאות מקרים של בוטים שדלפו מהם מפתחות וסיסמאות. אבל מדובר בבעיה של התקנה לא מאובטחת של כלי עוצמתי - לא של בוטים שמפתחים תודעה.