אזעקת פייק ניוז: בניגוד לדיווחים בכלי תקשורת ברחבי העולם בשבוע האחרון, פייסבוק לא יצרה בטעות בינה מלאכותית שיצאה משליטה והחלה לתכנן את השמדת האנושות. טוב, אולי הגזמנו. לא כולם ממש טענו את זה. אבל ננסה לדייק עד כמה שאפשר, ולהסביר מה כן קרה.
אתרים רבים דיווחו על "בהלה" ו"פאניקה" בפייסבוק, וגם כלי תקשורת ישראלים פרסמו את הידיעה. אלא שרוב העובדות בידיעות סביב העולם היו מנופחות ולא מדויקות במקרה הטוב, ושקריות לחלוטין במקרה הרע. כך לפחות מנסים להבהיר באתר Gizmodo.
האם הבוטים של פייסבוק חולמים על כבשים רצחניות?
המקור לסיפור הוא כתבה שפורסמה בחודש הקודם באתר Fast Company, העוסק בטכנולוגיה ועסקים, תחתהכותרת "אינטליגנציה מלאכותית ממציאה שפות שבני אדם לא יכולים להבין. האם עלינו לעצור אותה?". בכתבה סופר כי חוקרי פייסבוק נתנו לשני בוטים מבוססי בינה מלאכותית לדבר ביניהם, כחלק מניסוי שמטרתו לבדוק האם הם יכולים לנהל משא ומתן יעיל.
לאחר זמן מה, גילו החוקרים שהבוטים, שנקראו בוב ואליס ופותחו תחילה באמצעות צ'טים עם בני אדם, גילו שפה משותפת אחרת. כך, במקום משפטים תקניים באנגלית הם כתבו אחד לשני דברים כמו "כדורים יש אפס לאני לאני לאני לאני לאני לאני לאני לאני ל". מפחיד, לא?
לא. כפי שהסביר ל-FastCo דְרוּב בַּאטְרַה, אחד החוקרים בחטיבת הבינה המלאכותית בפייסבוק, "לא היה תגמול על שימוש באנגלית", ולכן, באופן טבעי, "הסוכנים ייסחפו משימוש בשפה מובנת וימציאו מילות קוד לעצמם. זה לא שונה כל כך מהאופן בו קהילות אנושיות יוצרות קיצורים".
במילים אחרות: הבוטים לא המציאו שפה משלהם כדי להתחמק מהחוקרים, אלא פשוט ניסו למצוא קיצורים ושכחו את התחביר שלמדו קודם בצ'טים עם בני אדם. בערך כמו שאנחנו כותבים חחח במקום לכתוב "צחקתי בקול".
לא כיבו
החוקרים בפייסבוק גם לא נבהלו, ולא כיבו את הבוטים. הם רק החזירו אותם לאנגלית והוסיפו לקוד שלהם עידוד לשימוש באנגלית תקינה. הם לא עשו את זה מתוך חשש, אלא מכיוון ש"העניין שלנו היה ליצור בוטים שיכולים לדבר עם בני אדם", כפי שהבהיר החוקר מייק לואיס.
בעיקרון, אמרו חוקרי פייסבוק ל-FastCo, אין להם בעיה עם זה שבינה מלאכותית תפתח שפה משלה. להיפך: זה יכול לייעל את התקשורת בין מכשירים, להפוך אותה למהירה יותר ולחסוך תעבורה על רשתות הנתונים, שכיום מתקשות להתפתח במהירות הדרושה כדי לספק קוחב פס גם לגלישה של בני האדם וגם לכל התקשורת בין המכונות. עם זאת, הם ציינו כי הנטייה האנושית היא לרצות להבין איך המכונות שיצרנו מתקשרות, ו"חשוב לזכור שאין אנשים שמדברים גם שפת מחשב וגם שפת בני אדם", אמר באטרה.