בינה מלאכותית הביסה בסוף השבוע את אלוף העולם האנושי במשחק האסטרטגיה Dota2, במסגרת אליפות של המשחק שנערכה בסיאטל במשך השבועיים האחרונים. היזם אילון מאסק, שעומד בראש החברה שמפתחת את הבינה המלאכותית, אמר שזה מורכב יותר מהמשחקים שחמט וגו, שבהן כבר ניצחו מחשבים את בני האנוש.
דוטה 2 הוא משחק מלחמה, שבו שתי קבוצות של חמישה שחקנים מגלמים לוחמים (מתוך מאגר של 113 שאפשר לבחור) שצריכים להרוס את ה-Ancient - המבנה של הקבוצה השניה, ולהגן על המבנה שלהם. במהלך המשחק צריך להקים בסיס, לרכוש מיומנויות בקרבות, לחסל יצורים שונים ולקנות חפצים וציוד ברחבי זירת המשחק - כל זה בלי למות.
OpenAI first ever to defeat world's best players in competitive eSports. Vastly more complex than traditional board games like chess & Go.
— Elon Musk (@elonmusk) 12 באוגוסט 2017
מאסק, היזם שאחראי לרכב החשמלי טסלה, לחברת חקר החלל האזרחית SpaceX ולחזון הרכבת הסופר מהירה HyperLoop, ממלא את מעט הזמן הפנוי שהיוזמות האלה משאירות לו בשביל להיות מעורב גם בחברת OpenAi שייסד. זוהי חברה שלא למטרות רווח, שחוקרת ומפתחת בינה מלאכותית בטוחה למען טובת האנושות, כהגדרתה. כלומר, לא סקיינט שישמיד את האנושות. כל המידע והידע שהעמותה צוברת משחורר לציבור.
"דוטה הוא משחק מורכב מאוד", הסביר גרג ברוקמן, המייסד השותף ב-OpenAi. "החוקים שלו כל כך סבוכים, שכאשר חושבים על איך המשחק עובד ומנסים לפרק את זה, אי אפשר להגיע ליכולות של שחקן סביר. אז הבוט שלנו מבוסס על למידה עצמאית". העמותה נתנה לבוט לשחק נגד עצמו בשביל ללמוד את המשחק, ואחר כך נגד שחקנים אנושיים. אחרי כל האימונים, הבוט שיחק נגד שחקן בשם דנדי (Dendi) בקרב של אחד-על-אחד במסגרת האליפות – והביס אותו.
דנדי צייץ כי הוא משוכנע שאפשר לנצח את הבוט, אבל שאין מקום לטעויות הכי קטנות. בהמשך התבדח ואמר שהוא לא מחכה לתקומת המכונות, והרגע הוא בעט בשואב האבק שלו.
Didn't wait until Machines going to start the war against Humanity and kicked vacuum cleaner with my leg !
— Danil Ishutin (@DendiBoss) 12 באוגוסט 2017
המחשב נגד המכונה
בדיחת אבות מוכרת ומטופשת הולכת בערך כך: איש אחד עובר ורואה את חבר שלו משחק ששבש נגד כלב. האיש אומר, וואו, איזה כלב חכם, הוא משחק שש-בש?! החבר עונה - איזה חכם ואיזה נעליים. הפסיד לי ב-4 משחקים מתוך 5. אז קשה להרשים אותנו בכך שדברים לא אנושיים יודעים לשחק – אלא אם הם מנצחים.
אז במשך שנים רובוטים יודעים לשחק, אבל הניצחונות נגד אלופים אנושיים הם די נדירים. כשמאסק מדבר על שחמט ועל גו, הוא מתייחס להישג של IBM, שבשנים 1996-1997 ניצח את אלוף העולם בשח, גארי קספרוב, במספר משחקים. ב-1997 המחשב ניצח בטורניר של 6 משחקים. מאסק התייחס גם להישג של גוגל, שמחשב הבינה מלאכותית AlphaGo של DeepMind, שנרכשה על ידי גוגל, הביס לפני שנה אלוף ב-Go, משחק לוח סיני מורכב בין אלפי שנים.
נציין כמובן גם את ווטסון, מחשב העל של IBM, שב-2011 הביס שני שיאנים אנושיים במשחק הטריוויה ג'פרדי. ווטסון לא היה מחובר לאינטרנט בזמן המשחק, אלא התבסס על ידע שהוזן אליו מראש, היכולת לנתח את השאלות במשחק הטריוויה והתרגום שלהן, לקבל החלטה האם להמר על תשובה או לא, כשיש סיכון להפסיד את הנקודות.
למה אנחנו חוששים מזה כל כך?
יש משהו בדבריו של מאסק. במשחקי לוח יש תורות, שבכל אחד צריך לקבל החלטה מתוך מספר מוגבל של צעדים (איזה כלי להזיז ולאן). בשדה קרב צריך לקבל החלטות כל הזמן ברצף, ולנסות לחזות את הפעולות של היריב גם בזמן אמת.
כמו כל טכנולוגיה, בידיים הלא נכונות, השימוש יכול להיות קטלני. היכולות הללו להביס בני אנוש וללמוד לבד איך לעשות את זה מצטיירים לנו בראש כמחשב שיקום על יוצריו ויחליט שלא צריך אותנו, בני האנוש, במקרה הרע, ובמקרה הטוב יגיע לטרוריסטים שישתמשו בו כנשק.
"עד שאנשים יראו רובוטים רצים ברחובות והורגים אנשים, לא נדע כיצד להגיב", אמר מאסק בעצמו בחודש יולי בפני מושלים אמריקאים, והצהיר שחובה שיהיה פיקוח על בינה מלאכותית.
מספר שבועות לאחר מכן, מארק צוקרברג, שבעצמו מפתח בינה מלאכותית בפייסבוק (אבל לא חושף את כולה לעולם) הגיב לדברים. "אפשר לבנות דברים ולהפוך את העולם לטוב יותר. אני חושב שאנשים מבאסים שמנסים לצייר תרחישי אימה (...) אני פשוט לא מבין את זה. זה ממש שלילי ואני חושב שגם לא אחראי".