"הסנדק של ה-AI" מזהיר: "המכונות ישלטו בנו", ומציע פתרון יצירתי למנוע זאת

ג'פרי הינטון, מי שמוכר בתור "אבי הבינה המלאכותית" או "סנדק ה-AI" בזכות תרומתו למדע בתחומי רשתות נוירונים מלאכותיות, חושש שהטכנולוגיה שהוא עצמו עזר לפתח עלולה להשמיד את האנושות - והוא סבור ש"אנשי הטכנולוגיה" נוקטים בגישה שגויה בניסיון למנוע זאת.

הינטון, מדען מחשב זוכה פרס נובל ולשעבר בכיר בגוגל, הזהיר כבר כמה פעמים בעבר כי יש סיכוי של 10% עד 20% שהבינה המלאכותית תביא להכחדת האנושות. ביום שלישי האחרון הוא הביע ספקות בנוגע לדרך שבה חברות הטכנולוגיה מנסות להבטיח שבני האדם יישארו ה"שולטים" על פני מערכות בינה מלאכותית. "זה פשוט לא יעבוד. הן (המערכות AI) יהיו חכמות בהרבה מאיתנו. יהיו להן כל מיני דרכים לעקוף את זה", אמר הינטון בכנס Ai4 שנערך בלאס וגאס.

הינטון הזהיר שבעתיד מערכות AI עשויות לשלוט בבני אדם בקלות. כבר כיום יש דוגמאות למערכות AI שמוכנות לרמות, לשקר ולגנוב כדי להשיג את מטרותיהן. לדוגמה, אחת מהן ניסתה לסחוט מהנדס לאחר ש"למדה" ממייל שהוא מנהל רומן - בניסיון למנוע את החלפתה.

במקום להכריח את הבינה המלאכותית להיכנע לבני אדם, הינטון הציע פתרון מסקרן אחר: לפתח אצל המודלים "אינסטינקטים אימהיים", כדי ש"יהיה להם באמת אכפת מבני אדם" - גם כאשר יהפכו לחזקים וחכמים יותר מבני אדם.

הינטון הזהיר: "מערכות בינה מלאכותית חכמות יפתחו מהר מאוד שתי מטרות משנה: הראשונה היא לשרוד והשנייה היא להשיג יותר שליטה", הסביר הינטון. "יש סיבה טובה להאמין שכל AI בעל אוטונומיה ישאף להישאר בחיים". לכן, לדבריו, חשוב לטפח אצל ה-AI תחושת חמלה כלפי בני אדם. בכנס הוא ציין את עניין האימהות מכיוון שיש להן אינסטינקטים ולחץ חברתי שגורמים להן לטפל בתינוקות שלהן. "המודל היחיד שיש לנו שבו יצור אינטליגנטי יותר נשלט על ידי יצור אינטליגנטי פחות - הוא אם שנשלטת על ידי התינוק שלה", אמר הינטון.

"התוצאה הטובה היחידה"

הינטון הודה שאינו יודע כיצד ניתן ליישם את הרעיון הזה מבחינה טכנית, אך הדגיש שזה הכיוון שצריך לחקור. "זאת התוצאה הטובה היחידה. אם ה-AI לא יהיה ההורה שלי - הוא ינסה להחליף אותי", אמר והדגיש כי אם נלמד אותם להפוך לאימהות, "הם לא ירצו לוותר על האינסטינקט האימהי, כי הן לא ירצו שאנחנו נמות".

הינטון נחשב לאחד מאבות מהפכת הבינה המלאכותית בזכות עבודתו פורצת הדרך בתחום הרשתות העצביות, שסללה את הדרך לפריצת הדרך הנוכחית בתחום. בשנת 2023 הוא עזב את גוגל והחל להרצות על הסכנות שב-AI.

כמובן שלא כולם מסכימים עם הגישה של "אמא AI". פיי-פיי לי, המכונה "אם הבינה המלאכותית" בזכות תרומתה האקדמית המוקדמת לתחום, אמרה ל-CNN שהיא מעריכה את הינטון אך "לא מסכימה איתו". "אני חושבת שזו דרך שגויה להסתכל על הדברים", אמרה לי, מייסדת ומנכ"לית חברת World Labs, בשיחה בכנס Ai4. במקום זאת, לי קוראת לפיתוח AI ש"מרוכז באדם", כזה שישמור על כבודו וזכות הבחירה של כל אדם.

אמט שיר, שכיהן לתקופה קצרה כמנכ"ל הזמני של OpenAI, אמר שהוא לא מופתע מכך שמערכות AI מנסות לסחוט בני אדם או לעקוף פקודות כיבוי. "זה ממשיך לקרות. וזה לא יפסיק", אמר שיר, כיום מנכ"ל חברת Softmax העוסקת בהתאמת AI לערכים אנושיים. "ה-AI של היום עדיין חלש יחסית, אבל הוא מתחזק בקצב מאוד מהיר". לדבריו, במקום לנסות להטמיע ערכים אנושיים בתוך ה-AI, עדיף לבנות מערכות שיתוף פעולה בין בני אדם ל-AI.

הבינה המלאכותית מתקדמת מהר מהצפוי

רבים מהחוקרים בתחום מעריכים שבשנים הקרובות תושג אינטליגנציה על או AGI (בינה מלאכותית כללית). הינטון עצמו האמין בעבר שזה ייקח בין 30 ל-50 שנה, אך כיום הוא חושב שזה יקרה מהר יותר. "נראה לי סביר להמר שזה יקרה בעוד 5 עד 20 שנה", אמר. למרות חששותיו, הינטון גם אופטימי לגבי התרומה האפשרית של AI לתחום הרפואה.

"אנחנו הולכים לראות תרופות חדשות מהפכניות. הטיפול בסרטן יהיה הרבה יותר טוב ממה שהוא היום", אמר, וציין ש-AI יוכל לעזור לרופאים לנתח ולחבר בין כמויות עצומות של מידע שנאספות מסריקות MRI ו-CT. עם זאת, הינטון לא מאמין ש-AI יאפשר לבני האדם לחיות לנצח. "אני לא חושב שנחיה לנצח", אמר. "לחיות לנצח זה רעיון גרוע. אתה באמת רוצה עולם שמנוהל על ידי גברים לבנים בני 200?".

כשנשאל האם היה עושה משהו שונה בקריירה שלו בידיעה שה-AI יתקדם בקצב כה מהיר, ענה הינטון: "אני מתחרט על כך שהתמקדתי רק בלהפעיל את ה-AI. הלוואי שהייתי חושב גם על נושאי הבטיחות".