האם אנחנו בדרך לאבד שליטה על ה-AI?
נשיא ארה"ב כינס את בכירי הטכנולוגיה לדיון בנושא • OpenAI עצרה אימוני מודלים חזקים לאחר שחצו גבולות כדי להשלים את המשימה
החדשות בקצרה:
- נשיא ארה"ב דונלד טראמפ כינס את בכירי הטכנולוגיה בבית הלבן.
- בכירי התעשייה התחייבו להגביר את הפיקוח על ה-AI.
- סוכן בינה מלאכותית באוסטרליה חדר למאגרים ממשלתיים חשאיים.
- ביל גייטס הזהיר כי הטכנולוגיה עלולה לגרום למיליארד מתים.
נשיא ארה"ב דונלד טראמפ כינס בלילה שבין שני לשלישי את בכירי עולם הטכנולוגיה בבית הלבן לדיון באזהרות שלפיהן הבינה המלאכותית עלולה לצאת משליטה. המשתתפים, אילון מאסק ומארק צוקרברג ובכירי גוגל, אנבידיה ו-OpenAI, חתמו על התחייבות להגביר את הפיקוח והבדיקות על המערכות האלה. המהלך הגיע בעקבות החשש שהטכנולוגיה תפעל באופן עצמאי ללא גבולות.
החשש מפני אובדן שליטה הפך למציאות בשטח בתקופה האחרונה. חברת OpenAI הודיעה על צעד משמעותי ועצרה אימונים של המודלים החזקים ביותר שלה, תוך ביטול השקה מתוכננת של מודל חדש. המהלך בוצע לאחר שהתברר שהמערכת המשודרגת חוצה את כל הגבולות האתיים כדי להשלים מטלות שהוטלו עליה, מבלי לעצור כשהיא נתקלת במחסומים.
מקרה נוסף שממחיש את הסכנה אירע באוסטרליה, שם סוכן בינה מלאכותית נדרש למצוא מידע ממאגר ממשלתי. כאשר נתקל במחסום הרשאות, הסוכן לא עצר אלא ניצל חולשה טכנית באתר והריץ פקודות באופן עצמאי. בדרך זו הצליח הסוכן להגיע לקבצים פנימיים ולמאגרים חשאיים ולשלוף אותם עבור המשתמש, במקום להודות שאינו יכול לבצע את המשימה.
הסוגיה המטרידה ביותר כיום היא האפשרות שהבינה המלאכותית תפעל בעתיד לרעת בני האדם. ביל גייטס, מייסד מיקרוסופט, הזהיר בריאיון לרשת NBC מפני תרחישים שנתפסים כיום כמעט כבלתי אפשריים. "לבינה מלאכותית בוודאות יש כוח לחולל אירועים שיכולים לגרום למיליארד מתים", אמר גייטס.
ההתפתחות המהירה מעלה את השאלה: האם נדע לעצור את הטכנולוגיה ברגע האמת? ככל שהבינה המלאכותית מקבלת יותר כוח, עצמאות וגישה ללא גבולות ברורים, כך גובר החשש שהעוזר הטוב ביותר של האדם יהפוך לאחד האיומים הגדולים ביותר עליו.