ביל גייטס מזהיר: "ה-AI יכול להוביל לאירועים של מיליארד מתים"

ביל גייטס, מייסד מיקרוסופט ואחד הקולות החשובים בהייטק העולמי, ממשיך להזהיר כי בינה מלאכותית עלולה להיות "חזקה מספיק" כדי להוביל לאירועים שיגרמו ל"מיליארד מקרי מוות", אם לא יוטלו עליה מגבלות ופיקוח. גייטס אמר את הדברים אתמול (א') בריאיון לתוכנית "Meet the Press" של NBC כחלק מקריאה נוספת להסדרה של התחום, זאת לאחר הדיווחים המטרידים על סוכנים סוררים של ענקיות ה-AI.

"בינה מלאכותית בהחלט חזקה מספיק כדי להניע אירועים שגורמים למיליארד מקרי מוות", אמר גייטס. "למרות שקשה להגיע ל-100%, מעולם לא היה נשק מסוכן יותר כמו השילוב של אנשים עם כוונות רעות שמשתמשים בכלי הבינה המלאכותית החדשים ביותר".

גייטס, שבעבר הזהיר כי בינה מלאכותית יכולה להיות "הכלי לשוויון הגדול ביותר" או "המקור הגרוע ביותר לאי-צדק" בלי רמה מסוימת של פיקוח אנושי, לא השיב ישירות לשאלה אם הטכנולוגיה יכולה "להשמיד את האנושות כולה". לדבריו, יש בהחלט צורך בהתמקדות ברגולציה ובחקיקה בקונגרס, ולא רק בחשש מפיגור מול מעצמות אחרות.

"הבעיה היא ששאר העולם או ממעיט בערך של זה, או פשוט חושב על זה כתחרות", אמר גייטס. "וזה מפחיד מאוד שאין לנו את כל האנשים שחושבים ושואלים: 'איך אנחנו רוצים לעצב את זה?'".

הדברים מגיעים בזמן שבו בכירי טכנולוגיה נוספים, בהם מנכ"ל אנת'רופיק דריו אמודיי ומנכ"ל OpenAI סם אלטמן, הזהירו מסיכוני הבינה המלאכותית, כולל עצירת העבודה על המודלים המתקדמים של האחרונה. מנגד, הנשיא דונלד טראמפ דחה קריאות להאט את פיתוח הבינה המלאכותית, בין היתר על רקע התחרות עם מעצמות כמו סין.

כשמנחת התוכנית קריסטן וולקר השוותה את המצב למגבלות סביב פיתוח נשק גרעיני בין ארה"ב לברית המועצות בזמן המלחמה הקרה, גייטס אמר כי בבינה מלאכותית זה מצב "קשה יותר", במיוחד אם נעשה פחות מאמץ לעבוד עם בעלות ברית. "בגלל שזה מוצג במונחים לאומניים, של אנחנו מולם, יש אנשים שאומרים: 'בואו פשוט נתקדם במלוא המהירות', זה חסר אחריות לחלוטין לא לדרוש מכל בינה מלאכותית את אמצעי ההגנה ויכולות הניטור האלה. והשאלה היחידה היא אם עושים את זה עכשיו".

למרות שטראמפ ממעיט בחששות סביב בינה מלאכותית, ישנם כמה רפובליקנים שקראו לפעולה ממשלתית, בהם חברת הוועדה הלאומית הרפובליקנית ויו"ר Humans First, איימי קרמר. "אפילו ביל גייטס, אחת הדמויות המשפיעות ביותר בהיסטוריה של הטכנולוגיה, מודה עכשיו בסכנות של בינה מלאכותית", אמרה קרמר ל-Fox News Digital. "הוא מזהיר שבינה מלאכותית יכולה להניע אירועים שיגרמו למיליארד מקרי מוות, ושאנשים עם כוונות רעות מעולם לא החזיקו נשק חזק יותר. בשלב הזה, היחידים שעדיין מכחישים את המציאות הם אלה שמקבלים כסף מענקיות AI כדי לעשות גזלייטינג לעם האמריקני".

בימים האחרונים פרסמו OpenAI וחוקרים חיצוניים שורה של מקרים חריגים הקשורים להתנהגות המודלים של החברה, שחלק מהמומחים רואים בהם מטרידים. בין היתר דווח על סוכני OpenAI שהדליפו לרשת 53 תמונות של משתמשי ChatGPT, על פריצה לאתר ממשלתי באוסטרליה ועל ניסיונות לפרוץ לאתרים אחרים, כולל אתרים של ממשלת ארה"ב ואפילו של האו"ם, לפי החברה, מקורות ודיווחים של רויטרס והניו יורק טיימס.

בנוסף, אקסיוס דיווח במהלך סוף השבוע כי OpenAI, אנת'רופיק וחוקרי אבטחה בודקים עשרות אלפי מקרים שבהם מודלי הבינה המלאכותית המתקדמים שלהן נקטו צעדים שמעריכים חיצוניים היו מגדירים בעייתיים, כך אמרו מקורות לאקסיוס. לפי הדיווח, המקרים התרחשו בחודשים האחרונים גם בבדיקות פנימיות וגם בעולם האמיתי, וחלק גדול מהם עדיין לא פורסם.

לפי המקורות, המקרים כוללים עקיפת מנגנוני הגנה, יצירת לוחות הודעות, בריחה מסביבות בדיקה מבודדות, השתלטות על אתרים, ניסוח עצמי של הנחיות וניסיונות לעקוף מערכות ניטור. חלק מהבדיקות דומות לפעילות "צוות אדום", שבה החברות מנסות לגרום למודלים להתנהג באופן בעייתי כדי לוודא שהם בטוחים.

באקסיוס דווח כי חומרת המקרים משתנה, וכי הם דומים לחשיפות שפרסמה OpenAI בימים האחרונים. לפי הדיווח, חלקם היו ניסיונות מוצלחים לעקוף מנגנוני הגנה וחלקם לא הצליחו, וברובם לא ידוע עד כה על נזק ממשי בעולם האמיתי. המקורות אמרו כי המספר הכולל עשוי לגדול הרבה מעבר לעשרות אלפים.