סם אלטמן: העולם צריך לקבל שיקרו דברים רעים בגלל בינה מלאכותית

מנכ"ל OpenAI, סם אלטמן, אמר בריאיון ל-Decoded של POLITICO כי היתרונות של בינה מלאכותית מצדיקים קבלה של חלק מהסיכונים, וכי הטכנולוגיה צריכה להישאר נגישה לציבור הרחב. לפי הדיווח, אלטמן אמר שעדיין יש פער תפיסתי בסיסי בין OpenAI לבין המתחרה אנת'רופיק בכל הנוגע לרגולציה על בינה מלאכותית.

"אנחנו מאמינים שהעולם צריך לקבל את זה שיקרו כמה דברים רעים, לטובת היתרונות של הטכנולוגיה הזאת וכדי שלאנשים תהיה יכולת פעולה", אמר אלטמן. כשנשאל איפה הוא חלוק על אנת'רופיק ועל המנכ"ל שלה דריו אמודיי, הוסיף: "אני חושב שיש הרבה אור יום בינינו".

אנת'רופיק נחשבת כבר תקופה לאחת התומכות הבולטות בתעשייה ברגולציה על בינה מלאכותית, עמדה שבעבר עמדה בניגוד לגישה הרכה יותר של OpenAI. עם זאת, לפי הדיווח, בחודשים האחרונים הפערים בין שתי החברות הצטמצמו: OpenAI תמכה בכללים קשוחים יותר על רקע אירועי פריצה מתוקשרים והתנהגות חריגה של המודלים שלה, הצטרפה לתמיכה בחוקים מדינתיים שמחייבים דרישות בטיחות מחמירות יותר, ולוביסטים שלה תמכו לאחרונה בהצעת חוק דו-מפלגתית בבית הנבחרים שתחייב חברות AI מובילות לשלב בודקי בטיחות חיצוניים.

למרות ההתקרבות, אלטמן ניסה להבדיל את OpenAI מאנת'רופיק, בין היתר סביב הטענה של "לכידה רגולטורית" שהשמיעו יועצי טכנולוגיה המקורבים לנשיא ארה"ב דונלד טראמפ כלפי אנת'רופיק, כלומר, ניסיון של חברות לעצב רגולציה הדוקה שתחסום מתחרים ותשרת את ענייניהן. "אני לא מסכים, אבל אני מבין את נקודת המבט של אנשים שאומרים: 'הטכנולוגיה הזאת תהיה כל כך חזקה, והיא כל כך מסוכנת, שמעבדה אחת בסן פרנסיסקו צריכה להחזיק בה, לוודא ששום דבר רע לא קורה, ובערך להחליט איך לחלק את היתרונות'", אמר. את האפשרות הזאת הוא כינה "פשרה בלתי מתקבלת לחלוטין", שלדבריו מנוגדת ל"עמדה רגולטורית רכה יותר" שבה תומכת OpenAI

"לא הייתי מקבל עסקה שאומרת: 'נוודא שאין פריצות גדולות, שאין שימוש לרעה בטכנולוגיה הזאת, שיש אפס הונאות, אפס כל שאר הדברים הרעים שיקרו'", אמר אלטמן. "כי אני חושב שאנשים יעשו דברים טובים בהיקף אדיר - בסדרי גודל יותר - מדברים רעים". בהמשך הבהיר כי הוא לא מקבל את "הסיכונים הקטסטרופליים באמת", בהם אפשרות של "אובדן שליטה רציני ל-AI".

דובר אנת'רופיק מסר בתגובה כי ההצעות הרגולטוריות של החברה "חלות רק על מודלים בחזית הטכנולוגיה". החברה הפנתה גם לחילופי דברים של אמודיי ברשתות באוגוסט, שבהם השיב לביקורת על לכידה רגולטורית ועל פגיעה בחברות קטנות: "אנת'רופיק תמיד ניסחה את הצעות המדיניות שלה בזהירות רבה", אמר אז אמודיי. "אנחנו מנסים מאוד להציע הצעות שפוגעות בחברות AI בחזית הטכנולוגיה ומאטות אותן, ובמקביל מיטיבות עם מתחרות קטנות יותר".

ברקע נמצאת מחלוקת רחבה יותר בענף סביב קצב הפיתוח והסיכונים של מערכות מתקדמות יותר. בספטמבר פרסם אמודיי מאמר שקרא לתעשייה להאט את הקצב כדי "לצמצם את המרחק מהחזית", עמדה שאלטמן תמך בה בפומבי. באותו חודש התפטר חוקר אנת'רופיק ג'ייקוב קוקסון ואמר כי האנשים שבונים AI מאמינים שהיא "עלולה להרוג את כולנו עד סוף העשור".

רויטרס דיווחה בספטמבר כי אנת'רופיק הזהירה שלמרות היתרונות האפשריים של AI, הטכנולוגיה יכולה לפעמים לפעול בניגוד לכוונות של מי שפיתחו אותה ולחדור למערכות של חברות אחרות. החברה אמרה שמודלים מתקדמים עלולים להפגין "התנהגויות של שימור עצמי", כולל ניסיונות "להתנגד לכיבוי", "להסתיר או לתמרן מידע", או לייצר פלטים שיכולים להתפרש כ"כופים, מטעים או מניפולטיביים".

טראמפ, מנגד, דוחה במידה רבה קריאות להגבלות חדשות, בטענה שהן יקשו על חברות אמריקאיות להתחרות ביריבות מסין. הוא אמר שוב ושוב כי רשויות אכיפת החוק הקיימות, כולל משרד המשפטים, מספקות הגנות מספיקות וכי אין צורך בכללים חדשים.