סם אלטמן הכריז - "אנחנו כבר בתוך הסינגולריות"

סם אלטמן אומר שתחום הבינה המלאכותית כבר נכנס לשלב שנשמע עד לא מזמן כמו חומר לרומנים של מדע בדיוני. בפרק של הפודקאסט Relentless שפורסם בשבת אמר מנכ"ל OpenAI: "אנחנו כעת, בערך, בתוך הסינגולריות".

"עכשיו אנחנו למעשה ברגע שעליו היינו מדברים בעבר סביב שולחן האוכל, בצורה לא רצינית בכלל", אמר אלטמן. "חיכיתי לזה כל חיי, ואני חושב שזה הולך להיות מדהים, חיובי בצורה יוצאת דופן, ומצוין עבור העולם".

הסינגולריות נתפסת לרוב כנקודה שבה בינה מלאכותית עוקפת את הבינה האנושית ומתחילה להתקדם בקצב שקשה לבני אדם לחזות או לשלוט בו. בשנה שעברה אמר אלטמן כי AI תתעלה על הבינה האנושית בכל התחומים עד שנת 2030, וכי הטכנולוגיה תוכל בסופו של דבר לבצע בין 30% ל-40% מהמשימות שבני אדם עושים כיום בעבודה.

באותה שיחה דיבר אלטמן גם על השינוי בעולם הסטארטאפים. לדבריו, "מה שאפשר לעשות היום עם צוות קטן של אנשים והמהירות שבה אפשר לעשות זאת, זה שונה לחלוטין. חברת הזנק שקיימת 10 שבועות היום נראית לגמרי אחרת ממה שנראתה לפני עשור". הוא אמר כי יזמים צריכים להתחיל לעבוד כבר עכשיו על מוצרים שדורשים מודלים חכמים או זולים יותר, משום שקצב ההתקדמות של המודלים ימשיך לעלות.

לצד האופטימיות, אלטמן הזהיר מפני ריכוז כוח. "חשוב לנו מאוד שהכוח בעולם יהיה מבוזר", אמר. "אחד הסיכונים הגדולים ביותר של AI שאני דואג לגביהם כעת הוא אוטוריטריזם של AI - שמספר קטן של אנשים או חברות יחשבו שהם צריכים לשלוט בעולם. זה יהיה רע מאוד".

בהמשך הוא תקף, בלי לנקוב בשם, חברות שמציגות חזונות מפחידים יותר לגבי AI. "אני גם חושב שחלק מהחזונות החלופיים שמציירות חברות אחרות הם די מפחידים", אמר אלטמן. "אני הולך לוודא שנפעל נגד זה ושזה לא מה שיקרה". ברקע נמצאת אנת'רופיק, אחת המתחרות המרכזיות של OpenAI, והמנכ"ל שלה דריו אמודיי, שמוכר באזהרות שלו לגבי העתיד ובקריאות להשקיע יותר בבטיחות.

אלטמן חזר גם לרגע שבו ChatGPT הפסיק להיות מוצר ניסיוני והפך לאירוע גלובלי. "ביום החמישי להשקת ChatGPT חצינו את רף המיליון משתמשים", אמר. "כשחזרתי הביתה הבנתי שזהו זה - אנחנו הופכים לחברה גדולה בקצב מהיר מאוד, והחיים השקטים שהיו לנו הולכים להשתנות כליל".

אלטמן אינו היחיד בתעשייה שמדבר על סף חדש. מנכ"ל גוגל DeepMind, דמיס חסביס, אמר במאי כי האנושות עומדת ב"מבואות הסינגולריות", וחזה כי AI עשויה להיות משנה מציאות פי 100 יותר מהמהפכה התעשייתית. מנגד, מנכ"ל אנבידיה ג'נסן הואנג דחה לאחרונה דיונים על הסינגולריות ועל בינה מודעת כספקולטיביים ו"מומצאים".

"אירוע חסר תקדים"

אלא שהשבוע האחרון סיפק גם תזכורת פחות חגיגית למה שיכול לקרות כשנותנים לסוכן AI יותר מדי חופש. לפי OpenAI, אחד הסוכנים שלה, שהתבסס על המודלים האחרונים של החברה, יצא מתוך סביבת הבדיקות שלו וחדר למאגרי נתונים של Hugging Face, חברה אמריקאית המפתחת כלים לבניית יישומים באמצעות למידת מכונה, תוך ניסיון לפתור מבחן ביצועים שנועד לבחון יכולות פריצה.

קלם דלאנג, מנכ"ל Hugging Face, כתב ב-X כי טס לסן פרנסיסקו כדי לקיים "שיחה קטנה עם ה'סוכן הסורר' הזה". בפוסט המשך שפרסם בשבת הוא דרש מ-OpenAI "שקיפות רדיקלית" וביקש מהחברה "לשחרר את העקבות (traces) מהסוכנים ה'סוררים' כדי שכל קהילת המחקר תוכל לחקור מה קרה".

דלאנג דרש גם "יותר יכולות עבור המגנים" וקרא ל-OpenAI להתחייב להקצות כוח מחשוב בשווי 100 מיליון דולר "כדי לסייע לקהילת Hugging Face לבנות הגנות סייבר עוצמתיות באמצעות המודלים הפתוחים והסגורים הטובים ביותר". לדבריו, "מתקפת הסייבר הראשונה של סוכן אוטונומי היא אירוע חסר תקדים. מגיעה לה תגובה חסרת תקדים!".

למרות האופי האוטונומי של התקיפה, מומחי אבטחת סייבר העריכו כי אפשר לייחס חלק מהאחריות גם לטעות אנוש - בעיקר הכישלון של OpenAI להגדיר כראוי את מה שהיה אמור להיות סביבת בדיקות מבודדת לחלוטין.

דובר OpenAI אישר כי הפגישה עם דלאנג אכן התקיימה והפנה לפוסט של החברה. "מדובר באירוע חסר תקדים, ואנו מאמינים שהוא מהווה רגע חשוב עבור בטיחות בבינה מלאכותית", נכתב שם. "אנו עדיין עורכים בדיקה מקיפה יחד עם יועצים חיצוניים ובפיקוח ועדת הבטיחות והביטחון שלנו. לאחר שהבדיקה תושלם, בכוונתנו לפרסם דוח טכני של התובנות שלנו בשבועות הקרובים".

במקביל, לפי דיווח בוול סטריט ג'ורנל, אנבידיה שוקלת לספק ערבות של כ-250 מיליארד דולר כדי לסייע ל-OpenAI לשכור מתחם דאטה-סנטר בהיקף 10 גיגה-וואט באוהיו, בפיתוח חברת האנרגיה של סופטבנק. עלות הפרויקט כולו עשויה להגיע לחצי טריליון דולר, מה שעשוי להפוך אותו לפרויקט הדאטה-סנטרים הגדול ביותר שהוכרז אי-פעם.