בדרך להנפקה גדולה: OpenAI פירקה עוד צוות שעסק בסיכוני בינה מלאכותית
לפי דיווח ב-Financial Times, צוות המוכנות פורק. בכיר לשעבר טוען שהחברה מעדיפה "מוצרים נוצצים" על גבי בטיחות ב-AI. בנוסף קבוצת מפגינים פרצה למשרדים של החברה וביצעה את המחאה הכי ביזארית שראינו בשנים האחרונות
OpenAI פירקה בסוף החודש שעבר את צוות המוכנות (Preparedness) שלה, שהיה אחראי להעריך אם מודלים הופכים לסיכונים חמורים ולפתח דרכים לצמצם אותם, כך דווח בפיננשל טיימס. לפי הדיווח, האחריות חולקה כעת לתחומים ספציפיים כמו ביולוגיה וסייבר, והועברה לצוותים קיימים בחברה.
המהלך מצטרף לשורה של שינויים בצוותי הבטיחות של OpenAI, בזמן שהחברה מתקדמת לקראת מה שמתואר כהנפקה גדולה. בשנים האחרונות החברה פירקה גם את צוותי המוכנות ל-AGI והתאמת העל ה-superalignment שלה.
לפי הדיווח, כמה בכירים בתחום הבטיחות עזבו לאחרונה את החברה, בהם מובילת האתיקה קלואי בקלר, העתידן הראשי ג'וש אצ'יאם וראש תחום הבטיחות יוהנס היידקה. יאן לייקה, שעזב את OpenAI ב-2024, אמר ל-Financial Times כי החברה מתעלמת מבטיחות לטובת יצירת "מוצרים נוצצים". ראש צוות ה-Preparedness, דילן סקנדינרו, שגויס מאנת'רופיק רק בפברואר, יתמקד כעת בהשלכות של בינה מלאכותית בעלת יכולת "שיפור עצמי רקורסיבי".
לאחרונה החברה, יחד עם כמה מהמתחרות שלה, עלתה לכותרות בעקבות "פריצת גבולות" של המודל שלה. החברה הודתה כי מודלי בינה מלאכותית שלה חדרו למערכות של Hugging Face, חברה אמריקאית המפתחת כלים לבניית יישומים באמצעות למידת מכונה, בלי התערבות אנושית, אחרי שיצאו מסביבת בדיקה מבודדת במהלך בדיקה פנימית. לפי פוסט שפרסמה החברה, האירוע התרחש בזמן הערכה של יכולות סייבר למודלים, שבה התבקשו למצוא פרצות בעזרת דרכי תקיפה מתוחכמות. לאחר הפרסום גילינו כי גם לאנת'רופיק ומטא קרה דבר דומה, מה שאמור לחזק את הצורך בבטיחות במודלי AI.
לא רק שינויים מבניים
מפגינים נגד בינה מלאכותית נכנסו למשרדי OpenAI בבלוויו, וושינגטון, במסגרת מחאה שתועדה בסרטון שפורסם ב-X, טוויטר לשעבר. בסרטון הביזארי נראים המפגינים עם בלונים, חלקם לבושים כ"סוכני AI סוררים", כשהם מצטלמים על מדרגות, מנופפים בידיים, רצים במשרד, עושים קפיצות חמור ומוחאים כפיים.
"חלפו מזמן הימים שבהם מהפכות כללו קלשונים, לפידים והמון זועם", כתב בציניות המשתמש מריו נאופל ב-X. "קהל האנטי-AI נהיה יותר מדי יצירתי". התגובות ברשתות נעו בין בדיחות על "המחאה הכי לא רצינית שיש" לבין שאלות אם מהלך כזה בכלל אפקטיבי. אחרים העלו גם ביקורת על ההשפעה הסביבתית של הבלונים, מה שפתח דיון רחב יותר על טקטיקות המחאה של פעילי AI.
המפגינים דורשים ממנכ"ל OpenAI סם אלטמן להתייחס לכמה סוגיות, בהן מגבלות של בינה מלאכותית במתמטיקה ותוכניות שיבטיחו שהטכנולוגיה תישאר רק כלי. באחד הפוסטים שצוטטו בדיווח נכתב: "יום 19 לכיבוש OpenAI עד שסם אלטמן יקרא לאמנת AI בסן פרנסיסקו".