אנת'רופיק שחררה את המודל "המסוכן ביותר" שלה - אבל קראה לו פאבל והוא הרבה יותר בטוח

חברת אנת'רופיק (Anthropic) השיקה אתמול (ג') את Claude Fable 5, הגרסה הציבורית הראשונה של מודל Mythos המדובר שלה. זו הפעם הראשונה שהמודל החזק של החברה זמין לקהל הרחב. החברה מסרה כי המודל מצטיין בהנדסת תוכנה, עבודת ידע וראייה ממוחשבת, אך פועל תחת מגבלות בטיחות נוקשות.

בתחומים בסיכון גבוה כמו סייבר, ביולוגיה, כימיה וזיקוק, המודל חוסם תגובות ומפנה למודל קודם, Claude Opus 4.8. לדברי אנת'רופיק, מדובר במקרים נדירים, ונתונים ראשונים מראים שלפחות 95% מההפעלות של Fable רצות במלואן על המודל עצמו.

מיתוס הושק במתכונת מצומצמת בחודש אפריל, והיה זמין למספר ארגונים בלבד בשל חששות אבטחה. בשבוע שעבר הורחבה הגישה למאות ארגונים ב-15 מדינות, בדגש על ארגונים שמנהלים תשתיות קריטיות. כעת זמינה הגרסה הציבורית דרך ה-API של קלוד ותוכניות Enterprise. עד 22 ביוני היא תיכלל ללא תוספת תשלום בתוכניות Pro, Max ,Team, ו-Enterprise, ולאחר מכן תדרוש קרדיטים לשימוש. במקביל מופץ גם מיתוס 5 לארגונים שכבר אושרו לגישה למודל המתקדם.

"באופן פנימי הרצנו תוכנית bug bounty (כאשר נותנים ל"האקרים לבנים" לנסות לחפש פרצות אבטחה) חיצונית שלא הניבה פריצות אוניברסליות ביותר מ-1,000 שעות בדיקה", מסרה אנת'רופיק. "לאחר מכן עבדנו עם ארגוני red-teaming (סימולציה מבוקרת של מומחים המנסים לתקוף את המערכה) חיצוניים, שגם הם לא מצאו פריצות אוניברסליות". לצד זאת, הודיעה החברה כי תדרוש שמירת נתונים של 30 יום על כל התעבורה, גם מארגונים שלהם הסכמי zero-retention (מערכות שמעבדות את המידע שלך בזיכרון RAM אך לא שומרות ולא מתעדות) לדבריה, המידע לא ישמש לאימון אלא רק להתגוננות מפני התקפות חדשות ולזיהוי תוצאות שגויות.

המחיר של Fable 5 ושל Mythos 5 עומד על 10 דולר למיליון טוקני קלט ו-50 דולר למיליון טוקני פלט, כפול מהמחיר של Opus 4.8. ההשקה מגיעה בצל היערכות החברה להנפקה בבורסה, לצד OpenAI ו-SpaceX של אילון מאסק, וזמן קצר לאחר שקראה למעבדות ה-AI הגדולות בעולם לגבש מנגנון בלימה משותף לפיתוח מודלים חזיתיים.