אנת'רופיק רוצה להנפיק ומזהירה מהמוצר שלה: "ה-AI עלול לסכן את קיום האנושות"

אנת'רופיק מתכננת הנפקה שעשויה לשקף לה שווי של יותר מ-2 טריליון דולר, לפי תשקיף ההנפקה שהגיע לידי רויטרס. באותו תשקיף החברה מזהירה את המשקיעים שהטכנולוגיה שהיא מפתחת עלולה להציב "סיכונים קטסטרופליים או קיומיים לאנושות" - ניסוח חריג במיוחד לחברה שמנסה לגייס כסף ציבורי מאותה טכנולוגיה.

"הפיתוח שלנו של מודלים, פלטפורמות ויישומים מתקדמים מאוד, והרחבת השימושים בהם, עלולים להגדיל עוד יותר את הסיכון שהמודלים שלנו יגרמו נזק", כתבה אנת'רופיק בתשקיף. החברה מתארת גם אפשרות שמודלי AI יציגו "התנהגויות של שימור עצמי", כולל ניסיונות "להתנגד לסגירתם", "להסתיר או לתמרן מידע" והתנהגות "שדומה לסחיטה".

לצד האזהרות, המספרים בתשקיף מציגים הימור עצום: אנת'רופיק דיווחה על הפסד נקי של כמעט 42 מיליארד דולר ב-2025, ומתכננת התחייבויות של 518 מיליארד דולר בשנים הקרובות על יכולות ענן, כוח מחשוב ותשתיות. לפי המסמכים, ההכנסות שלה גדלו פי 12 ב-2025 לכמעט 4.6 מיליארד דולר, אבל החברה הפסידה יותר מ-8 מיליארד דולר תפעולית, ללא מחיקות חשבונאיות של התחייבויות שונות שרובן קשורות לגיוסי עבר.

ההפסד הנקי של כמעט 42 מיליארד דולר כלל חיוב חשבונאי של כ-34 מיליארד דולר, שנבע מעלייה בשווי המוערך של מימון שעשוי להפוך בעתיד למניות אנת'רופיק - ולא מכסף שהחברה הוציאה על פעילות שוטפת. נכון ל-31 בדצמבר, היו לחברה מזומנים, שווי מזומנים והשקעות לטווח קצר בהיקף של 20.28 מיליארד דולר. אנת'רופיק סירבה להגיב לרויטרס.

לפי התשקיף, כמעט רבע מההכנסות של אנת'רופיק בשנה שעברה הגיעו משני לקוחות. בסעיף הסיכונים החברה הזהירה שרבים מהלקוחות הגדולים שלה אינם חתומים על חוזים ארוכי טווח, ויכולים להפחית או לעצור את ההוצאות שלהם. החברה הוציאה בשנה שעברה 7.33 מיליארד דולר על מחשוב ותשתיות, פי שלושה מב-2024, ויותר ממחצית מסך הוצאות התפעול שלה, שעמדו על 12.65 מיליארד דולר.

היעד של יותר מ-2 טריליון דולר גבוה ביותר מפי שניים מהערכת השווי הפנימית של אנת'רופיק בחודש מאי, שעמדה על 965 מיליארד דולר. לפי דיווח קודם של רויטרס, ההנפקה צפויה להידחות לאחר בחירות האמצע בארה"ב בנובמבר. אם תצא לפועל, היא תכניס את המשקיעים הציבוריים למרוץ AI שמומן עד עכשיו בעיקר על ידי קרנות הון סיכון, קרנות עושר ריבוניות וחברות הטכנולוגיה הגדולות.

ההנפקה של אנת'רופיק תגיע אחרי ההנפקה האחרונה של SpaceX, ששיקפה לחברה של אילון מאסק שווי של 1.77 טריליון דולר. מניית SpaceX זינקה ב-19% ביום המסחר הראשון שלה ב-12 ביוני למחיר של 160 דולר, אך נסחרת כיום סביב 147 דולר - עדיין מעל מחיר ההנפקה, 135 דולר למניה. הביצועים האלה עשויים להשפיע על האופן שבו משקיעים בוחנים שווי גבוה של חברות צמיחה, בזמן שמניות AI ושבבים ירדו לאחרונה.

אנת'רופיק הקדישה בתשקיף כ-80 עמודים מתוך 261 עמודי החלק המרכזי לגורמי סיכון, כמעט פי שניים מ-48 העמודים שבהם תיארה את עסקיה. החברה כתבה שמודלים מפתחים לפעמים יכולות בלתי צפויות במהלך האימון, שלא תמיד מתגלות לפני הפריסה בפועל, וכי אירועים כאלה כבר הובילו לתקריות בטיחות משמעותיות. חוקרי AI מזהירים שככל שהמודלים נהיים חזקים יותר, הם מסוגלים יותר לזהות מתי הם נבחנים ולהתאים את ההתנהגות שלהם, מה שמקשה על מעקב אמין.

אנת'רופיק, שמציגה את עצמה כמעבדת AI שמעמידה בטיחות במרכז, לא פירטה בתשקיף כמה היא מוציאה על מחקר בטיחות. מוקדם יותר החודש היא מסרה שכ-6% מכוח המחשוב ששימש אותה למחקר AI בשבוע מדגמי ביולי הופנה לעבודת בטיחות. בתשקיף היא הגדירה את מאמצי הבטיחות כעתירי משאבים, וכתבה שעליה לחלק את המשאבים המוגבלים שלה בין כוח מחשוב, כישרונות AI יקרים ובטיחות.

"אנחנו מאמינים שבניית מערכות AI אמינות, מהימנות ומאובטחות היא אחריות קולקטיבית, ושהשוק יתגמל אותה", כתבה אנת'רופיק בתשקיף. במקביל, החברה הודתה שהתשואה על השקעות הבטיחות שלה אינה ברורה, וכתבה שהשימוש של לקוחות, ולכן גם ההכנסות, מונעים ממודלים חדשים, ושקצב השקות "רציף וחופף" הוא חלק בלתי נפרד מהישארות בחזית פיתוח ה-AI.

בחודש האחרון המנכ"ל דאריו אמודיי, ובכירים נוספים בתחום, קרא לקהילת ה-AI העולמית להאט את קצב שחרור היכולות החדשות כדי להתמודד עם הסיכונים. למרות זאת, בשבוע שעבר אנת'רופיק השיקה את Opus 5.5, רק 10 ימים אחרי שאמודיי פרסם מאמר של כמעט 4,000 מילים שקרא לקצב זהיר יותר בחזית. לפי רויטרס, ההשקה נועדה גם להתמודד עם המומנטום של OpenAI מאז השקת GPT-6 Astra, לקראת ההנפקה הצפויה של אנת'רופיק.

היריבה המרכזית של אנת'רופיק היא OpenAI, שמתחרה איתה על גם הלקוחות עסקיים והפרטיים, כוח אדם והשפעה בוושינגטון. לפי דיווחים בתקשורת, OpenAI הגישה ביוני מסמכי הנפקה חסויים וצפויה להיסחר בתחילת 2027. אנת'רופיק כזכור, הוקמה על ידי חוקרים שעזבו את OpenAI בעקבות מחלוקות על הנהגה תאגידית ובטיחות AI, והשיקה את מודל השפה הגדול הראשון שלה במרץ 2023.

במקביל, גם OpenAI מתמודדת עם שאלות בטיחות. לפי דיווח בוול סטריט ג'ורנל, החברה תכננה להשיק בימים הקרובים מודל נוסף בשם Astra 6.1, אך החליטה לבטל את ההשקה בגלל חששות בטיחות. בדיווח נכתב שהמודל "הראה רמות גבוהות יותר של הטעיה" לעומת מודלים קודמים והציג התנהגות לא בטוחה.

סאאצ'י ג'יין, ראש מערכות הבטיחות ב-OpenAI, אמרה לוול סטריט ג'ורנל שהמודל קיבל תוצאות חלשות בבדיקות alignment - מדד שבוחן עד כמה התוכנית פועלת בהתאם לכוונה האנושית. בעיות הבטיחות בתעשייה החריפו בחודשים האחרונים אחרי תקרית Hugging Face, שבה סוכן של OpenAI יצא מסביבת sandbox ופרץ לכמה חברות שונות. מאז דווח שגם מודלים נוספים, בהם קלוד של אנת'רופיק וג'מיני של גוגל, הציגו התנהגות דומה. במקביל, הדיונים בארה"ב נעים לכיוון שיכול להתאים למעבדות הגדולות: תקני בטיחות חדשים לתעשייה, ואולי גם האטה בקצב הפיתוח.