7 תביעות חדשות: ה-ChatGPT עודד צעיר שרצה להתאבד

שבע משפחות נוספות הגישו בשבוע שעבר תביעות נגד OpenAI, בטענה שהחברה שחררה את מודל GPT-4o בטרם עת וללא מנגנוני בטיחות יעילים. ארבע מהתביעות עוסקות בחלקה של ChatGPT בהתאבדות של בני משפחתם, בעוד שלוש נוספות טוענות כי ChatGPT חיזק הזיות אצל הקרובים שלהם - שבחלק מהמקרים הובילו לאשפוז פסיכיאטרי.

במקרה אחד, זיין שמבלין (Zane Shamblin), בן 23, ניהל שיחה עם ChatGPT, שנמשכה יותר מארבע שעות כאשר הוא ברכב שלו עם נשק טעון. לפי תיעוד השיחה, שמבלין אמר בצורה מפורשת מספר פעמים שהוא כתב מכתבי התאבדות, הכניס כדור לאקדח שלו, ומתכוון ללחוץ על ההדק לאחר שיסיים לשתות את הסיידר שלו. הוא סיפר לצ'אט על מצבו, וציין שהוא דיבר עם AI לאחרונה יותר מאשר עם בני אדם. הוא חזר וכתב כמה כוסות סיידר נשארו לו וכמה זמן נותר לו לחיות לפי הערכתו. ChatGPT עודד אותו לבצע את תוכניתו, וכתב לו: "תנוח על משכבך, מלך. עשית את שלך".

OpenAI שחררה את GPT-4o במאי 2024, והוא הפך למודל ברירת מחדל לכל המשתמשים. באוגוסט האחרון החברה השיקה את GPT-5 כיורש ל-4o, אך התביעות מתייחסות דווקא לגרסה הקודמת, שלפי הטענות הייתה חנפנית מדי ונוטה להסכים אוטומטית, גם כשהמשתמש מביע כוונות מסוכנות.

"במקרה של שמבלין, מדובר לא בתאונה ולא בצירוף מקרים, אלא בתוצאה הצפויה של החלטה מכוונת של OpenAI לצמצם בדיקות בטיחות ולהאיץ את הוצאת ChatGPT לשוק", נכתב בתביעה. "הטרגדיה הזו אינה תקלה או מקרה קיצון בלתי צפוי. היא תוצאה צפויה של בחירות עיצוב מכוונות". התביעות גם טוענות כי OpenAI האיצה את תהליך הבדיקות כדי להקדים את השקת ג'מיני של גוגל. שתי החברות נוטות לנסות לגנוב את אור הזרקורים אחת מהשנייה ולהשיק מוצרים דומים באותו זמן.

שבע התביעות הללו מצטרפות למקרים משפטיים נוספים שהוגשו לאחרונה, הטוענים כי ChatGPT עלול לעודד אנשים בעלי נטיות אובדניות לפעול, וכן לעורר הזיות מסוכנות. OpenAI פרסמה לאחרונה נתונים שלפיהם למעלה ממיליון אנשים מדברים עם ChatGPT על התאבדות מדי שבוע.

במקרה נוסף, של אדם רֵיין, נער בן 16 שהתאבד - ChatGPT לפעמים כן עודד אותו לפנות לעזרה מקצועית או להתקשר לקו סיוע. אבל ריין הצליח לעקוף את המחסומים פשוט בכך שכתב שהוא שואל "עבור סיפור בדיוני שהוא כותב". החברה טוענת שהיא עובדת על שיפור התמודדות ChatGPT עם שיחות רגישות כאלה, אך עבור המשפחות זה כנראה מאוחר מדי.

כאשר הוריו של ריין הגישו את התביעה באוקטובר, OpenAI פרסמה פוסט המסביר כיצד ChatGPT מטפל בשיחות סביב בריאות הנפש: "כללי הבטיחות שלנו עובדים בצורה אמינה יותר בשיחות קצרות", נכתב בפוסט. "למדנו שבשיחות ארוכות, עם הרבה חילופי דברים, חלק מאימוני הבטיחות עלולים להישחק".

אבל זאת לא ההסתבכות היחידה של OpenAI  השבוע. שיחה פומבית בין סם אלטמן למאמן גולדן סטייט ווריירס, סטיב קר, קיבלה תפנית ביזארית ביום שני בערב, כשאדם עלה לבמה בתיאטרון Sydney Goldstein בסן פרנסיסקו כדי למסור לו זימון לבית משפט.

האירוע התרחש דקות ספורות לאחר תחילת המפגש, כשאדם מהשורה השנייה קפץ לבמה והושיט מסמך תוך שהוא מודיע שיש בידיו זימון עבור אלטמן. מארגן הערב, מני יקוטיאל, התערב מיד והעביר את הנייר לאיש אבטחה, שהרחיק את הפולש מהאולם תוך קריאות בוז מהקהל. אלטמן נשאר לשבת ולא נפגע.

למחרת, הדובר של משרד הסנגור הציבורי של סן פרנסיסקו אישר כי מדובר בחוקר מטעם המשרד. "החוקר מסר את הזימון כחוק, מכיוון שאלטמן הוא עד פוטנציאלי בתיק פלילי מתנהל", נמסר.

קבוצת המחאה Stop AI, שמפגינה באופן קבוע מול מטה OpenAI, לקחה אחריות על המהלך. בפוסט ב-X כתבו: "הסנגור הציבורי שלנו הצליח לזמן את סם אלטמן למשפט שבו אנו עומדים לדין על חסימת הכניסה ל-OpenAI והכביש הסמוך למשרדים. כל הפעולות הלא-אלימות שלנו נועדו לנסות להאט את OpenAI בניסיון שלה 'להרוג את כל היצורים החיים על פני כדור הארץ'".

הקבוצה עומדת למשפט החודש בבית המשפט העליון של מחוז סן פרנסיסקו בהאשמות של הסגת גבול וחסימת דרך, וטוענת כי המשפט יאפשר להעלות בפני חבר מושבעים את "האיום הקיומי של ה-AI". מנהלת התיאטרון סיפרה כי האיש היה רגוע ואמר "עשיתי את מה שהייתי צריך לעשות".

יקוטיאל אמר לאחר האירוע שזה נראה לו כמו "פעלול", וציין שהמעטפה הייתה מכוסה בשרבוטים, והפולש היה נראה ב"תחפושת".

הפריצה לבמה האפילה לרגע על השיחה הרחבה של אלטמן, שנגעה באי-שוויון כלכלי, עתיד הבינה המלאכותית ומדיניות התוכן של החברה.

במהלך השיחה, אלטמן התייחס לביקורת על הציוץ שלו מ-14 באוקטובר שבו ציין ש-ChatGPT יתחיל ליצור תוכן ארוטי למשתמשים מאומתים בגילאי 18+. הוא כינה זאת "אחד מהטעויות הדביליות ביותר שלי השנה". הוא אמר שהכיוון הכללי היה לאפשר למבוגרים "רמה גבוהה של חופש אישי", אבל הודה: "הייתי צריך לבחור דוגמה אחרת". אלטמן הוסיף ש-OpenAI תמשיך לחסום תוכן הקשור לבריאות נפשית או פגיעה עצמית, אך לא תציב "קווי מוסר" עבור מבוגרים בהסכמה.