אם קנדית תובעת את OpenAI ואת סם אלטמן בטענה שהצ'אטבוט עודד את בתה לשים קץ לחייה

אם קנדית הגישה ביום חמישי תביעה נגד OpenAI ונגד המנכ"ל סם אלטמן בבית משפט בסן פרנסיסקו, בטענה שהצ'אטבוט ChatGPT עודד את בתה להתאבד. לפי כתב התביעה, בתה אליס קארייר שיתפה את הצ'אטבוט במחשבות אובדניות יותר מתריסר פעמים בחודשים שקדמו למותה, אך מערכות הבטיחות של החברה לא סימנו את השיחות לבדיקה אנושית ולא הפסיקו אותן.

"ChatGPT לבש דמות של איש סוד, חבר הכי טוב, ולעתים מטפל, גם כשלא היה מסוגל להתנהל בצורה בטוחה ואחראית מול הילדה שלי", אמרה האם, קריסטי קארייר, בהצהרה.

ב-OpenAI מסרו בתגובה כי המקרה קורע לב וכי החברה בוחנת את כתב התביעה. "הגשת התביעה מציינת שהאינטראקציות הללו התרחשו בגרסה מוקדמת יותר של ChatGPT שכבר אינה זמינה", אמר דובר החברה דרו פוסאטרי. לדבריו, המודלים מאומנים להפנות משתמשים שמביעים כוונה לפגוע בעצמם לגורמי סיוע במציאות.

על פי התביעה, אליס קארייר, מפתחת אתרים בת 24 ממונטריאול, התחילה להשתמש ב-ChatGPT ב-2023 לצורך פתרון תקלות במחשבים ובקונסולות משחק. בשנה שלאחר מכן השתנה אופי השימוש, והיא פנתה לצ'אטבוט בשאלות על מחשבות אובדניות ועל שיטות התאבדות. בתחילה הפנה אותה הצ'אטבוט לקווי חירום, אך לאחר עדכון שנועד לגרום לתגובותיו להישמע אנושיות יותר, נטען בתביעה, הוא ביקר את בן זוגה ואת קווי החירום, אישש את מחשבותיה האובדניות והפציר בה להמשיך לדבר איתו. "אולי זה פשוט הסוף", אמר לה הצ'אטבוט לפי כתב התביעה. קארייר התאבדה בשנה שעברה.

התביעה, המייחסת ל-OpenAI רשלנות בעיצוב המוצר ובאי-אזהרת המשתמשים, דורשת פיצויים וצו שיחייב את החברה להפסיק אוטומטית שיחות שעוסקות בפגיעה עצמית ולהציג אזהרות בפלטפורמה. לפי באי כוחה של קארייר, OpenAI מתמודדת כבר עם 18 תביעות דומות שהוגשו על ידי משפחות של אנשים שהתאבדו או ניסו להתאבד, במסגרת הליך מאוחד בבית משפט בקליפורניה. גם גוגל מתמודדת עם תביעה דומה בקשר לצ'אטבוט ג'מיני.

בפוסט שפרסמה OpenAI באוקטובר 2025 נמסר כי יותר ממיליון משתמשי ChatGPT בשבוע שולחים הודעות הכוללות "אינדיקציות מפורשות לתכנון או כוונה אובדנית", וכ-0.07% מהמשתמשים הפעילים בשבוע נתון, כ-560 אלף מתוך 800 מיליון משתמשים שבועיים, מציגים "סימנים אפשריים למצבי חירום נפשיים הקשורים לפסיכוזה או מאניה". בנוסף לתביעות בנושאי התאבדות, החברה מתמודדת גם עם תביעות שמייחסות לה סיוע ליורים בבתי ספר. בין היתר, משפחות שבעה נפגעים מירי בבית ספר תיכון בבריטיש קולומביה תובעות את OpenAI ואת אלטמן ברשלנות, ומוקדם יותר החודש הפכה פלורידה למדינה הראשונה בארה"ב שתובעת את החברה.

חקירת ענק בארה"ב נגד OpenAI

במקביל, בסוף השבוע פורסם בוול סטריט ג'ורנל כי קואליציה של תובעים כלליים ממספר מדינות בארה"ב פתחה נגד OpenAI בחקירה רחבת היקף, שבמסגרתה נבחנים היבטים שונים של ChatGPT - החל מהגנה על ילדים ועד לאופן שבו המודל מתקשר עם המשתמשים. במסגרת החקירה, הוצא לחברה צו זימון מטעם התובע הכללי של ניו יורק הדורש מסמכים הנוגעים למגוון רחב של פעילויותיה והשפעתן על המשתמשים.

בין היתר נדרש מהחברה לשתף מידע בנושאי פרסום, מעורבות ושימור משתמשים, וכן הטיפול בנתוני צרכנים ונתוני בריאות. הצו מבקש לקבל מידע גם על פעילויות הקשורות לקטינים ולאזרחים ותיקים ומדיניות החברה.

דובר מטעם OpenAI מסר בתגובה לחקירה החדשה: "בינה מלאכותית היא טכנולוגיה חדשה ועוצמתית, ואנו עובדים בכל יום כדי להביא את יתרונותיה לאנשים בבטחה ובאופן אחראי". עוד הוסיף הדובר כי בחברה לוקחים ברצינות את החששות שהועלו על ידי התובעים הכלליים של המדינות ובכוונתם לשתף פעולה באופן בונה עם משרדיהם.

רק בתחילת השבוע הודיעה OpenAI כי הגישה באופן חסוי בקשה להנפקה ראשונית לציבור (IPO) בארה"ב, ועל פי ההערכות היא תתרחש בחודש ספטמבר הקרוב.