עובדי OpenAI התריעו על החשודה בטבח בקנדה חודשים מראש – החברה החליטה שלא לדווח למשטרה
הוול סטריט ג'ורנל חשף כי כ-12 עובדים ב-OpenAI קיימו דיון פנימי בשאלה אם לדווח למשטרה על ג'סי ואן רוטסלאר, לאחר שזו תיארה תרחישי ירי ב-ChatGPT חודשים לפני שרצחה שמונה בני אדם בקנדה, בהם אמה ואחיה. למרות האזהרות קבעה הנהלת החברה כי הפעילות לא עמדה בקריטריונים של "סיכון מיידי", ורק חסמה את חשבונה מבלי לערב את הרשויות
חודשים לפני שג'סי ואן רוטסלאר, נערה טרסנג'דרית בת ה-18, הפכה לחשודה במסע ירי קטלני בטאמבלר רידג', עיירה כפרית בקולומביה הבריטית שבקנדה, עובדי OpenAI שקלו להתריע בפני רשויות אכיפת החוק על האינטראקציות המדאיגות שלה עם ChatGPT.
על פי דיווח ב"וול סטריט ג'ורנל", במהלך חודש יוני האחרון השתמשה ואן רוטסלאר ב-ChatGPT במשך כמה ימים כדי לתאר תרחישים הכוללים אלימות בנשק. פוסטים אלו זוהו על ידי מערכת הניטור האוטומטית של החברה ועוררו בהלה בקרב הצוות. בתוך החברה התפתח ויכוח פנימי שבו השתתפו כ-12 עובדים, שדנו בשאלה אם לנקוט פעולה. חלק מהעובדים פירשו את דבריה כאינדיקציה לאלימות פוטנציאלית בעולם האמיתי ודחקו בהנהלה לדווח על כך למשטרה הקנדית.
בסופו של דבר, מנהלי OpenAI החליטו שלא ליצור קשר עם הרשויות. דוברת מטעם החברה מסרה כי החשבון נחסם, אך נקבע כי הפעילות שלה לא עמדה בקריטריונים לדיווח – הדורשים הוכחה ל"סיכון אמין ומיידי לנזק פיזי חמור לאחרים". החברה הסבירה כי היא שוקלת את הסיכון לאלימות אל מול שיקולי פרטיות והמצוקה שעלולה להיגרם למעורבים בשל מעורבות משטרתית מיותרת.
ב-10 בפברואר, נמצאה ואן רוטסלאר ללא חיים בזירת הטבח בבית הספר, לאחר שככל הנראה שמה קץ לחייה. באירוע הירי נרצחו שמונה בני אדם, בהם אמה ואחיה של היורה, ולפחות 25 נפצעו. רק לאחר האירוע, יצרה OpenAI קשר עם המשטרה הרכובה המלכותית של קנדה (RCMP). "מחשבותינו עם כל מי שנפגע מהטרגדיה בטאמבלר רידג'", מסרה החברה.
טביעת רגל דיגיטלית מטרידה
תמלילי ה-ChatGPT היו רק חלק אחד מההתנהגות המדאיגה של ואן רוטסלאר ברשת. חקירת המשטרה העלתה כי היא יצרה משחק וידאו בפלטפורמת רובלוקס המדמה ירי המוני בתוך קניון. הסימולציה, שלא אושרה להפצה רחבה, אפשרה לדמות לאסוף כלי נשק שונים ולירות בדמויות אחרות.
בנוסף, פוסטים שהשתמרו ברשתות החברתיות הראו את ואן רוטסלאר מצולמת במטווח, טוענת כי ייצרה מחסנית כדורים באמצעות מדפסת תלת-ממדית, ומשתתפת בדיונים מקוונים על סרטוני יוטיוב של חובבי נשק.
היסטוריה של בעיות נפשיות
ואן רוטסלאר הייתה מוכרת למשטרה המקומית עוד לפני הטבח. שוטרים ביקרו בביתה מספר פעמים בעקבות חששות לבריאותה הנפשית, ובאחד המקרים אף החרימו זמנית כלי נשק מהמקום. באירוע אחר הוזעקו הרשויות לאחר שהציתה אש כשהייתה תחת השפעת סמים.
המקרה מעורר מחדש את הדיון הציבורי סביב האיזון שבין פרטיות משתמשים לבין ביטחון הציבור בפלטפורמות AI. בעוד שחברות כמו OpenAI טוענות שהן מפנות שיחות המבטאות כוונה להזיק לבודקים אנושיים, המקרה של טאמבלר רידג' מדגיש את הקושי בקביעת הגבול שבין "מחשבות טורדניות" לבין "סיכון מיידי".
נכון לעכשיו, צוות חקירה מיוחד בראשות הנציב דוויין מקדונל ממשיך לסרוק את פעילותה הדיגיטלית של ואן רוטסלאר ואת האינטראקציות הקודמות שלה עם גורמי בריאות הנפש כדי להבין את המניעים לטבח.