קיבלתם מ-OpenAI בקשה לאמת את הגיל שלכם? זו הסיבה

בימים האחרונים משתמשים ישראלים קיבלו מייל מ-OpenAI, שבמחשבה ראשונה יכול היה להיות פישינג, אבל לא, הוא אמיתי לגמרי.

במייל נכתב באנגלית: "מכיוון שהחשבון שלך מצביע על כך שאתם מתחת לגיל 18, התאימו עבורכם כמה הגדרות כדי ליצור חוויה בטוחה יותר. רוב השימוש שלך ב-ChatGPT יישאר זהה, אבל חלק מהנושאים הרגישים והאינטראקציות עשויים להיות מוגבלים.

"אם אתם בני 18 או יותר, תוכלו לאמת את גילך כדי לקבל גישה לכל התכונות של ChatGPT. לשם כך תתבקשו להעלות צילום של תעודה מזהה ממשלתית או לצלם סלפי קצר - הכל מטופל בצורה מאובטחת על ידי שותף האימות שלנו, Persona".

לצ'אט אין באמת אפשרות לדעת בני כמה אתם, וגם משתמשים שאינם קטינים (כמו כותבת שורות אלו) קיבלו את המייל הזה. לחיצה על הקישור מובילה אתכם לצ'אט. אם תרצו להוכיח שאתם מעל גיל 18 - תתבקשו לצרף צילום תעודת זהות או לעשות צילום סלפי.

אז למה זה בעצם קורה?

ב-16.9 הודיעה OpenAI, מפתחת ChatGPT, על פיצ’רי בטיחות חדשים לבני נוער, כולל מערכת לחיזוי גיל ואימות גיל באמצעות תעודה במדינות מסוימות. 

ההכרזה פורסמה שעות ספורות לפני דיון בוועדת המשפט של הסנאט בנושא פוטנציאל הפגיעה של צ'אטבוטים מבוססי AI, בעקבות התביעה של משפחתו של אדם ריין בן ה-16 נגד OpenAI על כך שהצ'אט עודד אותו לשים קץ לחייו, שאחריה הגיעו תביעות נוספות ממשפחות.

בפוסט בבלוג, מנכ"ל OpenAI סם אלטמן תיאר את המורכבות שבאיזון בין חופש לבטיחות, וכתב: "אנחנו נותנים עדיפות לבטיחות על פני פרטיות וחופש כשמדובר בבני נוער. זו טכנולוגיה חדשה ועוצמתית, ואנחנו מאמינים שקטינים צריכים הגנה משמעותית".

אלטמן כתב שהחברה עובדת על מערכת שתמיין אוטומטית משתמשים לאחת משתי גרסאות: גרסה לבני 13 עד 17, וגרסה למבוגרים בני 18 ומעלה.

"אם יש ספק, ננקוט בגישה זהירה ונעבור אוטומטית לחוויית המשתמש שמתחת לגיל 18", כתב. "במקרים או במדינות מסוימות נבקש גם תעודה מזהה. אנחנו מבינים שזה פוגע בפרטיות של מבוגרים, אבל חושבים שזה שווה את המחיר".

לאחר בדיקת הגיל, ChatGPT יחיל "כללים שונים לבני נוער", אמר אלטמן, כולל הימנעות משיח מפלרטטני גם אם מבקשים זאת מהצ'אט, ואי הסכמה לשוחח על התאבדות או פגיעה עצמית, גם במסגרת כתיבה יצירתית.

"אם משתמש מתחת ל-18 מביע מחשבות בנוגע לפגיעה בעצמו, ננסה ליצור קשר עם הוריו, ואם לא נצליח - נפנה לרשויות במקרה של סכנה מיידית", אמר אלטמן.

נוסף לכך, לאחרונה אלטמן דיבר על כך שמנוע כלכלי עתידי של החברה יהיה הכנסת שיחות ארוטיות לצ'אט, כך שייתכן שמדובר בהכנת הקרקע למהלך.