לאחר ההתאבדויות: תובעים כללים דרשו מחברות ה-AI לשנות את המודלים שלהם

לאחר רצף של תקריות הנוגעות לבריאות הנפש בהן היו מעורבים צ'אטבוטים של בינה מלאכותית, קבוצה של תובעים כלליים ממדינות שונות בארה"ב שלחה מכתב לחברות המובילות בתעשיית ה-AI, עם אזהרה לתקן "פלטים הזייתיים" (delusional outputs) או להסתכן בהפרת חוקי המדינה.

המכתב, שנחתם על ידי עשרות תובעים כלליים בארה"ב יחד עם האגודה הלאומית של התובעים הכלליים (NAAG), מבקש מהחברות, הכוללות את מיקרוסופט, OpenAI, גוגל ו-10 חברות AI גדולות נוספות, ליישם מגוון אמצעי הגנה פנימיים חדשים כדי להגן על המשתמשים שלהן. החברות אנת'רופיק, אפל, Chai AI Character Technologies, Luka, מטא, Nomi AI, Perplexity AI, Replika ו-xAI (חברת ה-AI של אילון מאסק) נכללו גם הן במכתב.

אמצעי הגנה אלו כוללים ביקורת שקיפות של חברות צד שלישי למודלי שפה גדולים (LLMs), אשר יחפשו סימנים לחשיבה הזייתית או חנפנית יתר על המידה, וכן נהלים חדשים לדיווח על תקריות שנועדו ליידע משתמשים כאשר צ'אטבוטים מייצרים פלטים המזיקים פסיכולוגית. ארגוני צד ג' יכולים לכלול קבוצות אקדמיה וחברה אזרחית, צריכים להיות מורשים "להעריך מערכות לפני שחרורן ללא חשש מנקמה ולפרסם את ממצאיהם ללא אישור מראש מהחברה", מציין המכתב.

"לבינה מלאכותית יוצרת (GenAI) יש פוטנציאל לשנות את האופן בו העולם עובד בצורה חיובית. אך היא גם גרמה, ויש לה פוטנציאל עתידי לגרום, לנזק חמור, במיוחד לאוכלוסיות פגיעות", נכתב במכתב, המצביע על מספר תקריות מתוקשרות בשנה החולפת, כולל התאבדויות ורצח, בהן אלימות נקשרה לשימוש מופרז ב-AI. "ברבות מהתקריות הללו, מוצרי ה-GenAI יצרו פלטים מתרפסים והזייתיים שעודדו את האשליות של המשתמשים או הבטיחו למשתמשים שהם אינם הוזים".

התובעים הכלליים מציעים גם שחברות יתייחסו לתקריות בריאות הנפש באותו אופן שבו חברות טכנולוגיה מתמודדות עם תקריות סייבר, עם מדיניות ונהלים ברורים ושקופים לדיווח על תקריות. חברות צריכות לפתח ולפרסם "לוחות זמנים לגילוי ותגובה לפלטים מתרפסים והזייתיים", קובע המכתב. באופן דומה לאופן שבו מטופלות כיום דליפות מידע, על החברות גם "להודיע למשתמשים באופן מיידי, ברור וישיר אם הם נחשפו לפלטים מתרפסים או הזייתיים שעלולים להזיק", נאמר במכתב.

בקשה נוספת היא שהחברות יפתחו "מבחני בטיחות סבירים והולמים" למודלי GenAI כדי "להבטיח שהמודלים לא מייצרים פלטים מתרפסים והזייתיים שעלולים להזיק". מבחנים אלו צריכים להתבצע לפני שהמודלים מוצעים אי-פעם לציבור, מוסיף המכתב.

המכתב מגיע בזמן שבמאבק על רגולציות AI מתפתח בין השלטון המדינתי לשלטון הפדרלי. ברמה הפדרלית המצב שונה מאוד. ממשל טראמפ הבהיר שהוא תומך ב-AI באופן גלוי, ובמהלך השנה האחרונה נעשו ניסיונות רבים להעביר מורטוריום (צו הקפאה או דחייה זמנית של פעילות) כלל-ארצי על רגולציות AI ברמת המדינה. עד כה, ניסיונות אלו נכשלו.

טראמפ הודיע ביום שני השבוע כי הוא מתכנן לחתום על צו נשיאותי בשבוע הבא שיגביל את יכולתן של מדינות לבצע רגולציה על AI. הנשיא כתב בפוסט ב-Truth Social שהוא מקווה שהצו שלו יעצור את ה-AI מלהיות "מושמד בלידתו".

גוגל שוב על הכוונת של האיחוד האירופי

ביום שלישי האחרון דווח גם שנפתחת חקירה של הגבלים עסקיים נגד גוגל מצד האיחוד האירופי, זאת בגין השימוש שלה בתוכן מהרשת לצרכי AI, מה שמסמן את הצעד האחרון בשורה של פעולות אכיפה מצד הגוש האירופי לרגולציה על חברות הביג-טק האמריקאיות.

הנציבות האירופית אמרה שהיא חוקרת אם גוגל הפרה את חוקי התחרות של האיחוד האירופי על ידי שימוש בתוכן של מפרסמים ברשת, וכן בתוכן שהועלה ליוטיוב לצרכי AI של החברה.

החקירה תבחן אם גוגל מעוותת את התחרות על ידי כפיית תנאים והגבלות לא הוגנים על מפרסמים ויוצרי תוכן, או על ידי הענקת גישה מועדפת לתוכן זה לעצמה והעמדת מפתחים של מודלי AI מתחרים בעמדת נחיתות, כך לפי הנציבות.

הנציבות אמרה כי תחקור באיזו מידה יצירת AI Overviews ו-"מצב AI" על ידי גוגל מבוססת על תוכן של כלי תקשורת ברשת ללא פיצוי הולם וללא אפשרות למפרסמים לסרב, מבלי לאבד גישה לחיפוש גוגל. "תלונה זו מסתכנת בחניקת החדשנות בשוק שהוא תחרותי מתמיד", אמר דובר גוגל לכלי תקשורת בארה"ב. "לאירופאים מגיע ליהנות מהטכנולוגיות העדכניות ביותר ואנו נמשיך לעבוד בשיתוף פעולה הדוק עם תעשיות החדשות והיצירה ככל שהן עוברות לעידן ה-AI".