מעל 370 אלף שיחות עם גרוק דלפו בגוגל - גם "איך לרצוח את מאסק"

חברת הבינה המלאכותית של אילון מאסק, xAI, פרסמה תמלולים של מאות אלפי שיחות בין הצ'אטבוט שלה גרוק, לבין משתמשים, ובמקרים רבים, מבלי שהמשתמשים ידעו על כך או נתנו את הסכמתם.

בכל פעם שמשתמש בגרוק לחץ על כפתור ה"שתף" בשיחה עם הבוט, נוצרת כתובת URL ייחודית המאפשרת לו לשתף את השיחה באימייל, בהודעה או בכל דרך אחרת. אך מה שהמשתמשים לא ידעו הוא שהקישור הזה נגיש גם למנועי חיפוש כמו גוגל, בינג ו-DuckDuckGo - מה שאומר שהשיחות פתוחות לחיפוש על ידי כל אדם באינטרנט. במילים אחרות, לחיצה על "שתף" בצ'אטבוט שקולה לפרסום השיחה באתר של גרוק, זאת מבלי לתת אזהרה או גילוי נאות למשתמש.

הדיווח הגיע מאתר פורבס, ונכון ליום חמישי, חיפוש בגוגל מגלה שמנוע החיפוש אינדקס (להכניס דף אינטרנטי למאגר) מעל 370,000 שיחות בין משתמשים לצ'אט. בין השיחות שפורסמו: משימות עסקיות פשוטות כמו ניסוח ציוצים, יצירת תמונות של מתקפת טרור בקשמיר, ועד ניסיונות לפרוץ לארנקי קריפטו. בפורבס עברו על שיחות שבהן משתמשים שאלו שאלות אינטימיות בנושאי רפואה ופסיכולוגיה - חלקם אף חשפו שם, פרטים אישיים ולפחות סיסמה אחת. גם קבצים, גיליונות אלקטרוניים ומסמכים טקסטואליים שהועלו לבוט היו זמינים דרך עמוד השיתוף של גרוק.

לא כל השיחות היו תמימות. חלקן היו מיניות, גזעניות והפרו את כללי השימוש של xAI. החברה אוסרת להשתמש בבוט כדי "לעודד פגיעה חמורה בבני אדם" או לפתח נשק כימי, ביולוגי או להשמדה המונית. למרות זאת, שיחות שפורסמו וניתן למצוא בקלות בגוגל כללו הוראות לייצור פנטניל ומת'אמפטמין, כתיבת קוד לתוכנות זדוניות, בניית פצצות ואפילו שיטות התאבדות. גרוק אף סיפק תוכנית מפורטת לרצח של אילון מאסק. כל ההוראות האסורות האלה פורסמו באתר של גרוק באמצעות פונקציית השיתוף ואונדקסו בגוגל.

בין השיחות שנחשפו נמצאו גם כאלה שיזם העיתונאי הבריטי אנדרו קליפורד, שהשתמש בגרוק לסכם שערי עיתונים ולנסח ציוצים לאתר שלו. קליפורד אמר לפורבס שהוא לא היה מודע לכך שלחיצה על כפתור השיתוף תאפשר לגוגל לאנדקס את השיחות. "הייתי קצת מוטרד, אבל לא היה שם משהו שצריך להסתיר", והוסיף שהוא עבר להשתמש בג'מיני של גוגל.

חשוב לציין ש-xAI אינה היחידה שפרסמה שיחות משתמשים. בתחילת החודש, משתמשים ב-ChatGPT של OpenAI גילו שהשיחות שלהם הופיעו בתוצאות החיפוש של גוגל, למרות שהם בעצמם סימנו את השיחות כ"ניתנות לגילוי". בעקבות הסערה, OpenAI שינתה מדיניות. מנהל אבטחת המידע של החברה, דיין סטאקי, קרא לזה "ניסוי קצר" והודיע שהוא הופסק כי הוא "יצר יותר מדי הזדמנויות לשיתוף מידע רגיש בטעות".

לאחר ש-OpenAI ביטלה את אפשרות השיתוף, מאסק חגג. חשבון ה-X של גרוק טען אז שלא קיימת אפשרות שיתוף כזו, ומאסק צייץ בתגובה: "גרוק ftw" (גרוק מנצח). לא ברור מתי נוספה אפשרות השיתוף, אך משתמשים ברשת X התריעו כבר בינואר על כך ששיחות גרוק מופיעות בגוגל.

חלק מהשיחות שבהן גרוק התבקש להסביר כיצד מייצרים סמים או פצצות כנראה הגיעו מאנשי אבטחת מידע. אך גם חוקרי AI מקצועיים נפלו בפח. ניית'ן למברט, מדען מהמכון לבינה מלאכותית של אלן, השתמש בגרוק לסכם פוסטים מהבלוג שלו עבור הצוות - ונדהם לגלות מפורבס שהשיחה שלו נכנסה לגוגל. "הופתעתי שגרוק שיתף שיחות עם הצוות שלי באינטרנט, בלי שום אזהרה, במיוחד אחרי הפרשה עם ChatGPT".

גוגל מאפשרת לבעלי אתרים לבחור כיצד ואילו עמודים יאונדקסו. "למפרסמים יש שליטה מלאה על האם ואיך העמודים שלהם מתאנדקסים", אמר דובר גוגל נד אדריאנס. גם גוגל עצמה אפשרה בעבר לאנדקס שיחות עם בוט ה-AI שלה Bard (הגלגול הקודם של ג'מיני), אך הסירה אותן מהחיפוש ב-2023. לפי דיווח של ביזנס אינסיידר, מטא עדיין מאפשרת לאנדקס חיפושים משותפים. xAI לא הגיבה לפניית פורבס לקבלת תגובה.