משתפים את המידע הזה עם הצ'אט? אתם עושים טעות

חשבתם אחרת? חברת אבטחת המידע והסייבר ESET מזהירה כי שימוש בצ'אטבוטים לקבלת מידע רפואי עלול להוביל להסתמכות על תשובות שגויות ולחשיפה של מידע רפואי רגיש. לפי הודעת החברה, יותר משתמשים פונים לכלי AI כדי להבין תסמינים, לפרש תוצאות בדיקות, לקבל הסברים על מונחים רפואיים או להתכונן לשיחה עם רופאים ואנשי רפואה.

"בינה מלאכותית יכולה לסייע בהבנת מושגים רפואיים, בהכנת שאלות לרופא או בקבלת מידע כללי, אבל היא לא תחליף לגורם רפואי מוסמך", אמר גיל שטרן, מנהל השיווק בקומסקיור, המפיצה הרשמית של ESET בישראל. "הבעיה היא שהצ'אטבוטים עונים לעתים בביטחון רב גם כאשר התשובה אינה מדויקת או אינה מתאימה למקרה הספציפי, ולפעמים רק מבלבלת את המשתמש במקום להציג תשובה ברורה או מציעה למשתמש לפנות לגורם רפואי אנושי".

לפי ESET, הסיכון הראשון הוא רפואי: מערכות AI עשויות לספק תשובות שנשמעות בטוחות ומשכנעות, גם כשהן לא מדויקות, חסרות הקשר רפואי חשוב או לא מתאימות למקרה של המשתמש. בתחום הבריאות, הסתמכות על תשובה כזו עלולה להוביל לדחיית פנייה לרופא או להתעלמות מתסמינים שמחייבים טיפול.

מחקר של אוניברסיטת אוקספורד שפורסם ב-Nature Medicine, חושף שמשתמשים לא תמיד יודעים איזה מידע לשתף עם מודלי AI. עוד נמצא כי המודלים עשויים לספק תשובות שונות מאוד גם כשהשאלות משתנות רק במעט, וכי במקרים מסוימים הם משלבים עצות מועילות עם עצות בעייתיות באופן שמקשה על המשתמשים להבחין ביניהן.

הסיכון השני הוא פרטיות. משתמשים עלולים להזין לצ'אט מידע רפואי חסוי ואישי כמו תסמינים, תוצאות בדיקות, מסמכים רפואיים, פרטי ביטוח או פרטים מזהים. ב-ESET מדגישים כי בניגוד לפרטי כרטיס אשראי שאפשר לבטל או להחליף, מידע רפואי מלווה את האדם לאורך חייו, ואם הוא נשמר, מועבר לצדדים שלישיים או נחשף בדליפת מידע, הנזק עלול להיות ממושך וקשה לתיקון.

"לא להעלות לצ'אט עם ה-AI מסמכים רפואיים, תוצאות בדיקות או מידע מזהה לפני שמבינים כיצד המערכת מטפלת במידע", המליץ שטרן. לדבריו, מומלץ להימנע מהזנת שם מלא, כתובת, מספר תעודת זהות, פרטי ביטוח או מספר מטופל, לשתף רק את המידע המינימלי הדרוש, ועדיף לנסח שאלות בצורה כללית ולא פרטנית אישית. הוא הוסיף כי כדאי לבדוק אם אפשר לכבות שימוש בהיסטוריית השיחות או באימון המודל, ולהעדיף שירותים שמסבירים בבירור איך הם מגנים על פרטיות המשתמשים.

ב-ESET מוסיפים כי אין להתייחס לתשובות של צ'אטבוטים כאל אבחנה רפואית, גם אם הן מנוסחות בביטחון או כוללות קישורים למקורות. אפשר להשתמש בכלי AI כדי להבין מונחים רפואיים, לנסח שאלות לרופא או לקבל רקע כללי, אבל החלטות רפואיות צריכות להתבסס על גורם מקצועי מוסמך או על מקור רפואי רשמי. במקרה של תסמינים חריגים או דחופים, אין להסתמך על מענה אוטומטי ויש לפנות לטיפול רפואי מתאים.

נציין כי ישנם דוגמאות רבות להצלחה של ה-AI בתחום. למשל בבית החולים "מיו קליניק" (Mayo Clinic), נערך מחקר שבו התגלה כי ה-AI ידע לזהות סימנים לסרטן הלבלב, מהמחלות הקטלניות והקשות ביותר לאבחון, כשלוש שנים לפני שרופאים רדיולוגים הצליחו להבחין בגידול בסריקות. גם בישראל ישנן הצלחות מסחררות: במרכז הרפואי לגליל בנהריה, מערכת ישראלית בשם Viz.ai פענחה בזמן אמת סריקת CT מוח של מטופל, זיהתה דימום תוך-מוחי, ושלחה אוטומטית הודעת חירום למנתחים. הפעולה המהירה, שהתרחשה כולה בזכות בינה מלאכותית, הצילה את חייו.

אתמול דווח כי אנת'רופיק, החברה שמאחורי קלוד, הודיעה באירוע The Briefing: AI for Science כי היא נכנסת עמוק יותר לעולם הפארמה: לצד Claude Science, סביבת עבודה חדשה למדענים, החברה אמרה כי היא מתכננת לפתח תרופות בעצמה. לפי הדיווח ב-The Verge, ראש תחום מדעי החיים בחברה, אריק קאודרר-אברמס, אמר שהמיקוד יהיה במציאת טיפולים למחלות "מוזנחות".