הבינה המלאכותית נכנסת למערכת הבריאות: "הפעם ישראל בפיגור"

הבינה המלאכותית כבר משנה את מערכות הבריאות, אבל בישראל היא עדיין רחוקה ממיצוי הפוטנציאל שלה. בזמן שבארה"ב רופאים נעזרים בכלים שמאזינים לשיחות עם מטופלים, מתעדים ביקורים ומסכמים תיקים רפואיים באופן אוטומטי, בישראל הטכנולוגיה עדיין לא הפכה לחלק משגרת העבודה במרפאות.

במקביל, קופות החולים מפתחות מודלים שמסייעים באבחון מוקדם ובבחירת טיפולים, הרופאים מחפשים דרכים לחסוך זמן באמצעות כלי AI חיצוניים, ומומחי אבטחת מידע מזהירים מפני חשיפת מידע רפואי רגיש. השאלה כבר אינה אם הבינה המלאכותית תשנה את הרפואה, אלא איך עושים את זה בלי לפגוע במטופלים.

בשלב הנוכחי, הבינה המלאכותית אינה מחליפה את המומחיות הקלינית של הרופא. היא מתמקדת בעיקר בעיבוד כמויות עצומות של מידע, קיצור זמני תיעוד אדמיניסטרטיביים, סיוע באבחון מוקדם ותמיכה בקבלת החלטות.

"הבינה המלאכותית כבר משתלבת במכבי במספר רבדים: בשירות לחברים, בתהליכי העבודה של הצוותים הרפואיים, בתמיכה באבחון ובקבלת החלטות ובפיתוח יכולות מתקדמות לרפואה מותאמת אישית", מסבירה ל-mako ד"ר מיכל צוכמן כץ, סמנכ"לית חדשנות ומחקר במכבי שירותי בריאות.

"בצד השירותי אנחנו משלבים יכולות AI שמאפשרות לחברים לקבל מידע, לאתר שירותים ולתקשר עם המערכת באופן פשוט ונגיש יותר. בצד הקליני אנחנו משלבים כלים המסייעים בתהליכי אבחון, ובמקביל מפתחים מודלים שמאפשרים לזהות אוכלוסיות בסיכון למחלות ולפעול באופן יזום למניעה ולאבחון מוקדם".

אחד היתרונות המשמעותיים של הטכנולוגיה הוא היכולת להתמודד עם כמויות מידע שאף רופא, מנוסה ככל שיהיה, אינו יכול לעבד לבדו. רופא מכיר את המטופל שמולו, את ההיסטוריה שלו ואת התסמינים שהוא מציג, אבל הוא אינו מסוגל להשוות בזמן אמת עשרות שנות היסטוריה רפואית לנתונים של אלפי מטופלים אחרים. כאן נכנסת הבינה המלאכותית לתמונה: היא יכולה לעבור על מידע מצטבר, לזהות דפוסים ולהציג לרופא נתונים שעשויים להשפיע על ההחלטה הקלינית.

דוגמה מעשית לכך היא מודל שפיתחה מכבי בשיתוף חוקרי הטכניון, שמסייע לרופאים לבחור אנטיביוטיקה לטיפול בזיהומים בדרכי השתן עוד לפני קבלת תוצאות התרבית. במקום להמתין לתוצאות המעבדה ואז לגלות שהטיפול שניתן אינו מתאים, המערכת מספקת לרופא המלצה בזמן אמת, על בסיס המידע הזמין.

"ההמלצה מופיעה לרופא ישירות בתיק הרפואי בזמן קבלת ההחלטה, והשימוש במודל הביא לירידה של כשליש במקרים שבהם נדרשה החלפת אנטיביוטיקה בשל עמידות חיידקית", מספרת צוכמן כץ. "התפקיד של הרופא לא נעלם, הוא מתעצב מחדש. פחות זמן על איסוף וסינון מידע, יותר זמן על שיקול דעת ועל המטופל עצמו".

למכבי יש יתרון נוסף: היקף המידע הרפואי שנצבר אצלה לאורך השנים. "למכבי יש מידע רפואי על כ-2.8 מיליון חברים לאורך יותר משלושה עשורים, תשתיות מחקר ומחשוב מתקדמות ובעיקר, היכולת לפתח כלי, לבדוק אותו ולהכניס אותו לשימוש במרפאות, הכל באותו מקום", אומרת צוכמן כץ. "זה בדיוק מה שמושך אלינו חוקרים מובילים".

אלא שככל שהיכולת להשתמש במידע הזה גדלה, כך גדלה גם האחריות. "המידע הרפואי הוא קודם כל פיקדון של הציבור בידינו, והפוטנציאל תלוי באמון שנעשה בו שימוש אחראי ומוגן", היא מדגישה.

"הפעם אנחנו בפיגור": ישראל מאבדת את היתרון

למרות מאגרי המידע והניסיון שצברה מערכת הבריאות הישראלית בתחום הדיגיטלי, לא כולם משוכנעים שישראל נמצאת במקום שבו היא אמורה להיות. פרופ' ורדה שלו, שותפה-מנהלת בקרן Team8, מצביעה על פער הולך וגדל בין ישראל לארה"ב בכל הנוגע להטמעת כלי AI בשגרת העבודה הרפואית.

לדבריה, השימוש הנפוץ כיום בטכנולוגיה מתרכז בעיקר בתחומים כמו רדיולוגיה ופתולוגיה, וגם שם הוא נעשה תוך שמירה על פיקוח אנושי. אלא שבשגרת המרפאות, שבה רופאים נדרשים להתמודד עם עומס תיעוד, מידע רב וזמן מוגבל לכל מטופל, ישראל עדיין לא אימצה כלים שכבר נמצאים בשימוש במקומות אחרים.

"ישראל הייתה במשך שנים חלוצה בתחום הבריאות הדיגיטלית, ומהראשונות להטמיע תיקים רפואיים ממוחשבים בקנה מידה רחב. אלא שבכל הנוגע לאימוץ AI בעבודה הקלינית השוטפת, אנחנו דווקא נמצאים מאחור", אומרת שלו. "בארה"ב כבר נעשה שימוש בכלים שמאזינים לשיחה בין הרופא למטופל, מתעדים את הביקור ומסכמים מידע רפואי באופן אוטומטי. בישראל הכלים האלה עדיין כמעט אינם חלק משגרת העבודה, וזה צריך להדליק נורת אזהרה. בעבר הרעב לטכנולוגיה גרם לנו להיות ראשונים, והפעם אנחנו בפיגור. בשום פנים אסור לנו להישאר מאחור".

המשמעות של הפער אינה רק נוחות או חיסכון בזמן. שלו סבורה שהיתרון הגדול של הבינה המלאכותית נמצא ביכולת שלה לשפר את הטיפול בכלל המטופלים, ולא רק לזהות מקרה חריג שרופא מסוים פספס.

"יש לי מטופלים שאני מלווה כבר 30 שנה, ולאורך השנים הצטבר בתיק שלהם מידע רב שנכתב בידי רופאים שונים. ה-AI יכול לעבור על כל המידע הזה ולהציף ממצאים שאחרת היו עלולים ללכת לאיבוד בין הכיסאות", היא מסבירה.

המידע הרפואי של מטופל אינו תמיד מרוכז במקום אחד או כתוב באותה שפה מקצועית. הוא מצטבר לאורך ביקורים, בדיקות, הפניות וחוות דעת של רופאים שונים. לפעמים פרט שנראה שולי בביקור אחד מקבל משמעות רק כשהוא נבחן לצד נתונים שנאספו שנים קודם לכן. הבינה המלאכותית יכולה לחבר בין חלקי המידע האלה ולהציג לרופא תמונה רחבה יותר.

שלו מזכירה בהקשר הזה כלי שפותח במכבי לפני שנים, לזיהוי סיכון לסרטן המעי הגס על בסיס בדיקות דם שגרתיות. מבחינתה, זאת דוגמה ליכולת של מערכות כאלה לזהות סימנים מוקדמים מתוך נתונים שכבר נמצאים במערכת, גם כשאיש אינו מחפש בהכרח את המחלה באותו רגע.

לצד היתרון הקליני, היא מצביעה על פוטנציאל נוסף: צמצום פערים במערכת הבריאות. "יש כאן הזדמנות להגברת השוויון לאוכלוסיות מתקשות, כי המערכות יכולות לגשר על פערי שפה, מוגבלויות ונגישות למידע רפואי מורכב", היא אומרת.

הרופאים מחפשים קיצורי דרך, והמידע הרפואי עלול להיחשף

ככל שהבינה המלאכותית הופכת לכלי עבודה שימושי יותר, מערכת הבריאות מתמודדת עם בעיה חדשה: עובדים שמשתמשים בכלי AI חיצוניים בלי אישור הארגון. התופעה מכונה "בינת צללים" (Shadow AI), והיא אינה ייחודית למערכת הבריאות, אבל כאן המחיר של טעות עלול להיות גבוה במיוחד.

כאשר הכלים הרשמיים אינם זמינים, מסורבלים או חסומים, רופאים ואנשי צוות עשויים לפנות לאפליקציות בטלפון הפרטי או לשירותים פתוחים ברשת כדי לסכם תיקים, לנסח מסמכים, לחפש מידע או להתייעץ. הבעיה היא שבמקרים כאלה מידע רפואי חסוי עלול להגיע לשרתים חיצוניים, בלי שהארגון יודע מה הועבר אליו או כיצד נעשה בו שימוש.

איתי שוורץ, מייסד-שותף וסמנכ"ל הטכנולוגיות של חברת MIND Security, אומר שהשינוי המשמעותי ביותר שמביאה הבינה המלאכותית אינו בהכרח היכולת לפענח הדמיות או לסכם ביקורים, אלא הנגישות החדשה למידע.

"הבינה המלאכותית כבר מסייעת בפענוח הדמיות, בסיכום תיקים רפואיים ובתיעוד ביקורים. אבל בעיניי, השינוי הגדול ביותר הוא דווקא בנגישות למידע", הוא מסביר. "פרט רפואי שהיה קבור בתוך תיק של מאות עמודים יכול היום להופיע בתשובה לשאלה אחת. זה יכול לחסוך לרופאים זמן יקר, אבל גם לחשוף מידע שלא בהכרח היה אמור להיות נגיש".

הסיכון אינו מחייב פריצה למערכת או השתלטות על חשבון. לפעמים המידע זמין למערכת הבינה המלאכותית פשוט משום שהעובד שמשתמש בה מחזיק בהרשאות רחבות מדי.

שוורץ מביא כדוגמה מקרה מאחד מבתי החולים בארה"ב שהחברה עובדת איתם. "זיהינו מקרה שבו Copilot, עוזר הבינה המלאכותית הארגוני, ניגש בשם עובד לקובץ שהכיל יותר ממאה פרטי מידע אישי. הוא לא פרץ למערכת, אלא השתמש בגישה שכבר הייתה לעובד, גם אם היא הייתה רחבה מדי".

בארגון בריאות אחר, לדבריו, נמצאו מסמכים שכללו מספרי תיקים רפואיים והיו זמינים באמצעות קישורי שיתוף פתוחים. אלה דוגמאות לאופן שבו כלי AI עשוי להפוך בעיית הרשאות קיימת לבעיה משמעותית הרבה יותר: הוא מסוגל למצוא ולרכז מידע במהירות, גם כאשר העובד עצמו לא היה מגיע אליו בדרך הרגילה.

התגובה הארגונית המתבקשת לכאורה היא לאסור שימוש בכלים שאינם מאושרים. אלא ששוורץ סבור שמדיניות כזאת לא בהכרח תפתור את הבעיה, משום שהעובדים ימצאו דרכים לעקוף אותה.

"אי אפשר לצפות מרופא שמצא כלי שחוסך לו זמן להפסיק להשתמש בו רק בגלל הודעת איסור במייל. הוא עלול לעבור לחשבון אישי או למכשיר פרטי, ושם הארגון מאבד חלק מיכולת הפיקוח שלו", הוא אומר.

הנתונים שאספה החברה ממערכת בריאות אחת ממחישים את הבעיה. "בדקנו 104 אירועים של העברת מידע רגיש ל-AI: ב-94 מהם משתמשים בכלי הארגוני המאושר, ועשרת הנותרים היו בכלי ציבורי, וכולם הגיעו מעובד אחד. רוב העובדים לא מחפשים לעקוף נהלים, אבל מספיק משתמש אחד כדי ליצור סיכון משמעותי".

גם פרופ' שלו מתנגדת לחסימה גורפת. לדבריה, מתוך חשש לחשיפת מידע, משרד הבריאות חסם את הגישה לכלי AI פתוחים במערכות הארגוניות. אלא שההגבלה אינה מבטיחה שהרופאים יפסיקו להשתמש בהם, אלא עלולה לדחוף אותם לפתרונות פרטיים שקשה יותר לפקח עליהם.

"ללחוץ על הברקס זה הפתרון הקל, אבל זו במידה רבה עצימת עיניים שדוחפת רופאים למצוא דרכים עקיפות בטלפון האישי. על המדינה וקופות החולים למצוא פתרונות שיאפשרו גישה לכלי התייעצות בסביבה מאובטחת", היא אומרת.

הבינה המלאכותית יכולה לפספס סרטן, והרופא יכול לפספס אותו גם

לצד סוגיית אבטחת המידע, ישנה שאלה קלינית בסיסית יותר: עד כמה אפשר לסמוך על המערכת? גם הכלים המתקדמים ביותר אינם חסינים מטעויות, ובתחום הרפואי טעות עלולה להוביל להחלטה טיפולית שגויה.

שוורץ מזכיר מחקר שפורסם בכתב העת Radiology: Artificial Intelligence, שהתבסס על בדיקות ממוגרפיה של יותר מ-24 אלף נשים. לפי הנתונים שהציג, מערכת AI זיהתה חמישה מקרי סרטן שד שהרדיולוגים החמיצו. מצד שני, היא עצמה החמיצה 12 מקרים שהרדיולוגים דווקא זיהו.

"הבינה המלאכותית יכולה לשמש זוג עיניים נוסף, אבל היא עלולה לטעות בביטחון רב. השאלה היא לא מי טוב יותר, אלא איך בונים תהליך שבו כל אחד מסייע לזהות את הטעויות של האחר", הוא אומר.

במילים אחרות, המטרה אינה להחליף את הרופא במערכת שמקבלת החלטות לבדה, אלא לשלב כלי נוסף שיכול לזהות מידע, להצביע על אפשרויות ולהתריע על ממצאים. האחריות לבחון את ההמלצה ולהחליט כיצד לפעול נשארת בידי הצוות הרפואי.

ארבע שכבות ההגנה, והבעיה של העברית

כדי להפוך את כלי הבינה המלאכותית לחלק בטוח מעבודת מערכת הבריאות, לא מספיק לבחור מודל מתקדם. נדרשת מעטפת טכנולוגית שתשלוט במידע שאליו הוא נחשף, במקורות שעליהם הוא מסתמך ובפעולות שהוא יכול לבצע.

ליאור ציוני ממיקרוסופט ישראל מסביר כי יש ארבע שכבות מרכזיות שצריך להביא בחשבון: הסביבה שבה המודל פועל, המידע שמוזן אליו, המקורות שעליהם מתבססות התשובות ומנגנוני האבטחה שמלווים את התהליך.

"מודלי השפה פועלים בתוך סביבת הענן המאובטחת של הארגון, המידע אינו משמש לאימון מודלים ציבוריים, והארגון שומר על שליטה בנתונים", הוא מסביר.

השלב הבא הוא חיבור בין מקורות מידע שונים, שמפוזרים לעתים במערכות נפרדות. תיק רפואי, תוצאות מעבדה, בדיקות הדמיה ומערכות מנהליות צריכים לעבוד יחד כדי לאפשר למודל לקבל תמונה רחבה ככל האפשר על המטופל. אחד האמצעים לכך הוא תקן פתוח בשם FHIR, שמאפשר למערכות שונות להעביר ביניהן מידע רפואי.

השכבה השלישית נוגעת למקורות שעליהם המודל מבסס את התשובות שלו. במקום להסתמך על ידע כללי שנצבר באימון, המערכת צריכה לענות על בסיס התיק הרפואי של המטופל והנחיות קליניות מוגדרות. כך ניתן לצמצם את הסיכון לתשובות שאינן קשורות למידע האמיתי של המטופל.

אבל גם זה לא מספיק. ציוני מצביע על כמה כשלים מוכרים במערכות AI רפואיות: ייחוס תסמין שהמטופל כלל לא ציין, בלבול בין תרופות בעלות שמות דומים או השמטה של פרט משמעותי כמו אלרגיה.

"כל טענה בסיכום מקושרת לשורה המקורית בתיק, כך שהרופא יכול לאמת אותה בלחיצה. מפעילים בדיקות אוטומטיות לזיהוי טענות שאינן נתמכות במקור, ובדיקות ייעודיות לפרטים רגישים. שום סיכום אינו נכנס לתיק הרפואי בלי אישור של איש צוות", הוא אומר.

בישראל יש למערכות האלה גם אתגר נוסף, שלא תמיד מקבל מספיק תשומת לב: השפה. המידע הרפואי המקומי משלב עברית ואנגלית, קיצורים מקצועיים, מונחים רפואיים ולעתים גם ניסוחים לא אחידים בין רופאים ומוסדות.

"בישראל קיים אתגר שפה מובהק", אומר ציוני. "השפה הרפואית כוללת קיצורים, מונחים מקצועיים ושילוב תכוף של עברית ואנגלית באותו משפט. לכן נדרשת התאמה ובדיקה קפדנית של המערכות בהקשר המקומי".

גם בכל הנוגע לשימוש בכלים לא מאושרים, ציוני סבור שהפתרון אינו יכול להסתכם באיסורים. "כשכלי רשמי איטי או מסורבל, אנשים ימצאו חלופה. שימוש בכלי AI שלא אושרו על ידי הארגון הוא אתגר גלובלי. אי אפשר לבנות שימוש אחראי רק על איסורים. צריך לתת לצוותים כלים מאושרים שמתאימים לדרך שבה הם עובדים, לצד הדרכה ברורה. המטרה היא להפוך את העובד לשותף".

השלב הבא: מסיכום ביקורים לסוכנים שמבצעים משימות

אם עד עכשיו הבינה המלאכותית שימשה בעיקר ככלי שעונה על שאלות, מסכם מידע או מסייע לרופא לקבל החלטה, השלב הבא צפוי להיות מורכב יותר: סוכני AI שיוכלו לבצע רצף של פעולות באופן עצמאי, כפוף להרשאות שניתנו להם.

במקום לבקש מהמערכת לסכם תיק רפואי, למשל, סוכן יוכל לאסוף בדיקות, לקרוא ביקורים קודמים, להכין סיכום ולהעביר אותו לצוות המטפל. במקום כלי שמגיב לבקשה נקודתית, מדובר במערכת שמסוגלת לבצע משימה שלמה.

"להערכתי, אנחנו עומדים לראות מעבר משמעותי מכלים שעונים על שאלות לסוכני AI שמבצעים משימות שלמות. למשל סוכן שיכול לאסוף בדיקות, לקרוא ביקורים קודמים, להכין סיכום ולהעביר אותו לצוות המטפל", אומר שוורץ.

אבל המעבר הזה מעלה שאלה חדשה של הרשאות. עד היום היה צריך לוודא שלמשתמש יש גישה למידע מסוים. כאשר סוכן AI פועל בשמו, צריך לבדוק גם אילו פעולות הוא רשאי לבצע, והאם המשתמש בכלל מודע לכל אחת מהן.

"עד היום התמקדנו בעיקר בשאלה מה המשתמש עושה עם המידע. עכשיו צריך לשאול גם מה הסוכן עושה בשמו, לפעמים בלי שהמשתמש מודע לכל פעולה בנפרד. הרשאה לקרוא מידע לא צריכה להפוך אוטומטית להרשאה לאסוף, להעתיק או להעביר אותו הלאה", מזהיר שוורץ.

ציוני מתאר התפתחות בשלושה שלבים: בשלב הראשון AI הוא עוזר שמסכם ועונה על שאלות. בשלב השני הוא הופך לשותף שמציע אפשרויות ומתריע בתוך תהליך העבודה. בשלב השלישי הוא כבר סוכן שמבצע פעולות בהרשאה. ככל שהמערכת מקבלת יותר עצמאות, כך גדלות גם הדרישות לזיהוי, להרשאות ולפיקוח.

אלא שהשינוי עשוי להיות רחב הרבה יותר מהדרך שבה רופאים עובדים. פרופ' שלו סבורה שהבינה המלאכותית עשויה לשנות אפילו את המבנה המסורתי של מערכת הבריאות, שמבוסס כיום במידה רבה על ביקורים במרפאה.

"הרפואה של היום נבנתה סביב ביקורים אצל הרופא, בתקופה שבה הכלים האלה לא היו קיימים. אבל אולי הביקור עצמו כבר לא צריך להיות הבסיס לכל תהליך רפואי? מערכות יוכלו לפנות ישירות למטופלים, לעבור איתם על תוצאות בדיקות, לחדש תרופות ולנהל מעקב רציף", היא אומרת.

לדבריה, מערכת הבריאות תצטרך לשנות גם את האופן שבו היא מתייחסת לסיכונים הכרוכים בטכנולוגיה. "פריצת הדרך תגיע כשמערכת הבריאות תפסיק להתמקד רק בשאלה איך להימנע מסיכונים, ותתחיל לשאול איך לאמץ את הטכנולוגיה בצורה בטוחה ומהירה. אי אפשר לחכות שאחרים יתנסו ויטעו במקומנו".

ד"ר צוכמן כץ מסכימה שהשינוי המרכזי אינו מסתכם בהכנסת עוד כלי טכנולוגי למרפאות, אלא במעבר הדרגתי לרפואה שמנסה לזהות בעיות לפני שהן הופכות למחלה שמצריכה טיפול. "השינוי המשמעותי הוא לא עוד כלי, אלא מעבר מרפואה שמגיבה למחלה לרפואה פרואקטיבית שמנבאת ומותאמת אישית", היא אומרת.

"המבחן האמיתי לא יהיה כמה בינה מלאכותית הכנסנו למערכת הבריאות, אלא עד כמה הצלחנו לשנות את הדרך שבה אנחנו שומרים על בריאותם של אנשים ומאפשרים לרופא לחזור לקשר האנושי עם המטופל".