ככל שהבינה המלאכותית מדייקת יותר, כך קשה יותר לדעת מי אחראי

רדיולוגית בכירה מתבוננת בצילום ממוגרפיה. מערכת בינה מלאכותית שבית החולים משתמש בה מסמנת אזור חשוד וקובעת: סבירות גבוהה לממאירות. הרדיולוגית, בעלת עשרות שנות ניסיון, אינה רואה שם דבר. אם תתעלם מהמכונה ותטעה, ישאלו מדוע דחתה כלי מדויק כל כך; אם תישמע לה ותטעה, ישאלו מדוע ויתרה על שיקול דעתה. זהו רגע אחד בחדר בדיקה, אך הוא מגלם מהפכה גדולה יותר: לא רק הרפואה משתנה, אלא גם מושג האחריות.

זה כבר אינו תרחיש עתידני. עד תחילת 2026 התירה רשות המזון והתרופות האמריקאית שיווק של למעלה מ-מאות מכשירים רפואיים מבוססי בינה מלאכותית, רובם ברדיולוגיה. מערכות כאלה מסמנות ממצאים חשודים, מתעדפות מקרים דחופים ואף מתריעות על אלח דם בטרם מזהה זאת הרופא. בנוסף, אושרה מערכת אוטונומית לאיתור רטינופתיה סוכרתית, המאבחנת בעצמה בלי שרופא יבחן את הכרעתה. במקומות מסוימים המכונה אינה עוד יועצת מאחורי הקלעים, אלא כוח ממשי בהכרעה. וככל שחלקה גדל, מתחדדת השאלה שתישאל לאחר מעשה: אם התוצאה שגויה, מי יישא באחריות?

הנטייה הראשונית היא לשאול אם מותר בכלל להפקיד הכרעה רפואית בידי מכונה. אך פעמים רבות זו השאלה הפחות מעניינת. נניח תחום שבו רופאים טועים בשבעה מקרים ממאה, ואילו מערכת בינה מלאכותית טועה בשלושה. ההתעקשות על הכרעה אנושית ״טהורה״ אינה בהכרח עמדה זהירה, אלא בחירה שיש לה, סטטיסטית, מחיר אנושי ממשי. אם כלי מדויק יותר יכול למנוע חלק מן הפגיעה, השאלה אינה רק אם מותר להשתמש בו, אלא גם אם מותר להימנע ממנו.

ובכל זאת, צריך להיזהר מהיסחפות. לא כל טעות היא רשלנות. דיני הנזיקין אינם מבטיחים רפואה מושלמת ואינם מפצים על כל תוצאה קשה. רופא שנהג בזהירות סבירה, לפי הידע שעמד בפניו, ובכל זאת החמיץ אבחנה, טעה אך לא בהכרח התרשל. אותו היגיון חל גם על מכונה: עצם העובדה שטעתה אינה רשלנות דווקא. ייתכן שמדובר בסיכון שיורי שאי אפשר לאפסו, לא בכשל החורג מן הסטנדרט. אם נהפוך כל טעות אלגוריתמית לעילת תביעה, ניצור הרתעת יתר שתעכב אימוץ של טכנולוגיות מצילות חיים.

אלא שהבינה המלאכותית כן משנה את הדין, לא רק את הרפואה. כל עוד לא היה כלי מדויק יותר, החמצה אנושית נחשבה לעיתים טעות לגיטימית; משהופיע כלי שמדייק יותר מן הרופא לבדו, ההתעלמות ממנו עלולה להיחשב סטייה מסטנדרט הזהירות. שכן התרשלנות נמדדת תמיד אל מול ״הרופא הסביר״ ואל מול הפרקטיקה הנוהגת, ושני אלה אינם קבועים. מיהו הרופא הסביר של ימינו, זה הסומך על עינו המנוסה או זה הנעזר במערכת מאבחנת? ככל שהטכנולוגיה הופכת לנחלת הכלל, אמת המידה עצמה נעה: מה שנחשב היום לכלי עזר שבבחירה עשוי מחר להיתפס כחלק מן הסטנדרט המחייב, ומוסד שיימנע שימוש בו יידרש להסביר דווקא את הימנעותו.

המשפט נדרש אפוא לנווט בין שני סיכונים הפוכים: אחריות גורפת מדי, שתרתיע מאימוץ טכנולוגיה מיטיבה, מול צמצום מופרז, שיותיר נפגעים בלא מענה. ומשמשתלבת המערכת בלב ההכרעה, נחשף מלכוד: רופא שיסטה מהמלצתה ויטעה יידרש להצדיק מדוע דחה כלי אמין ממנו; רופא שיאמץ אותה ויטעה עלול להיתבע על שהפך לחותמת גומי; בית החולים יטען כי רכש מערכת מאושרת; היצרן יטען כי זו פעלה כפי שתוכננה. זהו לב הקושי: דיני הרשלנות בנויים למצב שבו אדם כשל, ומתקשים מול נזק שנולד משרשרת תקינה לכאורה של רופא, מוסד ואלגוריתם.

כאן מתגלה גם הממד הפילוסופי. המשפט מבחין בין אחריות סיבתית, מי גרם לנזק, לבין אחריות מוסרית, מי ראוי לשאת באחריות ולתת עליו את הדין. במשך דורות חפפו השתיים, שכן מי שגרם לנזק היה גם מי שאפשר לבוא עמו חשבון. הבינה המלאכותית מפרידה ביניהן: המכונה יכולה להיות הגורם הסיבתי להחלטה שגויה, אך אינה נושאת באחריות מוסרית, שכן אין לה הבנה, חרטה או יכולת לתת דין וחשבון. נותר חלל מסוכן, ובו נזק, גורם טכני ושרשרת אנושית, אך בלא ״אשם״ אחד וברור. אם לא יתמלא כראוי, ייפול החלל הזה על המטופל.

התשובה, כמובן, אינה איסור גורף על בינה מלאכותית, אך גם לא חסינות למפתחים ולמטמיעים אותה. דרושה ארכיטקטורה חדשה של אחריות. ראשית, חובת תיעוד קפדנית: איזו גרסה פעלה, אילו נתונים הוזנו, מה הייתה ההמלצה ומה היו ציון הביטחון ואחוז הטעות הידוע, והאם הרופא אימץ או דחה אותה ומדוע. השאלה אינה רק מי אחראי, אלא איך נדע מה קרה. וכאן תפקיד הדין חורג מפיצוי: בירור מקור הכשל הוא תנאי ללמידה ולמניעת הישנותו. כשם שתחקיר תאונת תעופה נועד לתקן את המערכת ולא רק להאשים, כך אחריות נזיקית מתוכננת היטב יוצרת תמריץ לחשוף את שורש הטעות ולשפר את המערכת הטכנולוגית והרפואית, לטובת המטופלים הבאים.

שנית, מודל של אחריות שכבתית. היצרן יישא באחריות על תכנון המערכת, איכות הנתונים והעדכונים, ובעיקר על הצגת מגבלותיה בשקיפות. בית החולים יהא אחראי על בחירת המערכת, הטמעתה ועדכונה, הכשרת הצוות והבקרה על ביצועיה. הרופא אחראי על אופן השימוש, על הפעלת שיקול דעת ועל הנמקה כשהוא סוטה מן ההמלצה או מאמץ אותה למרות סימני אזהרה. לא ״או הרופא או היצרן״, אלא חלוקה התואמת את מוקדי השליטה האמיתיים.

שלישית, במצבים שבהם טעות עלולה להיות בלתי הפיכה נדרש פיקוח אנושי ממשי. לא די ב״אדם בתמונה״ אם אינו מיומן, אינו מקבל זמן לבחינה או אינו חופשי לחלוק על המערכת. פיקוח אמיתי פירושו סמכות ויכולת לבקר, לא רק לאשר.

רביעית, שקיפות כלפי המטופל. אם האבחון נעשה בעזרת בינה מלאכותית, ראוי שהמטופל ידע. כאן ההסכמה מדעת ממלאת תפקיד כפול: היא ממקמת את הסיכון השיורי במקומו, שכן מטופל שהוסבר לו על שיעור הטעות הבלתי נמנע והסכים לו נטל על עצמו סיכון ידוע, כשם שהוא נוטל סיכון לפני ניתוח. אך יש לה גבול: היא אינה כתב ויתור על רשלנות, אלא חלה על הטעות שאין ממנה מנוס בלבד. רופא שהתרשל, מערכת שנכשלה מעבר למצופה ויצרן שסיפק מוצר פגום, יישארו חשופים לתביעה כבעבר.

הבינה המלאכותית אינה אויבת הרפואה; פעמים רבות היא בעלת בריתה הטובה ביותר. אך ככל שתשתכלל יחריף הפרדוקס: דווקא המכונה המדויקת יותר תקשה עלינו לקבוע מי אחראי כשהיא שוגה. האתגר אינו לבחור בין אדם למכונה, אלא לבנות מסגרת משפטית ומוסרית שתבחין בין טעות שאין ממנה מנוס לבין רשלנות שיש לפצות בגינה. אם ניכשל בכך, לא רק הדין יישאר מאחור; גם המטופל יישאר לבדו, מול מערכת שלמה שפעלה לכאורה כשורה, ובכל זאת פגעה בו.