לפני כחודשיים אישרה ועדת הכלכלה של הכנסת את החוק שאמור לאפשר בקרוב ניסויים ברכב אוטונומי, כאן בישראל. יכול להיות שבקרוב תעמדו ברמזור האדום, תסיטו את הראש לנהג במכונית שלידכם ותגלו שאין נהג. מכוניות אוטונומיות של ממש זה עניין שייקח עוד לא מעט שנים, אבל היא רק סימפטום לכך שבין אם נרצה בכך או לא - האנושות בחרה כבר מזמן להעביר כל דבר שהיא רק יכולה - כל תפקיד, מטלה או אחריות - לידיו של היצור הלא כל כך ברור הזה שנקרא אלגוריתם. יש רבים שהעתיד הזה מלהיב אותם ומצית את דמיונם, מנגד, עבור רבים מדובר בעניין מעורר חרדה. לא פחות.

אלגוריתם הוא הבאזז וורד הכי גדול של המאה ה-21 ומרוב שימוש יתר רובנו לא בהכרח מבינים את הייצור הזה - האם הוא חבר או אויב? לאחרונה, כך נדמה, הוא בעיקר אויב: האלגוריתם של פייסבוק מתמרן את כל העולם, האלגוריתם של גוגל דוחף לנו פרסומות ומחשבי-על עסוקים בלאסוף כל פיסת מידע אודותינו.

קל מאוד לשכוח שאלגוריתמים מלווים אותנו היום כמעט בכל דבר - ולפעמים זה דווקא לטובה. יש אלגוריתם שיודע בדיוק כמה אינסולין לתת לחולה סכרת ויש כזה שיודע לארגן מחסן ענקי ומרובה פריטים בסדר מופתי ויש כמובן את האלגוריתם של ווייז שיודע לקצר לנו את הדרך הביתה.

לקריאת כל כתבות מגזין N12 לחצו כאן

מה שמשותף לרוב האלגוריתמים הבולטים שכולנו מכירים זה שאת כולם ניתן להגדיר כ"ממליצים". הם אומרים לנו לאיזה שיר כדאי לנו להאזין, איזה פוסט לקרוא או מתי לפנות ימינה. אלא שהעתיד מזמן לאלגוריתמים עלייה בדרגה – במקום שהווייז יגיד לך שכדאי לפנות ימינה, המכונית האוטונומית פשוט תבצע את הפנייה בשבילך. באופן זה עולם הבינה המלאכותית, שמתחיל להתבסס יותר ויותר, יהפוך את האלגוריתמים לאלגוריתמי-על שכבר לא ימליצו לנו על כלום, הם פשוט יחליטו במקומנו.

המכונית האוטונומית היא אולי הדוגמה הבולטת והמוכרת ביותר לתהליך הזה, שצפוי לעמוד במרכז ההתפתחות הטכנולוגית של העשור הקרוב. אלא שאותו העיקרון עומד להפוך לנפוץ כמעט בכל תחומי החיים. כמו חשבון הבנק שלנו, הטיפול הרפואי שנקבל או אפילו ההגנה על ביטחונה של המדינה.

לוותר על התענוג המפוקפק של להיכנס לחשבון הבנק

בבניין אחד בתל אביב עובדים עכשיו על העתיד הזה. בקומה אחת מייצרים את המערכת שבזכותה לא נצטרך יותר לסבול פקידים בבנק, ובקומה מעל מעצבים את בית החולים העתידי, שבו מחשבים יהיו שותפים לקבלת החלטות לא פחות מרופאים. "אנחנו נגיד לך מה צריך לעשות כדי שתגיע לאן שאתה רוצה להגיע בחיים הפיננסיים שלך וגם נעשה את זה עבורך" אומר אבי בן-יוסף, ראש צוות מדע נתונים של הבנק הדיגיטלי הראשון ONE ZERO.

הבניין בתל אביב של הסטארט-אפים איידוק וואן זירו (צילום: ללא)
הבניין בתל אביב שבו מעצבים את העתיד, עם הסטארט-אפים איידוק וואן זירו | צילום: ללא

"אנחנו מתחילים מייעוץ", מסביר בן-יוסף על האסטרטגיה של הבנק הדיגיטלי. "המודל בודק מה הולך לקרות ומה הדרך הכי נכונה להתמודד עם זה וייצא מזה עם המלצה. ההמלצה אומרת ללקוח: 'שים לב, יש פה סכנה כזו וכזו'". את ההמלצה הזאת משווה בן-יוסף לאיתות של מובילאיי - החברה של אמנון שעשוע, שהוא גם מייסד הבנק הדיגיטלי. "אם אתה מאשר את ההמלצה, אנחנו נסיט אותך מהמסלול", הוא ממשיך "וזה כבר יותר מאיתות, כי אנחנו גם מבצעים את הפעולה ומסובבים את ההגה".

"המלצה אומרת ללקוח: 'שים לב יש פה סכנה כזו וכזו'. אם אתה מאשר את ההמלצה, אנחנו נסיט אותך מהמסלול וזה כבר יותר מהמלצה, כי אנחנו גם מבצעים את הפעולה ומסובבים את ההגה"

אבי בן-יוסף, בנק וואן זירו

וואן זירו הוא הבנק החדש הראשון שקם בישראל מזה יותר מ-40 שנה וכבר קיבל השנה רישיון הפעלה מבנק ישראל. כפי שניתן להבין משמו אין בו סניפים כלל, ניהול הפעולות הבנקאיות מתבצע דרך האתר. מהבחינה הזו וואן זירו לא שונה בהרבה מכל בנק אחר. אבל הם מבטיחים שזו רק ההתחלה. בחודש שעבר אף נודע ש-ONE ZERO יהיה נותן החסות הראשי של ליגת העל בכדורגל. 

המערכת שבן-יוסף וצוותו מפתחים תחסוך מהלקוח גם את התענוג (ויש שיוסיפו "המפוקפק") להיכנס לחשבון הבנק ולבצע כל פעולה בנקאית. אלגוריתם משוכלל מבוסס בינה מלאכותית יסרוק כל העת את מצב החשבון ויאגור מידע על הלקוח והאופן שבו הוא מתנהל כלכלית וכך יבנה לו פרופיל שבאמצעותו תקבל המערכת החלטות עבור הלקוח.

"יש היום כל מיני תובנות שמנסים לייצר בעולם הבנקאי", מסביר בן-יוסף. "לדוגמה, תחשוב שיש לך הלוואה, לקחת אותה בינואר כי אמרת 'וואלה, אני יכול להחזיר אלף שקל בחודש'. אממה? הגיע יולי, בזבזת 30% יותר כי הילדים בחופש, ויכול להיות שזה מה שמעמיד אותך עכשיו בסיכון להיכנס למינוס. אין לנו שום סיבה להכניס את הבנאדם הזה למינוס. אנחנו רוצים שהוא יתנהל נכון. אז אנחנו יכולים לומר 'אם זו ההתנהגות שלו, שכל השנה הוא יכול להחזיר אלף שקל בחודש, אבל ביולי ואוגוסט יש לו דרישות אחרות נבוא ונתאים את ההחזר החודשי לפני ההתנהלות שלו. או שנוריד לו 40-30% מההחזר באותו חודש או שנעשה לו 'פריז' לחודש-חודשיים להחזר שלו. זה עיקרון שנכון להרבה סיטואציות בחיים של כל מני אנשים".

צוות הפיתוח של ONE ZERO (צילום: N12)
"במקרה של איזה תרחיש אפל אנחנו גמורים, אנחנו מבינים שזה כסף של אנשים", צוות הפיתוח של ONE ZERO | צילום: N12

מייצרים תובנות על סמך מידע שנאגר בבתי החולים

קומה אחת מעל הבנק הדיגיטלי, גם החבר'ה של הסטראט-אפ Aidoc עסוקים בפיתוח בעל עיקרון דומה. הם מייצרים תובנות על סמך מידע שנאגר בבתי החולים, למשל תיעדוף אוטומטי בטיפול של חולים. "עשרות חולים נכנסים לאותה רשימת עבודה", מסביר מיכאל ברגינסקי, סמנכ"ל הטכנולוגיה של איידוק ואחד היזמים. "אבל יכול להיות שדווקא מספר 12 או 18 בתור יש לו איזה עניין דחוף יותר".

צוות הפיתוח של AIDOC (צילום: N12)
לפחות למערכות בינה מלאכותית אין כתב יד של רופא, צוות הפיתוח של Aidoc | צילום: N12

המערכת של החברה שלו פועלת כבר עכשיו במספר בתי חולים מובילים בארץ וגם בעולם. היא מתעדפת ובונה את סדר המטופלים, על סמך ניתוח סריקות CT ובדיקות רנטגן. בהמשך, הבינה המלאכותית תדע לקבל החלטות על סמך כל פיסת מידע דיגיטלי שיושבת בשרתי בית החולים.

"למכונה יש יתרונות במצבים מסוימים" אומר ברגינסקי. "ופה יש יתרון מובהק שאנחנו יכולים להסתכל על כל הסריקות שנמצאות ברשימה במקביל ואם יש משהו דחוף לתעדף אותו. אנחנו מסוגלים לזהות דברים מאוד קשים שרופא יכול לפספס".

"למכונה יש יתרונות במצבים מסוימים. אנחנו יכולים להסתכל על כל הסריקות שנמצאות ברשימה במקביל ואם יש משהו דחוף לתעדף אותו. אנחנו מסוגלים לזהות דברים מאוד קשים שרופא יכול לפספס"

מיכאל ברגינסקי, איידוק

לנוכח חרדת הקודש שנוגעת לחיי האדם מפלס היומרה בקומה הזו נמוך מאשר אצל הבנק הדיגיטלי. כרגע הם מייעצים לרופא במי לטפל קודם, וכשרק נרמזת האפשרות שהפיתוח שלהם עוד יחליף יום אחד את הרופא גם במתן הטיפול עצמו, האנשים של איידוק נזעקים להבהיר שזהו לא העתיד שאליו אנחנו הולכים ושמערכת כמו זו שלהם יכולה לתת מענה בהחלטות שממילא האופי שלהן הוא חישובי יותר מאשר מעשי. אז אל תצפו שבקרוב, או בכלל אי פעם, מחשב ינתח אתכם, אבל יש סיכוי לא רע שהוא יחליט איזו תרופה לרשום לכם ויעביר את זה ישר לבית המרקחת. לפחות למערכות בינה מלאכותית אין כתב יד של רופא.

"יש שאלה לגבי סוגיות ביטחוניות"

בניגוד לאנשי איידוק, מומחה הטכנולוגיה אסף וייס, סגן-אלוף במילואים ובוגר תכנית תלפיות ויוצא יחידה 81 (היחידה הטכנולוגית של מערך המבצעים המיוחדים), לא מהסס לקבוע בנחרצות: "אנחנו בדרך למצב שהרופא יהיה סוג של בובה". לדבריו: "האלגוריתמים בתחום הרפואה בדרך להיות מחליטים לגמרי - גם לגבי ממה אתה סובל, וגם לגבי דרך הטיפול וכולנו נהיה בעתיד תלויים באלגוריתמים. רופאי משפחה למשל כבר היום לא יודעים להתמודד עם כל כמות המידע וגם לא עם מה שהמטופל מספר, אלגוריתם יודע לגשת לכמות הרבה יותר גדולה של מידע ממה שרופא אנושי יהיה מסוגל ללמוד כל ימי חייו".

צבא עתיד טכנולוגיה (צילום: 123RF‏)
"אלגוריתם יחליט מהר יותר מהקצין האנושי בשטח", אילוסטרציה | צילום: 123RF‏

וייס, שכבר כתב אלגוריתם או שניים בחיים שלו, עוסק בפיתוח ובניהול טכנולוגיות פורצות דרך למעלה מ-20 שנה וכיום הוא סמנכ"ל הטכנולוגיה בקרן ההון סיכון Earth & Beyond המשקיעה בסטארט-אפים ישראלים בתחום החלל, ומנכ"ל מייסד של AW Ltd הנותנת ייעוץ ופתרונות טכנולוגים לחברות בארץ ובעולם.

"אני חושבת שיש עוד דרך ארוכה עד שנגיע למצב הזה", טוענת מנגד ד"ר חן שגיב. לשגיב, ד"ר למתמטיקה שימושית, מפתחת אלגוריתמים ויזמית בתחום הראייה הממוחשבת והבינה המלאכותית יש מסר מרגיע. לדבריה פיתוחי הבינה המלאכותית יהפכו את הרופא "לסוג של טייס. הוא יצטרך להתמודד עם מערכות טכנולוגיות מתוחכמות מאוד, יהיה לו מעין לוח מחוונים כזה שבו המידע יוצג לו בצורה כמותית וברורה עם כלים של ויזואליזציה שנלקחו מעולם הגיימינג. יהיו משימות של טייס אוטומטי, באחריות המחשב, אבל כמו שבמטוס הטייס תמיד נמצא, כך גם במקרה הזה הרופא לא ייעלם, הוא תמיד יהיה שם. ביום שנטוס במטוסים לגמרי אוטונומיים, אז כנראה שיהיו גם אוטו-דוקטור, אבל אני לא רואה את זה קורה ב-20 השנה הקרובות".

"בצד הביטחוני יש הרבה אלגוריתמים שאפשר לומר שהם עדיין לא מחליטים, אבל הם כבר ממליצים עם סימן קריאה", מוסיף וייס, שרק לאחרונה יצא מעולם הצללים והשו-שו והשתחרר מצה"ל אחרי 24 שנות שירות. "כך עובדות מערכות נגד טילים, גם במטוסים אזרחיים למשל. וגם במערכת כיפת ברזל זה כך, שם יש עדיין את האיש הזה שמקבל התראה: 'צריך לשגר עכשיו, לחץ על הכפתור!', אבל בלי שהוא יאשר שיגור לא יקרה דבר".

"יש שאלה לגבי סוגיות ביטחוניות והאם בעתיד יתנו לאלגורתימים לקבל החלטות במקומנו", הוא מסביר, "וזה מה שאחר כך עשוי להוביל לאפוקליפסה שרואים בכל מני סרטי מדע בדיוני שיום אחד המחשבים ישתלטו על העולם, או שהמחשבים יבינו שמה שמזיק לכדור הארץ זו האנושות ולכן צריך להשמיד אותה. זו כבר שאלה פילוסופית, אבל אלגוריתם שצריך להחליט כמה חיילים לשלוח לקרב יחליט מהר יותר מהקצין האנושי בשטח, אז אולי זה בכל זאת עדיף. דברים כאלה כבר נמצאים בפיתוח ורק צריך לקבל את ההחלטה שהולכים על זה". 

"האלגוריתמים בתחום הרפואה בדרך להיות מחליטים לגמרי - גם לגבי ממה אתה סובל, וגם לגבי דרך הטיפול. רופאי משפחה למשל כבר היום לא יודעים להתמודד עם כל כמות המידע וגם לא עם מה שהמטופל מספר"

אסף וייס, מומחה טכנולוגיה

 

אסף וייס (צילום: זארה ברוקס)
"העולם היום דוחף לבינה מלאכותית והוא לוקח פה הימור", אסף וייס | צילום: זארה ברוקס

"בעתיד המקרר יזמין לך חלב בעצמו"

בבנק הדיגיטלי מבינים היטב שהדרך החדשה שהם מציעים לניהול כספים לא הולכת לעבור לכולם חלק בגרון. בגלל זה הם לא מפסיקים להדגיש כי לפחות בשנות הפעילות הראשונות של המערכת - שהם מעריכים שתיכנס לפעילות מלאה כבר ב-4-3 השנים הקרובות - בנקאים מקצועיים, בשר ודם, יעמדו לצידה ויפקחו מקרוב על המפלצת.

"אני חושבת על מוצר כמו ספוטיפיי שמאתר לך שיר שפחות בא לך טוב, אז יאללה דפדף אותו. אבל אם אני אעשה פה טעות היא תהיה מאוד כואבת - כסף זה הדבר שהכי מטריד אנשים", מודה מירב שחור, מנהלת המוצר בצוות הפיתוח של הבנק הדיגיטלי. אבל שחור גם מדגישה שהסכנה לא טמונה אך ורק במכונות: "אתי אלון הייתה בנאדם, היא לא הייתה אלגוריתם".

"אם אני אעשה טעות בבנק, היא תהיה מאוד כואבת - כסף זה הדבר שהכי מטריד אנשים. אבל גם אתי אלון הייתה בנאדם, היא לא הייתה אלגוריתם"

מירב שחור, בנק וואן זירו

"בעתיד אתה כבר לא תפתח את המקרר ותנסה לבדוק מה חסר לך", היא מנסה להמחיש כיצד יפעל הבנק הדיגיטלי באמצעות דוגמה מעולם אחר. "עכשיו זה אולי נשמע לך משוגע שהמקרר יזמין לך חלב או שמכונת הקפה תזמין קפסולות, אבל לילדים שלנו זה יהיה מובן מאליו".

לדבריה לחברת הטכנולוגיה אין אינטרס שהמקרר שלה יזמין חלב גרוע או שהמכונית האוטונומית תתרסק על קיר, אבל מצד שני היא מסייגת: "בעתיד כל הטכנולוגיה תהיה שורות קוד, אבל אם היא תיפול לידיים הלא נכונות אז פאק איט - הלך על כולנו".

אתם גוף מסחרי. איך תוכלו לערוב לכך שבאלגוריתם שלכם לא יהיו פיצ'רים שיהפכו אותו לקצת פחות לטובת הלקוח ויותר לטובת שורת הרווח של הבנק?

"הכול זה אמון. אם ווייז בכוונה ידפוק אותך בפקקים, לא תשתמש בו. לסמוך על גוף עסקי זה תהליך. כדי לעבור ממצב של לשאול אותך ושתגיד 'כן, אני מסכים', לתהליך של שגר ושכח דרושה בניית אמון. אם תראה שעשיתי בשבילך טוב ותבדוק אותנו הרבה פעמים ורק אז, כשתוכל להיות בטוח, תוכל להגיד לאלגוריתם קח את כל הכסף שלי. בגלל הרגולציה יש מישהו שתמיד שומר עליי כדי שאפעל לטובת הלקוח. הרי במקרה של איזה תרחיש אפל כזה אנחנו גמורים, אנחנו מבינים שזה כסף של אנשים".

"אם בעתיד יתנו לאלגוריתמים לקבל החלטות במקומנו בשדה הקרב זה עשוי להוביל לאפוקליפסה. כמו שרואים בסרטי מדע בדיוני שיום אחד המחשבים ישתלטו על העולם, או שהמחשבים יבינו שמה שמזיק לכדור הארץ זו האנושות ולכן צריך להשמיד אותה"

אסף וייס, מומחה טכנולוגיה

 "נקבל אבחונים על דברים שעוד לא הספקנו להתלונן עליהם"

כשמגיעים לעולם הרפואה, מטבע הדברים, סולם החרדה של כולם עולה אפילו עוד יותר. כשאני מנסה להבין את פשר שם החברה שלהם, החבר'ה של Aidoc ישר קופצים. בקלות אפשר לפרק את השם ל-AI-DOC. כלומר דוקטור (DOC) מבינה מלאכותית (AI). אלא שהלחם המילים במקרה הזה, הם מדגישים, הוא של המילים AID ו-DOC. שלא תתבלבלו, כאן רק מסייעים לרופאים.

ועם כל הסייגים בעתיד עולם הרפואה ישתנה, זה ברור. "נקבל אבחונים על דברים שבכלל עוד לא הספקנו להתלונן עליהם", אומרת ד"ר שגיב. "ובכל מה שקשור ברפואה מותאמת אישית, בלי הטכנולוגיה זה לא יקרה. כל ביקור אצל הרופא יהפוך לצ'ק אפ - גם למה שבאת לבדוק וגם לכל דבר אחר שאפילו לא חשבת עליו. כל העניין של רפואה מונעת ורפואה מותאמת אישית יקבל דחיפה עצומה".

ד"ר חן שגיב (צילום: באדיבות המצולמת)
"ביום שנטוס במטוסים לגמרי אוטונומיים, אז כנראה שיהיו גם אוטו-דוקטורים", ד"ר חן שגיב | צילום: באדיבות המצולמת

"הרופא בעתיד יצטרף להתמודד עם מערכות טכנולוגיות מתוחכמות מאוד, יהיה לו מעין לוח מחוונים כזה שבו המידע יוצג לו בצורה כמותית וברורה עם כלים של ויזואליזציה שנלקחו מעולם הגיימינג"

ד"ר חן שגיב, מפתחת ויזמית

באיידוק מדברים בהחלט על טווח אפשרויות שכיום נשמע דמיוני. אם לשפוט לפי מה שאנשי צוות הפיתוח של החברה אומרים לא רחוק היום שבו ביקור אצל רופא אף אוזן גרון בגלל איזו אנגינה מקרית ישלח הודעת פוש לטלפון של מנהל מחלקה אונקולוגית בבית החולים הסמוך או שבדיקת דם אקראית עשויה להזניק אמבולנס כי המערכת גילתה כי אדם על סף התקף לב, כשמבחינתו הכול עדיין לגמרי שגרתי. "רופא מבסס את הידע שלו על איקס סריקות שהוא ראה בחייו ומה שיפה במכונה הוא שהיא לא מוגבלת לזה", מסכם ברגינסקי המנכ"ל. "אנחנו נלמד כמות כזו של סריקות שאף רופא לא ילמד כל החיים. זה לא הופך אותנו ליותר טובים ממנו, אלא ליותר טובים בכדי לעזור לו".

האם אנחנו בכל זאת יכולים לומר שבעוד שנים עולם הרפואה יישלט על ידי, ובכן, רופאים? יש פה, כמו תמיד, גם שאלה כלכלית ומשפטית. "אני רוצה לראות את הרופא שעומד מול תביעה ואומר, 'אני הלכתי כנגד המלצת האלגוריתם, אבל לצערי האלגוריתם צדק ולכן המטופל מת'", אומר וייס. "אף רופא לא ייקח את הסיכון הזה. לעמת זאת כל הרופאים יהיו מבוטחים על סמך המלצה כזו ויכלו להגיד 'זה מה שהמחשב המליץ לי'. כלומר, ההמלצה הופכת דה פקטו להחלטה".

"אני רוצה לראות את הרופא שעומד מול תביעה ואומר, 'אני הלכתי נגד המלצת האלגוריתם, אבל לצערי האלגוריתם צדק ולכן המטופל מת'. אף רופא לא ייקח את הסיכון הזה. לעמת זאת כל הרופאים יהיו מבוטחים על סמך המלצה כזו ויכלו להגיד 'זה מה שהמחשב המליץ לי'. כלומר, ההמלצה הופכת דה פקטו להחלטה"

אסף וייס, מומחה טכנולוגיה

"רוב הזמן זה יהיה סבבה, אבל עשויות להיות טעויות קשות"

עם האפיל המתמטי של הנושא מפתה להסתכל על היצורים האלה - האלגוריתמים כעל מופת של אובייקטיביות המבוססת על תבוניות טהורה. אלא שכפי שהאדם הוא תבנית נוף מולדתו, האלגוריתם הוא תבנית נוף מתכנתיו.

מוזר להגיד על מכונה שהיא גזענית, אבל גם טכנולוגיה, מסתבר, לא יכולה להיות ניטרלית באמת. בשנים האחרונות התפרסמו אינספור דוגמאות ל"אפליה ממוחשבת" שפגעה באנשים כהי עור. החל מברזים אוטומטיים בחדרי שירותים שלא הצליחו לזהות כף יד שחורה ועד אלגוריתם זיהוי התמונה של "זום", שתוך כדי שיחה פשוט העלים ראשים של אנשים שחורים משום שהתקשה לזהות אותם. ככה זה כשפחות מ-2% מכלל עובדי ההיי-טק בארצות הברית הם שחורים.

אלגוריתם שמחולל סיפורים על סמך מידע בסיסי שמוזן בו "כתב" סיפור שבו בחור מוסלמי מפוצץ בניין משרדים ומערכות לסינון קורות חיים התעלמו ממועמדות נשים - וכאילו זה לא מספיק, תרופות מסוימות מותאמות לגברים יותר מלנשים רק כי האלגוריתם שפיקח על המחקר והפיתוח שלהם לא ידע לנתח את תופעות הלוואי שעליהן דיווחו נבדקות. המציאות היא שאלגוריתמים, גם המתקדמים שבהם, אלו של העולם החדש של בינה מלאכותית, תמיד יהיו מוטים. ואם אתה לא גבר לבן, זה עשוי להיות בעייתי.

"אלגוריתמים מתייחסים קודם כל לרוב ודוחקים את השוליים. בין אם זה מועמד לשיבוץ בצה"ל שהוא קצת חריג או חריג שמבקש הלוואה מהבנק - השוליים, או דברים שהם נדירים יותר, ייפגעו"

אסף וייס, מומחה טכנולוגיה

"אלגוריתמים מתייחסים קודם כל לרוב ודוחקים את השוליים", מסביר וייס. "בין אם זה מועמד לשיבוץ בצה"ל שהוא קצת חריג או חריג שמבקש הלוואה מהבנק - השוליים, או דברים שהם נדירים יותר, ייפגעו. בגרמניה ילדים בני 12 כבר מנותבים לאיזה בית ספר הם ילכו - עיוני או מקצועי. יש להם מערכת מבוססת פרדיקציות שמשלב צעיר מאוד בחיים קובעת את חייו של ילד. זה קובע חיים. כשנעבור למערכות מחליטות זה יהיה רוב הזמן סבבה, אבל הן עשויות לעשות טעויות קשות. אנחנו נצטרך מישהו שיפקח עליהן. זה לא יהיה שגר ושכח".

ההתפתחות הטכנולוגית הגדולה של המאה ה-21 (צילום: 123rf)
"אנחנו נזין למחשב כמות כזו של סריקות שאף רופא לא ילמד כל החיים", אילוסטרציה | צילום: 123rf

איזה אלגוריתם ירחם על אדם שנעשה מובטל וזקוק להלוואה?

כלקוח של בנק רגיל אתה יכול להיתקל במנהל סניף שהוא רחום וחנון או כזה שנצמד לכל הכללים. אם הוא עונה לאפשרות הראשונה, הוא גם אולי ינסה טיפה להגמיש עבורך את הכללים, ילך ידבר עם מישהו בהנהלה. במודל של בנקאות ממוחשבת לחלוטין. איזה אלגוריתם ירחם על אדם שנעשה מובטל וזקוק להלוואה? לחברים בבנק הדיגיטלי די ברור שבמקרה שלהם האלגוריתם הוא חבר. "אנחנו ניגש אליך ולא נחכה שתודיע לנו שפוטרת" מסבירה שחור." אנחנו מאוד מהר יכולים לזהות זה ואפשר לבוא אליך בקטע של 'ראינו שכבר חודש לא נכנסה משכורת, אתה בסדר? הכול טוב?' אתה גולש היום ברשת ומקבל פרסומות, כל העולם היום מתבסס על מי אתה ומה אתה. ואנחנו באים מהמקום הזה שאנחנו קודם כל יודעים מי אתה".

"לזהות מחלות נדירות, כאלה שקרו פעם אחת בדרום גינאה המשוונית, זה לא משהו שמכונות טובות בו. בסוף רופאים מתעסקים במחלות הנפוצות ואנשים מתים בעיקר מהמחלות הנפוצות"

עידו רייס, איידוק

באיידוק מסייגים שהאלגוריתם שלהם לא נועד לאתר מצבים נדירים. "כמעט בכל תרחיש סביר, בטח בעתיד הקרוב, מכונות יתמקדו רק במקרים הנפוצים", קובע עידו רייס, מהנדס אלגוריתמים באיידוק. "לזהות מחלות נדירות כאלה שקרו פעם אחת בדרום גינאה המשוונית, זה לא משהו שמכונות טובות בו. בסוף רופאים מתעסקים במחלות הנפוצות ואנשים מתים בעיקר מהמחלות הנפוצות".

"יש פה מחלקה שלמה שעובדת על זה, שבוחנת מה הם הדברים שהם הכי נכונים עבורנו כחברה לתקוף", מוסיף ברגינסקי המנכ"ל. "הפרמטר העיקרי שאנחנו בוחנים לרוב יהיה לכמה מקרים נוכל לתרום תרומה משמעותית בתוך בית החולים. השאלה החשובה באמת היא כמה מהר אתה מתקדם ומצליח לכסות כמה שיותר מקרים. בסוף אני מאמין שנגיע להכול, זה ייקח זמן".

ואחרי כל זה העתיד עוד רחוק ועל זה מסכימים כמעט כולם. הדרך הטכנולוגית שדורש המעבר ממערכות ממליצות לכאלו שלוקחות פיקוד יצריך עוד התאמות רבות, בעיקר לנוכח מידת הזהירות והאחריות שנדרשת ממעבר שכזה. וגם אז, בכלל לא ברור שזו תהיה הדרך הנכונה. "העולם היום דוחף לבינה מלאכותית כי הוא מנחש שזה הפתרון, והוא לוקח פה הימור", אומר בכנות אסף וייס. "אתה יודע, כל סרטי האפוקליפסה האלה שבסוף הרובוטים מתהפכים עלינו. אך אחד לא יודע להגיד שזה לא יקרה, כל האפוקליפסה הזאתי. יש עדויות תומכות ובינה מלאכותית עושה היום דברים הרבה יותר טוב מאלגוריתמים רגילים. ועדיין, כל מה שאנחנו יודעים על בינה מלאכותית היום זה בגדר תחושה ולא ידיעה".