בעידן הבינה המלאכותית, כולנו צריכים לחשוב כמו פיזיקאים

כשלמדתי פיזיקה, חשבתי שאני לומדת בעיקר נוסחאות, משוואות וחוקים שמסבירים איך העולם עובד. רק מאוחר יותר הבנתי שהדבר החשוב ביותר שקיבלתי מהלימודים לא היה נוסחה מסוימת, אלא דרך להסתכל על העולם: לחפש את המנגנון שמאחורי התופעה, ולהבין שגם כשמשהו נראה ברור, ייתכן שיש עוד שכבה מתחת לפני השטח. היום אני חושבת שזו גם אחת המיומנויות החשובות ביותר לעבודה עם בינה מלאכותית.

בעידן הבינה המלאכותית, צורת החשיבה הזאת מרגישה רלוונטית מתמיד. לא משום שכולנו צריכים להיות פיזיקאים, אלא משום שכולנו צריכים ללמוד להיות סקרנים יותר בצורה מדעית - או כפי שהאסטרונום והפיזיקאי קרל סייגן אמר, “מדע הוא הרבה יותר דרך חשיבה מאשר אוסף של ידע". במובן הזה, האתגר הגדול של עידן ה-AI איננו מחסור בתשובות, אלא היכולת להבין אילו מהן ראויות לאמון.

השפע יוצר פרדוקס

הבינה המלאכותית שינתה את היחס שלנו לידע. בתוך שניות אפשר לקבל תקציר, הסבר, המלצה, ניתוח או טיוטה כמעט לכל נושא. אבל דווקא השפע הזה יוצר פרדוקס: ככל שקל יותר לקבל תשובה, כך קל יותר להסתפק בה. כשהכול מנוסח בצורה רהוטה ובטוחה, האחריות שלנו היא לעצור ולשאול: על מה זה מבוסס, מה חסר כאן, ומה עוד יכול להסביר את זה?

סקרנות מדעית היא לא רק הרצון לדעת את התשובה. היא הרצון להבין איך הגענו אליה: איזה תהליך הוביל לשם, אילו הנחות הנחנו, ומה יקרה אם נשנה אחת מהן. זו סקרנות שלא מפחדת מאי־ודאות; היא מתחילה בדיוק במקום שבו הדברים לא לגמרי ברורים, ומאפשרת לנו לפרק תופעה מורכבת לחלקים כדי להרכיב מחדש תמונה טובה יותר של המציאות.

התמונה הזו עשויה להתחיל ממודל פשוט מאוד, אפילו כזה שמתעלם מחיכוך או מהפרעות אחרות. אחר כך בהחלט אפשר ואף רצוי מוסיפים מורכבות. החוכמה היא לא לחשוב שהמודל הוא המציאות עצמה, אלא להבין שמדובר בכלי חשיבה: שימושי, אבל מוגבל. במובן הזה, המטרה אינה למצוא מיד את המודל המושלם, אלא למצוא מודל שימושי מספיק כדי להתקדם, ולעדכן אותו ככל שמצטברות ראיות חדשות.

בעבודה השוטפת שלי עם מערכות גדולות ומורכבות, אני פוגשת את זה בצורה מאוד מעשית. לא תמיד אפשר להבין הכול בבת אחת, ולכן צריך לעבוד כמעט כמו בניסוי מדעי: להעלות השערה, לבדוק אותה מול תצפיות, לבודד משתנה אחד אם אפשר, לשלול אפשרות אחת, ואז להתקדם לשלב הבא. זו לא סקרנות תיאורטית שנשארת על הנייר, אלא דרך להפוך אי־ודאות לסדרה של בדיקות קטנות יותר. כך הסקרנות מפסיקה להיות עמדה מחשבתית בלבד, והופכת לשיטה: לאסוף ראיות, לצמצם אפשרויות, ולבנות הבנה צעד אחר צעד.

באחד האירועים שחקרנו, מספר רב של שירותים פנימיים החלו להיכשל כמעט במקביל. במשך שעות הצוותים אספו נתונים, חיפשו מכנים משותפים ובנו תמונה של האירוע. בסופו של דבר נמצא גורם משותף שנראה כאילו מסביר את מה שאנחנו רואים. הוא התאים לעובדות, התאים לעיתוי, והתאים כמעט לכל הסימפטומים.

ככל שבחנו את הנתונים, ההסבר הזה הלך והתחזק. ובכל זאת, לא הצלחתי להשתחרר מהתחושה שאנחנו קצת מקלים על עצמנו. לא משום שההשערה הייתה גרועה, אלא דווקא משום שהיא הייתה נוחה מדי. היא הסבירה כמעט הכול, אבל לא ממש הכול. כשחזרנו ובחנו פרט נוסף שנראה בתחילה שולי, התברר שהתמונה מורכבת יותר. הגורם שמצאנו אכן היה חלק מהסיפור, אבל לא הסיפור כולו.

בעיניי, זו אחת המיומנויות החשובות ביותר של חשיבה מדעית: לא רק למצוא הסבר, אלא לזהות מתי הסבר טוב עדיין אינו מספק. בעולם של בינה מלאכותית, זו יכולת שהופכת לחשובה אפילו יותר. לא משום שקשה לקבל תשובה, אלא משום שקל מדי לקבל תשובה שנשמעת נכונה ולהפסיק לשאול שאלות.

חדשנות אמיתית לא מתחילה בטכנולוגיה חדשה, אלא בסקרנות לשאול שאלות טובות יותר. זו גם אחת הסיבות שאני נהנית לעבוד ב-Imperva-Thales- בסביבה שמעודדת חקירה, התנסות וחשיבה עצמאית, יש מקום לא רק למצוא תשובות אלא גם לבנות מערכות שמסייעות להבין אותן: לשפר את הנראות של תהליכים מורכבים, לאסוף ראיות בצורה טובה יותר ולהפוך בעיות שנראות בתחילה מסתוריות למשהו שאפשר לחקור ולהבין. זו בדיוק התרבות שנדרשת כדי לייצר חדשנות ולהתמודד עם המורכבות של עולם ה-AI.

בינה זו אכן מחשבה, לא רק כלים

התרבות הזו מתכתבת היטב גם עם הגישה שמתבססת כיום ביחס לשילוב אמיתי ונכון של AI. בבסיסה עומדת ההבנה שסקרנות מדעית אינה ציניות. היא לא התנגדות לטכנולוגיה ולא חיפוש כפייתי אחר טעויות, אלא התלהבות אמיתית להבין איך דברים עובדים. אדם סקרן מבחינה מדעית לא אומר מיד “זה לא נכון”, אבל גם לא אומר מיד “זה בטוח נכון”. הוא שואל: איך אנחנו יודעים, מה הראיות, איפה הגבולות, ומה עוד יכול להיות כאן?

הרבה מהשיח סביב בינה מלאכותית מתמקד בשאלה איך להשתמש בכלים: איך לכתוב פרומפט טוב יותר, איך לחסוך זמן ואיך לייעל עבודה. כל אלה חשובים, אבל הם לא מספיקים. אם אנחנו רוצים להכין אנשים לעולם של AI, אוריינות טכנולוגית חייבת לכלול גם הרגלי חשיבה מדעיים: ניסוח שאלות טובות, בדיקת טענות, הבנת אי־ודאות, הבחנה בין קשר לסיבתיות וחשיבה על מערכות מורכבות.

אני לא משתמשת ביום־יום ברוב הנוסחאות שלמדתי בתואר בפיזיקה. אבל אני משתמשת כל הזמן בסקרנות שהפיזיקה חידדה בי: לא להסתפק בתשובה הראשונה, לחפש את המנגנון שמאחורי הדברים, לבדוק הנחות ולהישאר צנועה מול מורכבות. בעולם שבו מכונות יכולות לייצר תשובות במהירות מדהימה, היתרון האנושי לא יהיה לדעת הכול, אלא לדעת איך להפוך תשובה להבנה.

מאת מאיה בן אהרן - Incident Manager, Imperva-Thales