"הם מנסים לשלב טכנולוגיה פורצת דרך שלא הצליחו להתגבר עליה"

"אפשר היה לראות את החלק העליון של התחתונים שלה כשהיא התכופפה" – הציטוט הזה לא נלקח מסרט למבוגרים בלבד, אלא מתרגיל באנגלית שניתן לתלמידי כיתה ט׳ בבית ספר ברמת השרון, לצד תמונה בה נראית אישה שוכבת על כדור עם גוזיית ספורט ומכנס קצר. תרגיל זה מצטרף לשורת מקרים בהם תכנים שנויים במחלוקת ניתנו לילדים כחלק מתוכנת AI לתרגול אנגלית, תוכנה המאושרת על ידי משרד החינוך.

"גיליתי על זה מהוואטסאפ הכיתתי של ההורים. הילדים קיבלו מעין תוכנה שעוזרת להם ללמוד אנגלית. הם צריכים לעשות תרגול של 40 דקות ביום. התוכנה מאושרת על ידי משרד החינוך שזה הדבר הכי הזוי", מספר הורה לילדה בכיתה ט׳ בבית הספר עלומים ברמת השרון, "אחד מהילדים היה צריך לתרגם פרטים שהם ממש מביכים. מביך אותי שיש מערכת כזו שלא עברה ולידציה כמו שצריך".

"החברה התחייבה לדאוג שכל החומר יתאים לבתי ספר"

חוץ מ"מקרה התחתונים", הילדים נתקלו בתוכנה בעוד כמה תרגילים שנויים במחלוקת לתרגום כמו: "אני לא מצליח להשתחרר מהרגשות הכחולים שאני חווה לאחרונה" ו"During active labor, your cervix will dilate from 6 centimeters to 10 centimeters".

ההורים שלחו את צילומי המסך לבית הספר, שם ענו להם: "תוכנית Magnilearn היא באישור של משרד החינוך. זאת תכנית שמשתמשת ב AI – התוכנית מייצרת תכנית אישית לכל תלמיד – מתוך מאגר אוצר המילים המאושרת על ידי משרד החינוך שהתלמידים לומדים מכיתה ד' עד כיתה י''ב. בעזרת התוכנית כל תלמיד לומד ומתקדם על פי הידע ויכולת שלו. התוכנית גם משתמשת בחומרים אחרים: יש מגוון תוכניות מורחבות שהן מעבר לספרי הלימוד, חלקן תוכניות לימוד מתקדמות יותר וחלקן תוכניות בינלאומיות. המטרה לאתגר תלמידים שכבר יודעים היטב את אוצר המילים של החטיבה. מאחר שהמשפטים נוצרים על AI ואישית לכל תלמיד, נופלות טעויות. אנחנו כבר פנינו מספר פעמים לחברת Magnilearn והם הבטיחו שיטפלו. חשוב לציין ששני התרגולים שדווחו הוסרו מהמערכת ומטופלים. החברה התחייבה לדאוג שכל החומר יתאים לבתי ספר.  הם מעידים כי הדרך הכי יעילה ומהירה לדווח על תוכן, על מנת שייבדק ויוסר במידת הצורך - היא ללחוץ על feedback button בדף התרגיל. לכן, אם יש עוד מקרה, מוזמנים לדווח ישירות".

"העובדה היא שיש מערכת שמשרד החינוך לא בדק, תכנים שהם בטח לא הולמים לילדים וילדות בכיתה ט׳. זו דוגמה אחת לכישלון של מערכת החינוך שלנו. הם מנסים לשלב טכנולוגיה פורצת דרך של AI שלא הצליחו להתגבר עליה. המערכת לא רואה בכך בעיה, מבחינתם מקסימום אם רואים שהילדים קיבלו תרגיל עם תחתונים של בנות אז שידווחו. כן, אני בטוח שילדים עם מערכת הורמונלית בכיתה ט׳ בטח יעשו את זה", הוא אומר.

כמי שעובד בהייטק ובעל ניסיון בעצמו עם מערכות AI הוא מדגיש: "יש מערכות בינה מלאכותית בהן מגדירים סוגים שונים שהמערכת לא תיתן עליהם תשובות ועושים סינון. אלו מערכות יותר יקרות ומסובכות ליצירה אבל משרד החינוך היה צריך לוודא שמסננים החוצה תכנים כאלה ולוודא שאין מקרים נוספים כאלו במערכת. ברגע שיש תופעות כאלה צריך לעצור הכול עד שמתקנים. בכל מה שקשור לתלמידים, ובטח צעירים בחטיבת הביניים, חייבים לעשות הכול ביתר שאת ובזהירות. זה נראה שיש כאן בעיה בשיקול הדעת של מה הם תכנים ראויים לילדים בחטיבת ביניים".

"המשפט הראשון יועד ללמד רמה מתקדמת"

משרד החינוך פנה לחברת מגנילרן בעקבות כך. ״במערכת לומדים מעל 20,000 תלמידים בארץ ובעולם (ישראל, קוריאה ויפן). מתחילת שנת הלימודים תשפ"ד, בישראל, פתרו התלמידים 29,250 תרגילים במגוון נושאים ורמות לימוד שונות. מגנילרן רשומה כתוכנית במאגר גפ"ן וקיבלה אישורים פדגוגיים וטכנולוגיים כנדרש ממשרד החינוך. מתוך 29,520 משפטים שהושלמו על ידי אלפי תלמידים, הגיעה אלינו תלונה על שני תרגילים עם תוכן שנוי במחלוקת. המשפט הראשון שהובא לתשומת לבנו אשר יועד ללמד רמה מתקדמת, תיאר תהליך מדעי ביולוגי. המשפט הנוסף, אכן לא מתאים לתלמידי תיכון ולכל היותר נתון לפרשנות. נציין כי כל התכנים נכתבו על ידי מורים מקצועיים, ועומדים בסטנדרטים בינלאומיים. עם זאת, ומבלי לגרוע מהאמור, הורינו להגביר מיידית את הבקרה ולעשות את כל המאמצים לוודא שהתוכן מבוקר, מסונן וראוי", כתבו מגנילרן למשרד החינוך בתגובה.