"זה דיפ-פייק": הטריק שמאפשר לכל פוליטיקאי לברוח מאחריות
תיקון לחוק הבחירות המחייב סימון תוכני AI בקמפיינים ומעניק לוועדת הבחירות סמכות לאכוף זאת - הוא צעד חובה לקראת הבחירות • בישראל, שמובילה בעולם באימוץ בינה מלאכותית אך נמצאת בתחתית טבלאות האוריינות הדיגיטלית, הסיכון גדול במיוחד • ואל תטעו: זו לא צנזורה - זו הגנה בסיסית על יכולת הציבור לדעת מה אמיתי • דעה
לכאורה, התיקון לחוק הבחירות שנדון היום בוועדת החוקה קטן וטכני: אם יאושר, תעמולת בחירות שנוצרה או שונתה באופן מהותי באמצעות בינה מלאכותית – אם היא טקסט, תמונה, וידיאו או קובץ קול – תחויב בסימון. למעשה, זו אחת מהצעות החוק החשובות ביותר שקודמו בישראל מאז פרצה הבינה המלאכותית לחיינו.
במשך שנים נדמה היה שהוויכוח הוא אם מותר להפיץ שקרים בבחירות. באופן מפתיע או שלא, בישראל לא קיים איסור כללי כזה, אבל זה אפילו כבר לא העניין. הבעיה שיוצרת הבינה המלאכותית אינה השקר, אלא העובדה שככל שהיא משתכללת – הציבור מאבד את היכולת לדעת מה נוצר בידי אדם ומה בידי מכונה.
היכולת לברר את המציאות איננה מותרות, אלא תנאי מוקדם למימושו של הליך דמוקרטי תקין. בוחר שאינו יודע אם הסרטון שהוא צופה בו תיעד אירוע אמיתי או נוצר באמצעות בינה מלאכותית, מתקשה מאוד לקבל החלטה פוליטית מושכלת. במדינת ישראל האתגר גדול במיוחד. מצד אחד, אנחנו אחת המדינות המובילות בעולם באימוץ כלי בינה מלאכותית בכלל וצ'אטבוטים בפרט. מצד שני, כל המחקרים ההשוואתיים הבין-לאומיים מגלים שרמת האוריינות הדיגיטלית ואוריינות התקשורת של הישראלים – נמוכות. השילוב הזה הופך אותנו פגיעים במיוחד למניפולציות.
גרוע מכך: יכולות הג'נרוט (ייצור אוטומטי של תכנים) של מערכות מבוססות בינה מלאכותית יוצרות את מה שחוקרים מכנים "הדיווידנד של השקרנים". מרגע שכולנו יודעים שאפשר לזייף כמעט כל דבר, גם סרטונים אמיתיים הופכים קלים להכחשה. כל פוליטיקאי שנתפס אומר דבר מה יכול פשוט לטעון: "זה דיפ-פייק". לכן סימון של תוכן שנוצר באמצעות בינה מלאכותית מחזק גם את האמון במה שלא סומן.
הכללת חובת הסימון של תכנים כאלה בתוך חוק הבחירות איננה חשובה רק בגלל הסימון עצמו, אלא בשל הכלים שהיא מעניקה ליושב ראש ועדת הבחירות: סמכות לדרוש הסרה של תכנים שאינם מסומנים, להטיל עיצומים על מפרסמים ולפנות לפלטפורמות הדיגיטליות בדרישה שיוסיפו סימון מתאים. כדאי להפריך כבר עכשיו את הטענה שלפיה "אי אפשר בכלל לסמן". דווקא אפשר. האיחוד האירופי פרסם לאחרונה הנחיות מפורטות כיצד לסמן תוכן כזה, גם בצורה גלויה לבני אדם וגם באמצעות סימון טכנולוגי שמאפשר לפלטפורמות לזהות אותו. ראוי שהצעת החוק תחייב את יו"ר ועדת הבחירות לפרסם הנחיות יישום דומות.
אבל הסעיף עצמו לא מספיק, חשוב גם שהנוסח שלו יהיה מדויק: ההצעה מתמקדת כרגע במונח "דיפ-פייק", או בתרגום העברי שלו: "נחזות עמוקה". אלא ש"דיפ-פייק" הוא שם של טכנולוגיה אחת, והמחוקק אינו צריך להסדיר טכנולוגיה – הוא צריך להסדיר עיקרון: האם תוכן מסוים נוצר או שונה באופן מהותי שעלול לגרום לאדם סביר לחשוב שהוא משקף מציאות שלא הייתה?
צריך גם לזכור שזהו רק צעד ראשון. מערכות בינה מלאכותית ישפיעו על הבחירות גם באמצעות צ'אטבוטים, שכנוע מותאם אישית, הפעלת סוכנים אוטונומיים, מניפולציות רגשיות ועוד. החוק הזה אינו פותר את כל הבעיות, אבל הוא מתחיל לבנות את השפה הרגולטורית שנזדקק לה.
ולמי שמתחיל להתגרד כי הוא חושש מצנזורה, נבהיר: איש אינו אוסר להשתמש בבינה מלאכותית בקמפיין פוליטי. להפך. מותר לייצר כרזות, סרטונים, נאומים ואפילו הומור באמצעות AI. הדרישה היחידה היא יושר בסיסי כלפי הציבור: אם שיניתם באופן מהותי את המציאות באמצעות בינה מלאכותית, או יצרתם מציאות שלא הייתה, ספרו לנו. זו אינה מלחמה בבינה מלאכותית וגם לא בחופש הביטוי אלא מלחמה בהטעיה. אם אתם עומדים מאחורי המסר שלכם, חתמו עליו. ואם מכונה יצרה אותו, סמנו זאת.
>>> ד"ר תהילה שוורץ אלטשולר היא ראשת התוכנית לדמוקרטיה בעידן המידע ועמיתה בכירה במכון הישראלי לדמוקרטיה