אם חשבנו ש״פייק ניוז״ היא מהבעיות החמורות של האינטרנט בעשור האחרון, נראה שהטכנולוגיה מצליחה להתקדם עוד יותר בכל פעם ולהציג איומים חדשים שכולם צריכים להיות מודעים אליהם. הפעם, חוקר בינה מלאכותית בשם בר הללי יצר בעצמו, ובעזרת כלים שזמינים לכל דורש, קוד המסוגל לקחת את הבעות הפנים של מצולם, ולהלביש אותן על דמותו של ראש ממשלת ישראל, בנימין נתניהו, והתוצאה מרשימה ומעוררת דאגה בו זמנית.

הכלים זמינים לכל דורש

כדי ליצור את המודל הגמיש של נתניהו, כל מה שהללי היה צריך, הוא סרטון וידאו של שלוש דקות שלו, ומודל של אוניברסיטת באזל שזמין לכל דורש באתר גיטהאב. בעזרת המידע שאסף על המטרה, הוא ״אימן״ רשת ניורונים גנרטיבית GAN (קיצור ל-Generative adversarial network) של חברת NVIDIA בשם vid2vid, גם היא זמינה לכל דורש. לבסוף הלביש את המודל התלת מימדי של נתניהו, הידוע גם כ-3DMM על גבי דמותו המלאה של נתניהו. מכאן, הללי פשוט צילם את עצמו באמצעות מצלמה פשוטה, וכל תנועת פנים שלו שנקלטה על ידי המערכת, תורגמה לאותה הבעת פנים מדוייקת – הפעם על ידי המודל התלת מימדי של נתניהו ועל ידי רשת הנוירונים הגנרטיבית.

התוצאה, כפי שאתם יכולים לראות, היא מרשימה. אמנם ניתן לראות את ה״קפיצות״ בדמות המרונדרת מחדש של נתניהו, אך שימו את הכלים הללו וכלים מתקדמים אף יותר בידיים של אדם או גורם בעל אינטרסים ומשאבים, וקיבלתם איום של ממש שיכול להטעות אנשים בקלות. בראיון מיוחד לגיקטיים, הללי מסביר כי עם עוד עבודה, הוא יכול לשכלל את הזיוף: “יותר לקלוט את המצמוץ של העיניים, תנועות של הגבות, להרחיב את הסינטוז שיעבוד על גוף שלם ולא רק על הראש. הכל אפשרי, אבל ידרוש עוד עבודה”. הללי עצמו מודע לבעייתיות של הנושא, והודיע כי הוא לא מתכוון לפרסם את הקוד שלו בגלל ״רגישויות של פרויקטים מהסוג הזה״.

החוקר מאחורי הפרויקט: גם “לא מבינים” יכולים לבנות את זה


הללי מסביר כי רבים יכולים להכין זיופים שכאלו, בלי יותר מדי בעיה: “צריך להיות טוב בכתיבת קוד, להבין פייתון. צריך להבין קצת ב-Deep Learning כדי להשתמש ברשת הניורונים. אבל בגלל שהכל בגיטהאב, גם אנשים שלא מבינים יכולים להפעיל את זה בצורה סבירה. צריך הרבה רצון וזמן”. הללי מספר שעבד על הפרויקט בסופי שבוע במשך כמה חודשים, אך “במשרה מלאה” יכל להשלים את הפרויקט תוך 3 שבועות. בנוסף, הוא מסביר שהחלק הקשה כבר מאחוריו, וכעת הוא יכול להחליף את הפרצוף של ביבי באנשים אחרים תוך ימים ספורים.

אמנם הללי עשה את הפרויקט המרשים הזה “בשביל הכיף”, ואולי לצורכי סאטירה בהמשך, אבל יש לו מסר עבור כל מי שנחשף אליו: “כבר עכשיו אני מקבל כל כך הרבה פייק ניוז לטלפון. מה ההבדל בין זה לבין וידאו מזויף? אנחנו חיים בתקופה שהכל מזויף ואי אפשר להאמין לשום דבר. בתור אזרחים אנחנו צריכים לצרוך מידע ממקורות אמינים ולהיות עירניים לזה”. הוא מוסיף כי בידיים של צווות מיומן עם מטרה ברורה, ניתן להגיע לתוצרים מדהימים ומטעים מאוד תוך שבועות קצרים.

הפעם זה בצחוק, מחר יכולה להיות אג׳נדה מסוכנת

לפני שנה העלה הבמאי והקומיקאי ג׳ורדן פיל (״Get Out״) סרטון בו הוא משלב את יכולת החיקוי שלו של נשיא ארצות הברית לשעבר, ברק אובמה, וטכנולוגיות Deepfake המשתמשות בבינה מלאכותית כדי ליצור את הרושם שאובמה אומר משפטים מגוכחים כמו ״קילמונגר צדק״ וגידופים על הנשיא טראמפ.

השימוש הנפוץ ביותר עבור טכנולוגיית ה-Deep Fakes בעת האחרונה הוא יצירת סרטוני פורנו, עליהם מולבשות פניהן של סלבריטאיות כמו טיילור סוויפט, סלינה גומז, גל גדות ועוד, ללא הסכמתן כמובן. מאז עליית הגל של סרטוני הפורנו המזויפים, אפילו פלטפורמות ענק כמו PornHub ורדיט אסרו על העלאה של תכנים אלו. אבל לא תמיד השימושים של הטכנולוגיה הם שליליים: חוקרים מברקלי הצליחו ליצור תוכנה שתאפשר לכל אחד ״לרקוד״ כמו ברונו מארס או רקדניות בלט מהשורה הראשונה.

פורסם ב-Geektime

עוד ב-Geektime

גם לכם נמאס לכם לראות ילדים מחופשים בפייסבוק? יש לנו פתרון
מתלבטים? אז מה ההבדלים בין ה-Surface Book 2 ל-Macbook Pro?

בעידן שבו האמת כבר בקושי משחקת תפקיד, ושקרים יכולים להשפיע באותה קלות על דעת הציבור בעזרת טכנולוגיה, מוטב להיזהר מסכנות חדשות. במיוחד בעת תקופת בחירות.