איך אפשר לזהות אם סרטון, תמונה או הקלטת קול שנשלחו אליי נוצרו באמצעות AI?

תמונות שנראות מציאותיות, סרטונים שבהם אנשים אומרים דברים שמעולם לא אמרו וקולות שקשה להבחין בינם לבין קול אנושי – כולנו פוגשים ברשת תוכן שנוצר או עבר מניפולציה באמצעות AI, הבעיה היא שלא תמיד אנחנו מצליחים לזהות את זה תוך כדי צפייה. היכולות המתקדמות של כלי ה-AI השונים מקשות יותר ויותר להבחין בין תוכן מקורי מזויף, ונכון להיום, אין עדיין בדיקה אחת שיכולה לקבוע בוודאות אם תמונה, סרטון או הקלטה נוצרו באמצעות AI. אז מה בכל זאת ניתן לעשות כדי להעריך את מידת האמינות של תוכן שנראה לנו בעייתי?

איך בודקים? – 3 צעדים פשוטים

לבדוק מי המקור והאם אפשר למצוא את הפרסום המקורי. השלב הראשון הוא לבדוק מאין התוכן הגיע, מי פרסם אותו לראשונה, מתי והיכן הוא הופיע והאם אפשר למצוא את הגרסה המקורית שלו. במקרה של תמונה אפשר לבצע חיפוש, למשל באמצעות Google Lens, ולבדוק אם אותה תמונה הופיעה קודם באתר חדשות, ברשת חברתית או במקור אחר.

לחפש סימנים חריגים בתמונה/וידאו או בקול. ישנם לא מעט מאפיינים חריגים שעשויים להעיד על תוכן לא אמין. למשל, בתמונה או בווידאו אפשר לבדוק אם הטקסט נראה משובש, אם הידיים, השיניים או פרטי הרקע אינם עקביים או אם הצללים והתאורה אינם מתאימים. בווידאו כדאי לשים לב גם לשינויים לא מוסברים בפנים, בתנועות הפה או בפרטים שמתחלפים בין פריימים. בהקלטת קול אפשר לשים לב לדיבור שנשמע אחיד או "מושלם" מדי, להטעמה או לקצב שאינם טבעיים ולשינויים חריגים באינטונציה.

להשתמש בכלי אימות מתאימים ולבדוק אם קיימים סימוני מקור. כאשר יש גישה לקובץ המקורי, אפשר להשתמש בכלי אימות וניתוח ייעודיים ולבדוק אם קיימים בו מה שנקרא "Content Credentials", סימוני מקור שיכולים לתעד את מקור הקובץ, מי או איזה כלי יצר או ערך אותו ולעתים גם אילו פעולות בוצעו בו. חשוב להבין שגם אם לא נמצא סימון כזה, זה לא אומר בהכרח שהקובץ לא אמיתי, כיוון שסימונים עלולים להיעלם בשלבים שונים כמו במהלך העברה או העלאה לרשת.

מה צריך להדליק נורה אדומה?

יש כמה סימנים מרכזיים שעשויים לעורר חשד לכך שתמונה, סרטון או הקלטת קול נוצרו או עברו מניפולציה באמצעות AI: טקסט שמופיע בתמונה ונראה משובש או חסר משמעות, פרטים או חפצים שנראים לא טבעיים, רקע לא עקבי, תאורה לא מותאמת או מוגזמת ותנועות פנים או גוף לא טבעיות. בווידאו אפשר לשים לב גם לסנכרון חשוד בין תנועות השפתיים לקול, ובקול עצמו לשינויים לא טבעיים בקצב, בהטעמה או באיכות ההקלטה.

עם זאת, חשוב לזכור שאף אחד מהסימנים האלה אינו מהווה בפני עצמו הוכחה לכך שהתוכן נוצר ב-AI. תמונה אמיתית יכולה לכלול פגמים בגלל צילום או דחיסה, וסרטון או הקלטה יכולים לעבור עריכה מסיבות לגיטימיות. לכן כדאי להתייחס לסימנים כאלה כאל סיבה לבדיקה נוספת, ולא כאל הוכחה חד-משמעית.

איך מזהים תמונה שנוצרה ב-AI?

מחפשים פרטים לא טבעיים כמו טקסט משובש, אצבעות או תווי פנים חריגים, רקע לא עקבי ותאורה או צללים שלא מסתדרים. עם זאת, קשה לזהות תמונות AI בוודאות רק לפי המראה, ולכן מומלץ לבדוק גם את מקור התמונה ולהשתמש בכלי אימות מתאימים.

איך מזהים סרטון דיפ-פייק (Deepfake)?

עוקבים אחרי סנכרון בין תנועות השפתיים לקול, תנועות פנים או גוף לא טבעיות, ושינויים חריגים אחרים שמופיעים במהלך הסרטון. כדאי גם לבדוק אם קיימת גרסה מקורית של הסרטון ומה היה ההקשר שבו הוא פורסם לראשונה.

איך אפשר לזהות קול שנוצר ב-AI?

קול שנוצר ב-AI עשוי להישמע אחיד או חלק מדי, עם אינטונציה, הפסקות או הדגשות לא טבעיות.

האם כלי לזיהוי AI באמת אמינים?

כלי זיהוי AI יכולים לספק אינדיקציה, אבל אין כיום כלי שמסוגל לקבוע בוודאות שכל תמונה, סרטון או הקלטה נוצרו באמצעות AI. לא כדאי להסתמך על תוצאה של כלי אחד בלבד, ועדיף לשלב אותה עם בדיקת המקור וההקשר של התוכן.

מה עושים אם לא בטוחים אם הסרטון אמיתי?

כדאי לבדוק מי פרסם אותו, לחפש את הסרטון או פריימים מתוכו במקורות אחרים, לבדוק אם קיימת גרסה מקורית ולבחון את הקובץ באמצעות כלי אימות מתאימים.