תשלחו להורים: גוגל משיקה לקהל הרחב את הכלי שמזהה AI - אבל הוא רחוק מלהיות מושלם

גוגל פותחת לכל המשתמשים את SynthID Detector, כלי אינטרנטי שמזהה תוכן שנוצר או נערך בעזרת בינה מלאכותית, לפי הודעת החברה. הכלי מסוגל לסמן תמונות, סרטונים וקטעי אודיו שנוצרו בכלי AI של גוגל, OpenAI, אנבידיה ו-Kakao, והשימוש בו חינמי - אבל דורש התחברות באמצעות חשבון גוגל, OpenAI או אפל.

האתר יהיה גם אחד מכלי הזיהוי הראשונים שיוכלו לזהות תמונות שנוצרו באמצעות יכולות ה-AI של אפל, כמו Image Playground. בגוגל אומרים שתמיכה בתמונות שנוצרו ונערכו באמצעות Apple Intelligence תגיע "בקרוב".

גוגל עובדת על SynthID Detector כבר יותר משנה, ובעבר פתחה גרסאות שלו לעיתונאים. כעת כל אחד יכול להיכנס ל-synthid.com ולבדוק אם פריט תוכן כולל סימן מים של SynthID. לחברה יש גם דרכים נוספות לזהות סימני מים של SynthID ואישורי תוכן מסוג C2PA, בין היתר דרך Circle to Search ואפליקציית ג'מיני, אבל אתר ייעודי הופך את הבדיקה לנגישה יותר גם למי שלא משתמשים בכלי ה-AI של גוגל או שלא מורגל לעשות זאת.

ועדיין, כמו בכל כלי לזיהוי AI, יש כאן מגבלות לא קטנות. SynthID Detector לא יכול לזהות כל תוכן שנוצר בבינה מלאכותית, משום שחברות שונות משתמשות בתקנים אחרים לסימון מים, לכן סרטונים שנוצרו למשל בעזרת סידנס 2.5, מודל הווידאו הפופולרי, לא יזוהו כבינה מלאכותית. במקרים מסוימים אפשר גם להסיר סימני מים מתוכן, והאתר של גוגל לא מבדיל בין תוכן שנוצר כולו ב-AI לבין תוכן שרק נערך באמצעותו. כלומר, הוא לא יספק פירוט על הדרך שבה פריט תוכן מסוים נוצר או אילו חלקים בו סינתטיים.

המשמעות היא שגם אחרי פתיחת הכלי לציבור, אימות תוכן שנוצר ב-AI עדיין רחוק מלהיות ודאי. כלי זיהוי כמו SynthID Detector נשענים על אוסף תקנים שונים, ואין כיום "בודק אוניברסלי" אחד. מטא, למשל, ניסתה כלי אינטרנטי משלה, שמזהה תמונות שנוצרו או נערכו במודלי Muse Image החדשים שלה - אבל לא תמונות מחברות אחרות, ואפילו לא כאלה שנוצרו במודלים קודמים שלה.

חשוב לציין שהכלי לא אמור לזהות פייק, דבר שלפעמים גם תלוי קונטקסט, אלא למצוא סימוני מים. אנחנו בדקנו לדוגמה גם סרטון AI שנוצר באמצעות מודל סידנס 2.5 על ידי יהונתן ויכטר שבו נראים כל מיני אושיות ישראליות מוכרות ברכב. הכלי לא הצליח לזהות שמדובר בבינה מלאכותית מהסיבה שהוא לא נעשה באחד הכלים המוכרים לו ולכן גם לא נושא את סימון המים המדובר. תמונה נוספת שנעשתה ב-AI אבל כנראה עוד לפני שסימון המים נכנס לתמונה בכלל גם לא מצא כזה. הילד העזתי עם 6 האצבעות "עבר את המבחן" למרות שכולנו כבר ידענו שהוא לא אמיתי. להגנת גוגל יש להודות שכדי להגיע לכלי אוניברסלי שיודע לזהות מה אמיתי ומה לא יש צורך בשיתוף פעולה רחב - משהו שהחברה מנסה לעשות כבר זמן רב.

בגוגל מעריכים כי עוד חברות יצטרפו בהמשך לתמיכה ב-SynthID. החברה כבר אמרה בעבר ש-ElevenLabs התחייבה להוסיף תמיכה בסימני המים, ובאתר שלה נכתב כי היא "עובדת באופן מתמשך על הרחבת השותפויות שלנו כדי לאפשר זיהוי של יותר מדיה שנוצרה".