חברה אמריקאית תובעת סטארטאפ ישראלי: "AI המציא קשר לריגול סיני"
לפי כתב התביעה, חברת Koi Security הישראלית, שנקנתה השנה על ידי פאלו אלטו ב-400 מיליון דולר, פרסמה דוח שהתבסס על שגיאה של AI ויצר קשרים שלא התקיימו בין חברת MeetingTV לקבוצת תקיפה סינית. פאלו אלטו בתגובה: "מצפים שמחלוקת זו תיפתר באמצעות ההליך המשפטי המתאים"
חברת MeetingTV, שמציעה שירותי וידיאו וובינרים, הגישה תביעת דיבה נגד פאלו אלטו נטוורקס ונגד חברת מודיעין הסייבר הישראלי Koi Security, בטענה שדו"ח שפרסמה האחרונה קשר אותה בטעות למבצע ריגול סיני, לאחר שממצאים שנוצרו לכאורה באמצעות בינה מלאכותית הוצגו כעובדות.
לפי כתב התביעה, דוח שפורסם ב-30 בדצמבר טען כי שירות Zoomcorder של MeetingTV שימש "חזית ציבורית" לארגון פשיעת סייבר סיני, וסייע להעניק לגיטימציה לתשתיות התקיפה ואף לשמש אפיק הכנסה. החברה טוענת שהמסקנות הללו התבססו על פלט שגוי של מערכת AI, שיצרה קשרים שלא התקיימו בין פעילות החברה לבין קבוצת תקיפה שכונתה DarkSpectre.
לטענת MeetingTV, בעקבות הפרסום חברות אבטחה וספקיות שירות ברחבי העולם חסמו את הדומיינים והשירותים שלה, וסיווגו אותם כתשתיות נוזקה ושליטה ובקרה. מייסד ומנכ"ל החברה, מייקל רוברטסון, סיפר כי כלל לא ידע על דוח עד שלקוחות החלו להיתקל בחסימות. לדבריו, Koi לא פנתה אליו לפני הפרסום וגם לא אחריו.
באפריל השלימה פאלו אלטו את רכישת Koi Security, שפיתחה טכנולוגיות מודיעין איומים מבוססות AI, תמורת 400 מיליון דולר. החברה נוסדה ב-2024 על ידי איתי קרוק, עידן דרדיקמן ועמית אסרף.
לאחר הרכישה פנה רוברטסון ישירות למנכ"ל פאלו אלטו, ניקש ארורה, ודרש להסיר את הדוח, לפרסם התנצלות ולעדכן את רשימות החסימה של החברה, שלטענתו עדיין כוללות את שירותי MeetingTV.
לטענת התביעה, אחד מיסודות הדוח היה תוסף דפדפן בשם Twitter X Video Downloader, שלפי MeetingTV כלל אינו קיים. החברה טוענת כי כשביקשה מ-Koi מידע על התוסף, היא לא קיבלה כל הוכחה לקיומו.
ב-12 בפברואר, Koi אכן ביצעה עדכון שקט בתחתית הדוח המקורי והסירה דומיין אחד של MeetingTV. בהערה נכתב כי למרות שהדומיין הופיע בקוד שנותח, "קבענו כי אין ראיות לכך שדומיין זה מחובר או קשור בדרך כלשהי לתשתית הזדונית או לקבוצת גורמי האיום המופיעה בדוח". עם זאת, הכותרת נותרה כשהייתה, ורוברטסון טוען כי התיקון הגיע מאוחר מדי לאחר שהדוח כבר הופץ למאות מוצרי אבטחה.
דובר מטעם פאלו אלטו נטוורקס מסר ל-The Register כי החברה "מודעת לתביעה שהוגשה על ידי MeetingTV בנוגע לדוח מחקר איומים שפורסם על ידי Koi Security טרם הרכישה", אך סירב לענות על שאלות ספציפיות לגבי טענותיה של MeetingTV והבלוג של Koi.
"אנו מאמינים שמחקר אבטחת הסייבר של Koi משקף את מחויבותה לזיהוי וחשיפת איומים למשתמשים ולארגונים, ואנו מצפים שמחלוקת זו תיפתר באמצעות ההליך המשפטי המתאים", אמר הדובר.
רוברטסון טוען כי הפרשה ממחישה את הסיכון שבהסתמכות על מערכות AI ללא פיקוח אנושי. לדבריו, אם מערכות כאלה ישמשו לקבלת החלטות בעלות השלכות משמעותיות על אנשים וחברות, חייב להיות מנגנון שיאפשר בדיקה, ערעור ותיקון טעויות.