OpenAI חשפה שחסמה מבצע השפעה רוסי: "הציגו את עצמם כמכון שיושב בישראל"

OpenAI חסמה מקבץ חשבונות ChatGPT שלדבריה הגיעו בסבירות גבוהה מרוסיה ושימשו לקידום International Burke Institute, או IBI - גוף שמציג את עצמו כ"קהילת מומחים" שיושבת בישראל. לפי דוח של החברה, החקירה התחילה מפוסטים שנוצרו בבינה מלאכותית ברשתות, והובילה למבצע השפעה רחב יותר שכלל אתר עם עבודות אקדמיות שהועתקו ויוחסו באופן שגוי, "מדד ריבונות" שהציג את רוסיה באור חיובי, וניסיונות לטשטש את המקור הרוסי של המפעילים.

"למיטב ידיעתנו, מדובר בקמפיין השפעה סמוי חדש שלא דווח בעבר", נכתב בדוח. ב-OpenAI אמרו כי זו הפעם הראשונה שבה החברה משבשת מבצע השפעה הקשור לרוסיה שהושקעו בו מאמצים מורכבים כל כך. עם זאת, לפי החברה, החשיפה לקמפיין הייתה מצומצמת יחסית: פוסטים טיפוסיים ברשתות קיבלו מעט צפיות, ולחשבונות הרשמיים של IBI היו מעט מנויים.

לפי OpenAI, המפעילים השתמשו ב-ChatGPT בעיקר כדי לייצר פוסטים ותגובות שקידמו מאמרים באתר IBI. התכנים זוהו ב-X, לינקדאין, פייסבוק, סאבסטאק וטלגרם. חלקם פורסמו מחשבונות שנשאו את השם והלוגו של IBI, ואחרים נראו כאילו הגיעו ממשתמשים רגילים, שלפי החברה היו ככל הנראה לא אותנטיים, ועיקר הפעילות שלהם הייתה פרסום מאמרי IBI.

המפעילים כתבו ל-ChatGPT פרומפטים ברוסית כדי לייצר תגובות לרשתות, אבל רוב התגובות שנוצרו היו באנגלית. לפי OpenAI, הם גם ביקשו מהמערכת להסתיר סימנים לשוניים שיסגירו שהם רוסים. מכיוון שהחברה אינה מאפשרת גישה למודלים שלה מרוסיה, המפעילים השתמשו ב-VPN כדי להתחבר לפלטפורמה.

האתר של IBI נרשם בפברואר 2025 וטען כי המכון מבוסס בישראל. לפי OpenAI, המאמרים שפורסמו באתר לא נוצרו באמצעות המודלים שלה. רבים מהם הועתקו מכתיבה אקדמית אמיתית, לעתים תוך ייחוס כוזב, וחלקם נראו כאילו נכתבו בידי דובר שפה סלאבית ותורגמו במכונה. בדוגמה אחת שהובאה בדוח, מאמר על גרמניה השתמש בביטוי "the Svetofor coalition" במקום לתאר את קואליציית "הרמזור" הגרמנית. המילה svetofor פירושה רמזור בכמה שפות סלאביות, ובהן רוסית, ולפי OpenAI היא כמעט לא סבירה כדימוי טבעי באנגלית או בגרמנית.

לפי הדוח, נכון ל-17 ביולי אתר IBI הציג שורה של מומחים ברמה עולמית, בהם פרנסיס פוקויאמה ונועם חומסקי, ופרסם מגוון רחב של מחקרים. בבדיקה של מדגם של 36 מאמרים שקושרו למומחים באתר ופורסמו בין ספטמבר 2025 למאי 2026, OpenAI מצאה כי 34 מהם הועתקו ממקומות אחרים באינטרנט.

במקרה אחד, מאמר על המסדרון הכלכלי סין-פקיסטן נראה כאילו הועתק ממקור של Cambridge University Press, אבל יוחס בטעות לפרופ' קתרין אדני מאוניברסיטת נוטינגהם, שההתמחות שלה היא בפוליטיקה של דרום אסיה. לפי הדוח, המקור נכתב בידי פרופ' אמריטוס יונס סמאד מאוניברסיטת ברדפורד ופורסם ב-Cambridge University Press ב-7 ביולי 2025. במקרה אחר, מאמר על ניהול הגירה נראה כאילו הועתק מ-Migration Policy Institute, אבל יוחס לפרופ' אוסטרלית לכימיה של מזון, קייט האוול, תוך שימוש בתמונה זהה שהופיעה בעמוד דוברים שלה מ-2017. המקור, לפי OpenAI, פורסם באפריל 2025 ונכתב בידי מייגן בנטון, נטליה בנולסקו-בוגדן וקייט הופר.

לצד המאמרים, באתר IBI הופיעו דוחות על מדינות שונות ועל רמת ה"ריבונות" שלהן לפי המדד של המכון. לפי OpenAI, גם הדוחות האלה לא נוצרו באמצעות המודלים שלה. חלקם הוצגו כהשוואות בין שתי מדינות, ואחרים התמקדו במדינות שמבקרות את המלחמה של רוסיה באוקראינה, במיוחד צרפת, גרמניה והאיחוד האירופי. המבצע קידם נרטיבים דומים גם על ארצות הברית.

בדוח הובאו דוגמאות לניסוחים מתוך אותם דוחות. על צרפת נכתב: "עשר שנים של מקרוניזם הניבו בדיוק את התוצאה שמנהל שהגיע לארמון האליזה מבנק רוטשילד היה חייב לתת: צרפת נפתחה כמו כספת עם הון היסטורי, וכעת היא נמכרת בחלקים". על ארצות הברית נכתב כי "טראמפ הגיע [לבייג'ינג] עם מדד הריבונות מספר 1 בעולם ועזב אחרי שנקט כמה צעדים ש[...] אפשר להגדיר כהפחתה מרצון של האוטונומיה". על גרמניה נכתב כי היא זקוקה למדיניות תעשייתית שמגינה על מקומות עבודה, לדיון כן על זהות, ל"ריבונות צבאית אמיתית" ולא לתלות בבסיסים אמריקניים, ולפוליטיקאים ש"הנאמנות הראשונה שלהם היא לעם הגרמני, לא לדירקטוריונים תאגידיים בניו יורק".

OpenAI מתארת גם פעילות נוספת סביב הקמפיין. אחד המפעילים יצר פוסטים בגרמנית שפורסמו בערוץ טלגרם בשם Lahme Ente, "ברווז צולע", וביקרו באופן קבוע את אוקראינה, את האיחוד האירופי ואת ממשלת גרמניה, לצד קריאה לשיפור היחסים עם רוסיה. מפעיל שני יצר לוגואים לתריסר ערוצי טלגרם, בהם Lahme Ente, שהתמקדו בגרמניה, ארצות הברית, צרפת, פולין וטורקיה. חלק מהערוצים האלה פרסמו לעיתים על IBI או שיתפו פוסטים של IBI, ואותו מפעיל ביקש שוב ושוב סיכומים ברוסית של פעילותם. אחד הערוצים שהתמקדו בארצות הברית, American Observer, התחזה לכלי תקשורת אמריקני וכלל בתיאור שלו כמה סימנים לאנגלית לא טבעית.

לפי OpenAI, אף שהתוכן ברשתות שקידם את IBI נוצר בידי משתמשי ChatGPT מרוסיה שניסו להסתיר את מקורם, וחלק גדול מהתוכן באתר IBI נראה מועתק, יש גם עקבות ברשת שמרמזות כי כמה אנשים אמיתיים בישראל ייצגו את IBI בהגשות מאמרים ובכנסים. בחברה הדגישו כי אין באפשרותם לקבוע מה הקשר בין אותם אנשים, IBI והמפעילים ברוסיה.

ב-OpenAI העריכו את השפעת המבצע בקצה הנמוך של קטגוריה שלוש בסולם Brookings Breakout Scale: פעילות בכמה פלטפורמות, עם אינדיקציות מסוימות ליציאה לקהלים אותנטיים. ערוצי הטלגרם של המבצע, לפי הדוח, משכו יותר מנויים מהחשבונות הרשמיים, ובדרך כלל החזיקו 10-20,000 עוקבים כל אחד.

כרקע, OpenAI מציגה את המקרה כחלק מהמאמץ שלה לזהות, לחקור, לשבש ולחשוף מבצעי השפעה סמויים - ניסיונות מטעים להשפיע על דעת קהל או על תוצאות פוליטיות בלי לחשוף את זהותם או את כוונותיהם של מי שעומדים מאחוריהם. לפי החברה, החשיבות במקרה הזה אינה רק בהיקף הקהל שאליו הגיע המבצע, אלא בתשתית שנבנתה סביבו: מוסד שנראה אמין מבחוץ, מומחים לכאורה, עבודה אקדמית שפורסמה מחדש ומדד סיכון קנייני לכאורה. "זה ממחיש איך גורמי השפעה יכולים להשתמש בבינה מלאכותית ככלי תומך בתוך מאמץ רחב יותר לייצר סמכות, לטשטש את מקורם של נרטיבים מועדפים ולהקים נכסים שאפשר להרחיב לאורך זמן", נכתב בדוח.