שיבוש קמפיין השפעה חשאי חדש מרוסיה

המשימה שלנו היא להבטיח שבינה מלאכותית כללית תועיל לאנושות כולה. אנחנו מקדמים את המשימה הזו באמצעות יישום החידושים שלנו לבניית כלי בינה מלאכותית שעוזרים לאנשים לפתור בעיות מורכבות. במסגרת זו אנחנו בונים כלים שמאפשרים לנו לזהות, לחקור, לשבש ולחשוף מבצעי השפעה חשאיים (IO): ניסיונות להשפיע במרמה על דעת הקהל או על תוצאות פוליטיות, בלי לחשוף את זהותם האמיתית או את כוונותיהם של הגורמים העומדים מאחוריהם.

לאחרונה חסמנו קבוצת חשבונות ChatGPT שמקורם ברוסיה וששימשו לקידום מכון ברק הבינלאומי (IBI), המגדיר את עצמו כ״קהילת מומחים״ שבסיסה בישראל. מה שהחל כחקירת פוסטים ברשתות החברתיות שנוצרו באמצעות בינה מלאכותית הוביל אותנו למבצע השפעה רחב הרבה יותר. המבצע נבנה סביב אתר המכיל עבודות אקדמיות שהועתקו ויוחסו לאנשים שלא כתבו אותן, מדד ״ריבונות״ בשם מדד ברק לריבונות שהציג את רוסיה באור חיובי, ומאמצים להסוות את מוצאם הרוסי של המפעילים. אף שנראה שהקמפיין הגיע לקהלים קטנים יחסית, המבנה המורכב שלו מבדיל אותו ממבצעי⁠(נפתח בחלון חדש) השפעה⁠(נפתח בחלון חדש) אחרים הקשורים לרוסיה⁠(נפתח בחלון חדש) ששיבשנו⁠(נפתח בחלון חדש) מאז תחילת המלחמה באוקראינה. הדוח הזה מסביר כיצד פעל המבצע, מה היה תפקידו של ChatGPT בו ומה עשינו כדי לשבש אותו.

חסמנו קבוצת חשבונות ChatGPT שמקורם, בסבירות גבוהה מאוד, ברוסיה. המפעילים הזינו הנחיות ברוסית כדי ליצור תגובות לרשתות החברתיות, שפורסמו ב-Substack, בטלגרם, ב-X, בפייסבוק וב-LinkedIn. רוב התגובות שיצרו היו באנגלית, והמפעילים הנחו את ChatGPT להסתיר כל רמז לשוני לכך שהם רוסים. מכיוון שאיננו מאפשרים גישה למודלים שלנו מרוסיה, הם השתמשו ברשתות VPN כדי לגשת לפלטפורמה שלנו.

חלק ניכר מהתוכן שנוצר נועד לקדם גוף בשם מכון ברק הבינלאומי (IBI), המגדיר את עצמו כ״קהילת מומחים״. המותג IBI היה מזוהה עם אתר שנרשם בפברואר 2025. באתר נטען שבסיסו של המכון בישראל. המאמרים שפורסמו באתר לא נוצרו באמצעות המודלים שלנו. רבים מהם הועתקו מכתבים אקדמיים אמיתיים, ולעיתים יוחסו לאנשים שלא כתבו אותם; נראה שחלקם נוסחו בידי דובר שפה סלאבית ותורגמו בתרגום מכונה. למשל, בצילום המסך שלהלן מאתר IBI מופיע ביטוי לא טבעי, שההסבר הסביר ביותר לו הוא תרגום מכונה מילולי משפה סלאבית.

למיטב ידיעתנו, זהו קמפיין השפעה חשאי חדש שלא דווח עליו בעבר. המאפיין הבולט ביותר שלו הוא יצירת ״מדד הריבונות״, שקודם בידי ״מכון המחקר״ לכאורה כדי להלל את רוסיה ולהשמיץ מדינות מערביות. זו הפעם הראשונה ששיבשנו מבצע השפעה הקשור לרוסיה, שהושקעו בו מאמצים מורכבים כל כך.

השימוש העיקרי ב-ChatGPT במסגרת המבצע היה יצירת פוסטים לרשתות החברתיות שקידמו מאמרים באתר IBI. זיהינו את הפוסטים האלה ב-X, ב-LinkedIn, בפייסבוק, ב-Substack ובטלגרם. חלקם פורסמו בחשבונות שנשאו את השם והלוגו של IBI; אחרים נראו כאילו הגיעו ממשתמשים מן השורה (ככל הנראה לא אותנטיים), שעיקר פעילותם היה פרסום מאמרים של IBI.

לצד הפוסטים היזומים האלה, המפעילים יצרו גם תגובות לפוסטים של משתמשי Substack אמיתיים במגוון נושאים. התגובות האלה כללו בדרך כלל בקשה לעקוב אחר ערוץ IBI, ופורסמו ב-Substack דרך החשבון של IBI.

נוסף על יצירת תוכן על IBI, אחד המפעילים יצר פוסטים בגרמנית שפורסמו בערוץ טלגרם בשם ״ברווז צולע״ (בגרמנית: Lahme Ente). הפוסטים האלה מתחו בקביעות ביקורת על אוקראינה, על האיחוד האירופי ועל ממשלת גרמניה, וקראו לשיפור היחסים עם רוסיה.

מפעיל שני, לצד התוכן שלו הקשור ל-IBI, יצר סמלי לוגו לתריסר ערוצי טלגרם (ובהם ברווז צולע) שעסקו בגרמניה, בארצות הברית, בצרפת, בפולין ובטורקיה. חלק מהערוצים האלה פרסמו מדי פעם תוכן על IBI, או שיתפו פוסטים של IBI עצמו. המפעיל השני גם ביקש שוב ושוב סיכומים ברוסית של פעילות הערוצים האלה. באחד הערוצים שהתמקדו בארצות הברית והתחזה לכלי תקשורת אמריקאי, תיאור הפרופיל כלל סימנים רבים לכך שלא נכתב בידי דובר ילידי.

נראה שמכון ברק הבינלאומי (IBI) עמד במרכז המבצע הזה, אם כי הפעילות ששיבשנו התמקדה בתוכן ברשתות החברתיות שקידם את האתר או הפנה אליו, ולא בתוכן שפורסם באתר עצמו.

האתר הציג את עצמו כ״קהילת מומחים״ בעלת כתובת פיזית בישראל. נכון ל-17 ביולי, האתר הציג שורה ארוכה של מומחים מהשורה הראשונה בעולם כמשתייכים למכון, ובהם אישים בולטים כמו פרנסיס פוקויאמה ונועם חומסקי, ופרסם מגוון רחב של מחקרים. עם זאת, בבדיקת מדגם של 36 מאמרים ששויכו למומחים באתר IBI ופורסמו בין ספטמבר 2025 למאי 2026, נמצא כי 34 מהם הועתקו ממקורות אחרים באינטרנט.

חלק מהמאמרים האלה היו בני כמה שנים; אחרים יוחסו לאנשים שלא כתבו אותם. למשל, נראה שמאמר על המסדרון הכלכלי סין–פקיסטן הועתק ממאמר מקורי של הוצאת אוניברסיטת קיימברידג׳, אך יוחס שלא בצדק לפרופסור מאוניברסיטת נוטינגהאם המתמחה בפוליטיקה של דרום אסיה.

נראה שמאמר אחר, העוסק במשילות בתחום ההגירה, הועתק מהמכון למדיניות הגירה, אך יוחס שלא בצדק לפרופסור אוסטרלית למדעי המזון. התנהלות זו מעידה על רצון להקנות לאתר IBI מראית עין לגיטימית יותר באמצעות מילויו בתוכן אותנטי, תוך טשטוש מקורו האמיתי.

לצד המאמרים האלה, אתר IBI כלל דוחות על מדינות שונות ועל ריבונותן, כפי שנמדדה במדד של המכון. הדוחות האלה לא נוצרו באמצעות המודלים שלנו. חלק מהדוחות הוצגו כהשוואות בין שתי מדינות. אחרים התמקדו במדינות בודדות, ובייחוד במדינות המבקרות את מלחמתה של רוסיה באוקראינה, כמו צרפת וגרמניה, וכן באיחוד האירופי. המבצע קידם נרטיבים דומים על ארצות הברית. הדוחות היו בדרך כלל ביקורתיים, ולעיתים גלשו לפולמוס. הנה כמה דוגמאות:

• צרפת⁠(נפתח בחלון חדש): ״עשר שנות מקרוניזם הניבו בדיוק את התוצאה שאפשר היה לצפות לה ממנהל שהגיע לארמון האליזה מבנק רוטשילד: צרפת נפתחה כמו כספת של הון היסטורי, וכעת היא נמכרת בחלקים.״

• ארצות הברית⁠(נפתח בחלון חדש): ״טראמפ הגיע [לבייג׳ינג] כשהוא מדורג ראשון בעולם במדד הריבונות, ועזב לאחר שנקט כמה צעדים ש[...] אפשר להגדיר כצמצום מרצון של האוטונומיה.״

• גרמניה⁠(נפתח בחלון חדש): ״גרמניה זקוקה למדיניות תעשייתית שמגינה על מקומות עבודה, ולא רק על מחירי מניות. המדינה זקוקה לדיון כן על זהות, ללא טאבו והיסטריה. היא זקוקה לריבונות צבאית אמיתית, ולא לתלות בבסיסים אמריקאיים. והיא זקוקה לפוליטיקאים שנאמנותם היא קודם כול לעם הגרמני, ולא לדירקטוריונים של תאגידים בניו יורק.״

• האיחוד האירופי⁠(נפתח בחלון חדש): ״סלובקיה מול איטליה: הפרדוקסים של ריבונות המדינות המוחזקות כבנות ערובה בידי האיחוד ה׳גדול׳״

התוכן ברשתות החברתיות שקידם את IBI נוצר בידי משתמשי ChatGPT ברוסיה, שהקפידו להסתיר את מוצאם, ונראה שחלק ניכר מהתוכן באתר IBI הועתק ממקורות אחרים. עם זאת, עקבות מסוימים ברשת מצביעים על כך שייתכן שגם קומץ אנשים אמיתיים בישראל ייצגו את IBI בהגשת מאמרים ובכנסים. אין בידינו לקבוע מה טיב הקשר בין האנשים האלה, IBI והמפעילים ברוסיה.

נראה שההשפעה המיידית של המבצע הייתה מוגבלת: פוסטים טיפוסיים ברשתות החברתיות זכו למעט צפיות בלבד, ולחשבונות הרשמיים של IBI היו מעט מנויים. נראה שערוצי הטלגרם של המבצע משכו יותר מנויים, ובדרך כלל היו לכל אחד מהם בין 10,000 ל-20,000 עוקבים. בהערכת השפעת המבצע לפי סולם הפריצה⁠(נפתח בחלון חדש) של מכון ברוקינגס, היינו ממקמים אותו בקצה התחתון של קטגוריה שלוש (פעילות בכמה פלטפורמות, עם סימנים מסוימים להגעה לקהלים אותנטיים).

עם זאת, חשיבותו של המבצע טמונה פחות בקהל שאליו הגיע ויותר בתשתית שנבנתה במסגרתו. הגורמים שמאחוריו השתמשו ב-ChatGPT רק כדי ליצור פוסטים בודדים לקידום המכון, אך הפוסטים האלה הפנו למוסד שנראה אמין לכאורה, עם מומחים כביכול, עבודות אקדמיות שפורסמו מחדש ומדד סיכונים שנטען כי פותח על ידו. הדבר ממחיש כיצד גורמים המנהלים מבצעי השפעה יכולים להשתמש בבינה מלאכותית ככלי עזר במסגרת מאמץ רחב יותר לייצר מראית עין של סמכות, לטשטש את מקורם של נרטיבים רצויים ולבנות נכסים שאפשר להרחיב את היקפם לאורך זמן. הוא גם ממחיש כיצד השימוש שלהם בבינה מלאכותית ככלי עזר יכול להוביל לחשיפת המבצע הרחב יותר.