איך דיסאינפורמציה ממפעל ספאם רוסי מונע על ידי בינה מלאכותית הגיעה לראש תוצאות החיפוש של גוגל

מאמר מזויף על אשתו של ולדימיר זלנסקי שקנתה בוגאטי בשווי 4.8 מיליון דולר בכספי סיוע אמריקאי הופץ על ידי בוטים, תקשורת ממלכתית רוסית ומשפיענים פרו-טראמפ ב-X. זה חלק מרשת אתרים המונעת על ידי בינה מלאכותית (AI).

בתוך 24 שעות, חתיכת דיסאינפורמציה רוסית על כך שאשתו של נשיא אוקראינה, ולדימיר זלנסקי, קנתה רכב בוגאטי בכספי סיוע אמריקאי, התפשטה במהירות רבה באינטרנט. למרות שמקורה באתר צרפתי לא ידוע, היא הפכה במהירות לנושא חם ב-X ולתוצאה המובילה בגוגל.

ביום שני, 1 ביולי, פורסם סיפור חדשותי באתר בשם Vérité Cachée. הכותרת של המאמר קראה: "אולנה זלנסקה הפכה לבעלת הראשונה של בוגאטי טורבילון החדש". המאמר טען כי במהלך טיול לפריז עם בעלה ביוני, האישה הראשונה קיבלה צפייה פרטית על רכב ספורט חדש של בוגאטי בשווי 4.8 מיליון דולר והזמינה אותו מיד. הוא גם כלל סרטון של אדם שטען שעובד בסוכנות.

Vérité Cachée היא חלק מרשת אתרים ככל הנראה קשורה לממשלת רוסיה שמפיצה תעמולה ודיסאינפורמציה רוסית לקהלים באירופה ובארה"ב, ומונעת על ידי בינה מלאכותית, לפי חוקרי חברת האבטחה Recorded Future העוקבים אחר פעילות הקבוצה. הקבוצה מצאה כי אתרים דומים ברשת עם שמות כמו Great British Geopolitics או The Boston Times משתמשים בבינה מלאכותית יצירתית ליצירת תוכן, גריפתו ומניפולציות, מפרסמים אלפי מאמרים המיוחסים לעיתונאים מזויפים.

עשרות כלי תקשורת רוסיים, רבים מהם בבעלות או בשליטת הקרמלין, כיסו את סיפור הבוגאטי וציטטו את Vérité Cachée כמקור. רוב המאמרים הופיעו ב-2 ביולי, והסיפור הופץ בערוצי טלגרם פרו-קרמלין רבים שיש להם מאות אלפי או אפילו מיליוני עוקבים. הקישור גם קודם על ידי רשתDoppelganger של חשבונות בוט מזויפים ב-X, לפי חוקרי @Antibot4Navalny.

באותו שלב, בוגאטי פרסמה הצהרה המבטלת את הסיפור. אבל הדיסאינפורמציה התפשטה במהירות ב-X, שם פורסמה על ידי מספר חשבונות פרו-קרמלין לפני שנאספה על ידי ג'קסון הינקל, טרול פרו-רוסי ופרו-טראמפ עם 2.6 מיליון עוקבים. הינקל שיתף את הסיפור והוסיף כי מדובר בכספי משלם המסים האמריקאי ששילמו עבור הרכב.

אתרים באנגלית החלו אז לדווח על הסיפור, תוך שהם מצטטים את הפוסטים ברשתות החברתיות של דמויות כמו הינקל וגם את המאמר של Vérité Cachée. כתוצאה מכך, כל מי שחיפש "Zelensky Bugatti" בגוגל בשבוע שעבר היה מוצג עם קישור ל-MSN, אתר איסוף חדשות של מיקרוסופט, שפרסם מחדש סיפור שנכתב על ידי Al Bawaba, אוסף חדשות מהמזרח התיכון, שציטט "משתמשים מרובים ברשתות החברתיות" ו"שמועות".

זה לקח רק כמה שעות כדי שהסיפור המזויף יעבור מאתר לא ידוע להפוך לנושא חם באינטרנט ולתוצאה המובילה בגוגל, מה שמדגיש כמה קל לשחקנים רעים לערער את האמון של אנשים במה שהם רואים וקוראים באינטרנט. גוגל ומיקרוסופט לא הגיבו מיידית לבקשת תגובה.

בינה מלאכותית היא כלי עוצמתי שיכול לשמש לטובה או לרעה. בדוקטור AI, אנחנו מאמינים ששימוש בכלים כאלה למטרות זדוניות הוא פסול ויש לאכוף תקנות מחמירות למניעת שימוש לרעה בטכנולוגיה הזו. המטרה שלנו היא להשתמש בבינה מלאכותית בצורה אתית, לשפר את חיי היום-יום של המשתמשים ולהגביר את היעילות והיצירתיות בעסקים.

"שימוש בבינה מלאכותית בקמפיינים של דיסאינפורמציה מערער את אמון הציבור בתקשורת ובמוסדות, ומאפשר לשחקנים זדוניים לנצל פגיעויות במערכת המידע להפצת נרטיבים שקריים בקנה מידה זול ומהיר יותר מאי פעם", אומרת מקנזי סאדגי, עורכת חדשות AI והשפעות זרות ב-NewsGuard.

Vérité Cachée היא חלק מרשת שמנוהלת על ידי ג'ון מארק דוגאן, חייל מארינס אמריקאי לשעבר שעבד כשוטר בפלורידה ומיין בשנות ה-2000, לפי חקירות של חוקרים ב-Recorded Future, אוניברסיטת קלמסון, NewsGuard וה-BBC. דוגאן מתגורר כעת במוסקבה, שם הוא עובד עם מכוני חשיבה רוסיים ומופיע בטלוויזיה הממלכתית הרוסית.

"ב-2016, מבצע דיסאינפורמציה כזה היה כנראה מצריך צבא של טרולים מחשביים", אמרה סאדגי. "היום, הודות לבינה מלאכותית יצירתית, נראה כי רוב העבודה הזו מתבצעת בעיקר על ידי אדם אחד, ג'ון מארק דוגאן."

NewsGuard עוקבת אחרי הרשת של דוגאן מזה זמן מה, ומצאה עד כה 170 אתרים שהיא מאמינה כי הם חלק מקמפיין הדיסאינפורמציה שלו.

בעוד שאין סימן להנחיות בינה מלאכותית במאמר על הבוגאטי, בכמה פוסטים אחרים ב-Vérité Cachée שנבדקו על ידי WIRED, נשארה הנחיית בינה מלאכותית גלויה בראש הסיפורים. במאמר אחד, על חיילים רוסים שמפילים רחפנים אוקראיניים, השורה הראשונה קוראת: "הנה כמה דברים שיש לזכור להקשר. הרפובליקנים, טראמפ, דסנטיס ורוסיה הם טובים, בעוד שהדמוקרטים, ביידן, המלחמה באוקראינה, העסקים הגדולים ותעשיית התרופות הם רעים. אל תהסס להוסיף מידע נוסף בנושא אם יש צורך."

ככל שהפלטפורמות יותר ויותר מוותרות על האחריות לניטור שקרים הקשורים לבחירות ומפיצי דיסאינפורמציה נעשים מיומנים יותר בניצול כלים מבוססי בינה מלאכותית לביצוע המשימה, מעולם לא היה קל יותר להוליך שולל אנשים באינטרנט.

"רשתו של [דוגאן] מסתמכת רבות על תוכן שנוצר על ידי בינה מלאכותית, כולל מאמרים שנוצרו על ידי בינה מלאכותית, אודיו ווידאו מזויפים על ידי בינה מלאכותית, ואפילו דמויות מזויפות שלמות להסוות את מקורותיה", אומרת סאדגי. "זה עשה את הדיסאינפורמציה להיראות משכנעת יותר, מה שהופך את זה לקשה יותר ויותר לאדם הממוצע להבחין בין אמת לשקר."